AI tên tuổi có thể chiếm hết mọi tiêu đề, nhưng đằng sau hậu trường, có một cuộc cách mạng khác đang diễn ra. Các chatbot AI đang dần dần nhưng chắc chắn di chuyển lên điện thoại thông minh - không được kết nối với đám mây, mà chạy cục bộ và riêng tư trên chính thiết bị. Gần đây, tôi đã dành thời gian thử nghiệm ba ứng dụng trò chuyện AI miễn phí mới cho Android để tìm hiểu xem chúng có đáng cài đặt hay không.
Động lực đằng sau động thái chuyển sang thiết bị di động này là sự gia tăng và gia tăng của các mô hình AI nguồn mở cực kỳ có khả năng như Llama 3.2, hiện có thể tiếp cận hiệu suất của các mô hình lớn nhưng với kích thước nhỏ hơn nhiều.
Vẫn còn sớm để nói về các ứng dụng này, nhưng từ những gì tôi thấy thì đây là thứ sẽ thực sự thay đổi cách chúng ta truy cập thông tin trong tương lai. Các bài kiểm tra của tôi đã tiết lộ ba chatbot tốt đến kinh ngạc. Một điều đáng chú ý hơn nữa với tài nguyên ít ỏi của điện thoại Android của tôi. Tôi thực sự bị sốc bởi mức độ thỏa mãn khi sử dụng chúng.
Chatbot này có cách tiếp cận thú vị về việc thêm AI vào điện thoại. Thay vì cung cấp các thiết lập và cài đặt phức tạp, ứng dụng cung cấp một số tùy chọn cài đặt AI giới hạn, giúp người mới dễ hiểu hơn. Cài đặt nhanh chóng và dễ dàng, và quyết định duy nhất mà người dùng phải đưa ra là sử dụng cài đặt Nhanh, Cân bằng hay Độ chính xác cao, đại diện cho AI đang sử dụng.
Rõ ràng là tốc độ phải đánh đổi với sự tinh vi, nhưng có một điều cần nói là ý tưởng này có vẻ rất hiệu quả. Ví dụ, cài đặt Nhanh cực kỳ nhanh. Không nhanh bằng ChatGPT, nhưng khi bạn cân nhắc rằng ứng dụng này chạy trên một bộ xử lý điện thoại thông minh có bộ nhớ tối thiểu, thì tốc độ phản hồi hiện lên trên màn hình thực sự là một điều kỳ diệu.
Giao diện người dùng dễ sử dụng, chỉ có hộp trò chuyện và màn hình phản hồi, và một tính năng tuyệt vời là bạn có thể nhấn vào biểu tượng micrô và nói chuyện với người mẫu thay vì phải vất vả nhập yêu cầu của mình. Nhược điểm duy nhất là chức năng sao chép và dán khi nhấn và giữ để lấy văn bản phản hồi của AI dường như bị hỏng. Hy vọng rằng các nhà phát triển sẽ sớm khắc phục lỗi này.
Tải xuống Local AI trên Play Store tại đây.
AI riêng tư có cách tiếp cận thông thường hơn bằng cách cung cấp các tùy chọn cấu hình để người dùng có thể tùy chỉnh ứng dụng theo nhu cầu của họ. Điều này bao gồm việc tải xuống nhiều lựa chọn các mẫu mã nguồn mở vào điện thoại, như Mistral, Gemma, Phi, TinyLlama và các mẫu tương tự.
Tuy nhiên, lưu ý rằng nếu bạn có điện thoại thông minh có thông số kỹ thuật tiêu chuẩn, bạn sẽ không muốn tải xuống bất kỳ mẫu nào có kích thước trên 1 đến 3 GB. Ngoài ra, mọi thứ thực sự chạy rất chậm.
Phương trình kích thước mẫu so với tốc độ là một hạn chế liên tục của các ứng dụng này. Thực tế là điện thoại thông minh hiện tại, ngoài các mẫu rất cao cấp, không được chế tạo để xử lý AI. Kết quả là hầu hết các phản hồi sẽ khá chậm ngay cả khi sử dụng các mô hình nhỏ như Gemma 2. Tôi đã thử nghiệm nó trên Samsung Galaxy S20 và ngay cả ở kích thước khiêm tốn 1,9 gigabyte, nó vẫn khá chậm.
Ứng dụng này cũng thiếu các tiện ích cơ bản như xóa các cuộc trò chuyện trước đó khỏi lịch sử và tương đối thô sơ so với các ứng dụng khác trong bài kiểm tra này.
Tải xuống Private AI trên Cửa hàng Play tại đây.
Một trong những điều ngạc nhiên lớn nhất là ứng dụng Android miễn phí này tốt như thế nào. Điều làm cho nó trở nên đặc biệt là thực tế là nó dường như tối ưu hóa các mô hình nguồn mở tốt hơn các chatbot khác. Tôi đã có thể tải Llama 3.2 3B vào ứng dụng và có được hiệu suất tuyệt vời từ nó, tốt hơn các sản phẩm khác. Đây là một mô hình có kích thước hai gigabyte và có lẽ là một trong những mô hình tốt nhất trong cùng loại về kích thước, cho dù trên PC để bàn hay thiết bị di động. Vì vậy, tốc độ nhanh là một phần thưởng đáng ngạc nhiên.
Giống như Private AI, PocketPal cũng cung cấp một số tùy chọn tùy chỉnh của người dùng để điều chỉnh theo nhu cầu cụ thể của bạn. Điều này bao gồm các cài đặt bộ nhớ đệm khác nhau và cũng sử dụng sự chú ý của flash để xử lý nhanh hơn.
Một tính năng mà tôi đặc biệt thích là khả năng thêm lời nhắc hệ thống khác nhau vào từng mô hình riêng lẻ. Tôi nghĩ mình sẽ vui vẻ và thiết lập mô hình của mình để nói chuyện như một người London Cockney, điều này thật buồn cười trong một thời gian.
Nhìn chung, tôi thấy PocketPal là ứng dụng trưởng thành nhất trên nền tảng Android hiện tại, mang đến trải nghiệm chatbot AI trưởng thành trên điện thoại.
Mỗi tháng, ngày càng có nhiều ứng dụng như thế này xuất hiện trên cả điện thoại Android và Apple, vì vậy đây rõ ràng là một lĩnh vực có tương lai vững chắc khi công nghệ phát triển.
Tải PocketPal trên Cửa hàng Play ở đây.
Động lực đằng sau động thái chuyển sang thiết bị di động này là sự gia tăng và gia tăng của các mô hình AI nguồn mở cực kỳ có khả năng như Llama 3.2, hiện có thể tiếp cận hiệu suất của các mô hình lớn nhưng với kích thước nhỏ hơn nhiều.
Vẫn còn sớm để nói về các ứng dụng này, nhưng từ những gì tôi thấy thì đây là thứ sẽ thực sự thay đổi cách chúng ta truy cập thông tin trong tương lai. Các bài kiểm tra của tôi đã tiết lộ ba chatbot tốt đến kinh ngạc. Một điều đáng chú ý hơn nữa với tài nguyên ít ỏi của điện thoại Android của tôi. Tôi thực sự bị sốc bởi mức độ thỏa mãn khi sử dụng chúng.
1. AI cục bộ
Chatbot này có cách tiếp cận thú vị về việc thêm AI vào điện thoại. Thay vì cung cấp các thiết lập và cài đặt phức tạp, ứng dụng cung cấp một số tùy chọn cài đặt AI giới hạn, giúp người mới dễ hiểu hơn. Cài đặt nhanh chóng và dễ dàng, và quyết định duy nhất mà người dùng phải đưa ra là sử dụng cài đặt Nhanh, Cân bằng hay Độ chính xác cao, đại diện cho AI đang sử dụng.
Rõ ràng là tốc độ phải đánh đổi với sự tinh vi, nhưng có một điều cần nói là ý tưởng này có vẻ rất hiệu quả. Ví dụ, cài đặt Nhanh cực kỳ nhanh. Không nhanh bằng ChatGPT, nhưng khi bạn cân nhắc rằng ứng dụng này chạy trên một bộ xử lý điện thoại thông minh có bộ nhớ tối thiểu, thì tốc độ phản hồi hiện lên trên màn hình thực sự là một điều kỳ diệu.
Giao diện người dùng dễ sử dụng, chỉ có hộp trò chuyện và màn hình phản hồi, và một tính năng tuyệt vời là bạn có thể nhấn vào biểu tượng micrô và nói chuyện với người mẫu thay vì phải vất vả nhập yêu cầu của mình. Nhược điểm duy nhất là chức năng sao chép và dán khi nhấn và giữ để lấy văn bản phản hồi của AI dường như bị hỏng. Hy vọng rằng các nhà phát triển sẽ sớm khắc phục lỗi này.
Tải xuống Local AI trên Play Store tại đây.
2. AI riêng tư
AI riêng tư có cách tiếp cận thông thường hơn bằng cách cung cấp các tùy chọn cấu hình để người dùng có thể tùy chỉnh ứng dụng theo nhu cầu của họ. Điều này bao gồm việc tải xuống nhiều lựa chọn các mẫu mã nguồn mở vào điện thoại, như Mistral, Gemma, Phi, TinyLlama và các mẫu tương tự.
Tuy nhiên, lưu ý rằng nếu bạn có điện thoại thông minh có thông số kỹ thuật tiêu chuẩn, bạn sẽ không muốn tải xuống bất kỳ mẫu nào có kích thước trên 1 đến 3 GB. Ngoài ra, mọi thứ thực sự chạy rất chậm.
Phương trình kích thước mẫu so với tốc độ là một hạn chế liên tục của các ứng dụng này. Thực tế là điện thoại thông minh hiện tại, ngoài các mẫu rất cao cấp, không được chế tạo để xử lý AI. Kết quả là hầu hết các phản hồi sẽ khá chậm ngay cả khi sử dụng các mô hình nhỏ như Gemma 2. Tôi đã thử nghiệm nó trên Samsung Galaxy S20 và ngay cả ở kích thước khiêm tốn 1,9 gigabyte, nó vẫn khá chậm.
Ứng dụng này cũng thiếu các tiện ích cơ bản như xóa các cuộc trò chuyện trước đó khỏi lịch sử và tương đối thô sơ so với các ứng dụng khác trong bài kiểm tra này.
Tải xuống Private AI trên Cửa hàng Play tại đây.
3. PocketPal
Một trong những điều ngạc nhiên lớn nhất là ứng dụng Android miễn phí này tốt như thế nào. Điều làm cho nó trở nên đặc biệt là thực tế là nó dường như tối ưu hóa các mô hình nguồn mở tốt hơn các chatbot khác. Tôi đã có thể tải Llama 3.2 3B vào ứng dụng và có được hiệu suất tuyệt vời từ nó, tốt hơn các sản phẩm khác. Đây là một mô hình có kích thước hai gigabyte và có lẽ là một trong những mô hình tốt nhất trong cùng loại về kích thước, cho dù trên PC để bàn hay thiết bị di động. Vì vậy, tốc độ nhanh là một phần thưởng đáng ngạc nhiên.
Giống như Private AI, PocketPal cũng cung cấp một số tùy chọn tùy chỉnh của người dùng để điều chỉnh theo nhu cầu cụ thể của bạn. Điều này bao gồm các cài đặt bộ nhớ đệm khác nhau và cũng sử dụng sự chú ý của flash để xử lý nhanh hơn.
Một tính năng mà tôi đặc biệt thích là khả năng thêm lời nhắc hệ thống khác nhau vào từng mô hình riêng lẻ. Tôi nghĩ mình sẽ vui vẻ và thiết lập mô hình của mình để nói chuyện như một người London Cockney, điều này thật buồn cười trong một thời gian.
Nhìn chung, tôi thấy PocketPal là ứng dụng trưởng thành nhất trên nền tảng Android hiện tại, mang đến trải nghiệm chatbot AI trưởng thành trên điện thoại.
Mỗi tháng, ngày càng có nhiều ứng dụng như thế này xuất hiện trên cả điện thoại Android và Apple, vì vậy đây rõ ràng là một lĩnh vực có tương lai vững chắc khi công nghệ phát triển.
Tải PocketPal trên Cửa hàng Play ở đây.
- Tôi đã tạo ra hơn một chục ứng dụng cá nhân bằng AI trong 60 ngày, đây là những gì tôi học được
- OpenAI xác nhận ra mắt mô hình AI 'o3 Mini' có thể tạm dừng để 'suy nghĩ' — đây là cách thức hoạt động của nó
- OpenAI có thể sớm điều khiển PC của bạn — những gì chúng tôi biết về công cụ tác nhân mới
