Ứng dụng thử nghiệm này, hiện có trên Android và sắp có trên iOS, cho phép bạn chạy các mô hình ngôn ngữ lớn (LLM) trực tiếp trên điện thoại thông minh của mình, ở chế độ ngoại tuyến, do đó đảm bảo tính bảo mật cao hơn cho các trao đổi của bạn.
Trực tiếp trên GitHub, AI Edge Gallery không chỉ là một chatbot ngoại tuyến. Google đã thiết kế một giải pháp trọn gói, cho phép bạn tải xuống và sử dụng các mô hình ngôn ngữ khác nhau trực tiếp trên điện thoại thông minh của mình. Ứng dụng này đã cung cấp bốn mô hình mặc định, bao gồm ba biến thể của Gemma-3 gần đây của Google và một mô hình Qwen từ Alibaba, với khả năng nhập các mô hình khác từ các nền tảng như Hugging Face.
Với chế độ Prompt Lab, chúng tôi tìm thấy các giải pháp phù hợp hơn với những người sáng tạo và nhà phát triển, chẳng hạn như khả năng tổng hợp hoặc viết lại văn bản, thậm chí tạo mã máy tính. Một loại hộp công cụ cho các dự án phát triển và văn bản. Cuối cùng, AI Chat được định vị theo cùng hướng với ChatGPT hoặc Gemini bằng cách cung cấp trải nghiệm chatbot truyền thống. Chế độ này cho phép bạn giao tiếp với AI, đặt câu hỏi và nhận được câu trả lời ngay lập tức, tất cả đều không cần kết nối internet.
Tuy nhiên, Google đã tối ưu hóa các mẫu này để sử dụng trên thiết bị di động. Không giống như các phiên bản khổng lồ chạy trong các trung tâm dữ liệu, các mẫu nhẹ này có ít thông số hơn, khiến chúng tương thích với chip ARM trong điện thoại thông minh của chúng ta. Sự đánh đổi? Đôi khi ít sắc thái hoặc phản hồi sáng tạo hơn so với các đối tác đám mây của họ, nhưng khả năng di động và quyền riêng tư không gì sánh bằng.
Mặc dù có một số hạn chế hiện tại, chẳng hạn như thiếu tương tác bằng giọng nói theo thời gian thực, tiềm năng của ứng dụng này đối với thử nghiệm AI ngoại tuyến tập trung vào quyền riêng tư là không thể phủ nhận. Phiên bản iPhone cũng đang được lên kế hoạch, nhưng ngày phát hành vẫn chưa được biết.
AI trong tầm tay bạn, không cần máy chủ
Một trong những điểm hấp dẫn chính của AI Edge Gallery nằm ở khả năng giải phóng người dùng khỏi những ràng buộc của máy chủ từ xa. Không còn phải định tuyến các yêu cầu của bạn thông qua các nền tảng trực tuyến, vốn theo bản chất của chúng, đặt ra câu hỏi về việc quản lý thông tin cá nhân của bạn. Với ứng dụng mới này, quá trình xử lý dữ liệu được thực hiện hoàn toàn cục bộ trên thiết bị của bạn, mang lại quyền kiểm soát lớn hơn đối với tính bảo mật của các tương tác của bạn với AI.Trực tiếp trên GitHub, AI Edge Gallery không chỉ là một chatbot ngoại tuyến. Google đã thiết kế một giải pháp trọn gói, cho phép bạn tải xuống và sử dụng các mô hình ngôn ngữ khác nhau trực tiếp trên điện thoại thông minh của mình. Ứng dụng này đã cung cấp bốn mô hình mặc định, bao gồm ba biến thể của Gemma-3 gần đây của Google và một mô hình Qwen từ Alibaba, với khả năng nhập các mô hình khác từ các nền tảng như Hugging Face.
Một ứng dụng đa năng
Giao diện của ứng dụng được chia thành ba chức năng chính. Chế độ đầu tiên, Hỏi hình ảnh, cho phép bạn phân tích hình ảnh và lấy thông tin có liên quan bằng AI, mà không cần thông tin phải rời khỏi điện thoại của bạn. Đó có thể là một loài cây, một tượng đài hoặc thậm chí là một chiếc đĩa.
Với chế độ Prompt Lab, chúng tôi tìm thấy các giải pháp phù hợp hơn với những người sáng tạo và nhà phát triển, chẳng hạn như khả năng tổng hợp hoặc viết lại văn bản, thậm chí tạo mã máy tính. Một loại hộp công cụ cho các dự án phát triển và văn bản. Cuối cùng, AI Chat được định vị theo cùng hướng với ChatGPT hoặc Gemini bằng cách cung cấp trải nghiệm chatbot truyền thống. Chế độ này cho phép bạn giao tiếp với AI, đặt câu hỏi và nhận được câu trả lời ngay lập tức, tất cả đều không cần kết nối internet.
Những hạn chế cần lưu ý
Việc chạy các mô hình ngôn ngữ cục bộ trên điện thoại thông minh có những lợi thế rõ ràng, nhưng cũng có những bất lợi và hạn chế cần cân nhắc. Thật vậy, thời gian phản hồi cho một truy vấn sẽ phụ thuộc rất nhiều vào kiểu điện thoại thông minh được sử dụng, một số thiết bị nhanh hơn những thiết bị khác tùy thuộc vào cấu hình của chúng. Điều quan trọng nữa là phải cân nhắc trọng lượng của các kiểu máy này, thường được đo bằng gigabyte, sẽ yêu cầu đủ dung lượng lưu trữ trên thiết bị của bạn. Theo phát hiện của chúng tôi, kích thước dao động từ 554,7 MB đến 4,4 GB, với một số mẫu dễ dàng vượt quá 1 GB.
Tuy nhiên, Google đã tối ưu hóa các mẫu này để sử dụng trên thiết bị di động. Không giống như các phiên bản khổng lồ chạy trong các trung tâm dữ liệu, các mẫu nhẹ này có ít thông số hơn, khiến chúng tương thích với chip ARM trong điện thoại thông minh của chúng ta. Sự đánh đổi? Đôi khi ít sắc thái hoặc phản hồi sáng tạo hơn so với các đối tác đám mây của họ, nhưng khả năng di động và quyền riêng tư không gì sánh bằng.
Phiên bản alpha đầy hứa hẹn và hoàn toàn miễn phí
Hiện đang ở phiên bản "alpha" và có sẵn thông qua tải xuống APK trên GitHub, AI Edge Gallery vẫn chưa có trên Play Store. Cách tiếp cận này cho phép Google thu thập phản hồi từ "những người dùng đầu tiên" trước khi phát hành chung. Nó hướng đến đối tượng được thông báo nhiều hơn, ngay cả khi cài đặt thủ công trên điện thoại thông minh Android vẫn đơn giản để thực hiện.Mặc dù có một số hạn chế hiện tại, chẳng hạn như thiếu tương tác bằng giọng nói theo thời gian thực, tiềm năng của ứng dụng này đối với thử nghiệm AI ngoại tuyến tập trung vào quyền riêng tư là không thể phủ nhận. Phiên bản iPhone cũng đang được lên kế hoạch, nhưng ngày phát hành vẫn chưa được biết.
