Google nhét AI tìm kiếm vào điện thoại, chưa đến 600MB, vẫn tìm được ảnh, video, ghi âm dù không có mạng
Ngày 6/10, Google mô hình nhúng mã nguồn mở EmbeddingGemma 2, một công cụ tìm kiếm đa phương thức có thể xử lý văn bản, hình ảnh, video và âm thanh, với kích thước chỉ dưới 600MB. Với 740 triệu tham số, mô hình này có thể chạy ngoại tuyến trên điện thoại, máy tính xách tay và trình duyệt.
Đây là mô hình nhúng đa phương thức mã nguồn mở đầu tiên của Google, cho phép tìm kiếm cục bộ trên thiết bị. Người dùng có thể nhập một truy vấn bằng ngôn ngữ tự nhiên (ví dụ: "chim đang hót") để tìm thấy đồng thời cả ảnh và bản ghi âm phù hợp, tất cả mà không cần kết nối mạng hoặc gọi API.
Mô hình ánh xạ văn bản, hình ảnh và âm thanh vào cùng một không gian vector 768 chiều, cho phép tìm kiếm chéo giữa các phương thức. Nó hỗ trợ cửa sổ ngữ cảnh 8K và hơn 100 ngôn ngữ. Trong các bài kiểm tra, EmbeddingGemma 2 vượt trội so với các mô hình cùng quy mô trong việc tìm kiếm hình ảnh và video.
Các thành phần có thể được tải theo nhu cầu: chỉ văn bản (270MB), văn bản + hình ảnh (440MB) hoặc đầy đủ đa phương thức (khoảng 567MB). Mô hình cũng hỗ trợ lượng tử hóa để giảm hơn nữa dung lượng lưu trữ mà vẫn giữ được hiệu suất cao.
Các ứng dụng tiềm năng bao gồm tìm kiếm phương tiện cục bộ trong thư viện ảnh, định vị khoảnh khắc trong video và RAG (Truy xuất-Tăng cường-Tạo) ưu tiên quyền riêng tư khi kết hợp với các mô hình LLM như Gemma 4. Khả năng tìm kiếm mã nguồn cũng được cải thiện đáng kể, hỗ trợ các tác nhân lập trình làm việc với kho mã cục bộ.
EmbeddingGemma 2 đưa khả năng tìm kiếm đa phương thức bằng AI tiên tiến vào các thiết bị cá nhân, mang lại sự tiện lợi, tốc độ và bảo mật cho việc tìm kiếm dữ liệu cá nhân mà không cần đám mây.
marsbit10/08 02:18
