На прошлой неделе Google незаметно выпустил приложение, позволяющее запускать на смартфонах множество открытых ИИ-моделей с платформы разработки Hugging Face.
Приложение под названием Google AI Edge Gallery доступно для Android, а вскоре появится и для iOS. Оно позволяет находить, загружать и запускать совместимые модели, которые генерируют изображения, отвечают на вопросы, пишут и редактируют код и выполняют другие задачи. Модели работают офлайн, без подключения к интернету, используя процессоры поддерживаемых устройств.
Облачные ИИ-модели часто мощнее локальных аналогов, но у них есть недостатки. Некоторые пользователи могут опасаться передавать личные или конфиденциальные данные в удалённые центры обработки данных или хотят иметь доступ к моделям без необходимости поиска Wi-Fi или мобильного соединения.
Google AI Edge Gallery, названный компанией «экспериментальной альфа-версией», можно загрузить из GitHub по инструкциям. На главном экране приложения отображаются ярлыки для ИИ-задач, таких как «Ask Image» и «AI Chat». При выборе функции открывается список подходящих моделей, включая, например, Gemma 3n от Google.
Приложение также предоставляет «Prompt Lab» для выполнения одношаговых задач с использованием моделей: суммаризации текста, его переформулирования и других. Эта функция включает несколько шаблонов задач и настраиваемые параметры для тонкой настройки поведения моделей.
Как предупреждает Google, производительность может варьироваться. Современные устройства с мощным «железом» обрабатывают модели быстрее, но размер модели также имеет значение. Крупным моделям требуется больше времени для выполнения задач — например, ответа на вопрос об изображении — по сравнению с компактными.
Компания призывает разработчиков делиться отзывами о работе с Google AI Edge Gallery. Приложение распространяется под лицензией Apache 2.0, разрешающей использование в большинстве сценариев, включая коммерческие, без ограничений.