API-интерфейсы GenAI из ML Kit используют возможности Gemini Nano , чтобы помочь вашим приложениям выполнять задачи. Эти API обеспечивают непревзойденное качество для популярных сценариев использования благодаря высокоуровневому интерфейсу. API-интерфейсы GenAI из ML Kit построены на основе AICore — системной службы Android, которая обеспечивает выполнение базовых моделей GenAI на устройстве, обеспечивая такие функции, как расширенная функциональность приложений и повышение конфиденциальности пользователей за счет локальной обработки данных.
Использование API GenAI регулируется дополнительными условиями обслуживания ML Kit GenAI API . Разработчики несут исключительную ответственность за безопасность своего API-клиента и удобство использования своих приложений.
Ключевые особенности
API-интерфейсы GenAI ML Kit поддерживают следующие функции:
- Резюмирование : Составляйте краткие пересказы статей или бесед в виде маркированного списка.
- Корректура : Улучшение краткого текста путем доработки грамматики и исправления орфографических ошибок.
- Переписывание : переписывайте короткие сообщения в разных тонах и стилях.
- Описание изображения : создайте краткое описание данного изображения.
- Подсказка : создание текстового контента на основе пользовательского текстового или многомодального подсказки.
Преимущества API GenAI
Подобно другим существующим функциям ML Kit, API-интерфейсы GenAI работают полностью на устройстве и, таким образом, обеспечивают следующие преимущества:
- Входные, выводные и выходные данные обрабатываются локально.
- Функциональность остается прежней без надежного подключения к Интернету.
- Никаких дополнительных затрат на сервер для каждого вызова API.
Кроме того, поскольку API GenAI построены на базе AICore и работают на базе Gemini Nano, каждое приложение может использовать общую модель Gemini Nano, имеющуюся на устройстве. Это избавляет от необходимости ждать загрузки модели, если она уже есть на устройстве, и, в свою очередь, экономит место в хранилище. Узнайте больше о том, как AICore изолирует запросы для защиты конфиденциальности .
Потоковое вещание против непотокового вещания
API GenAI из ML Kit предлагают как потоковые, так и непоточные варианты получения результатов. Потоковый API доставляет ответы постепенно, по мере их генерации, обеспечивая непрерывный поток данных. В отличие от него, непотоковый API дожидается завершения всего ответа, прежде чем вернуть его единым блоком.
Для длинных ответов выбирайте потоковый API, так как он обеспечивает более быструю первоначальную обратную связь. Непотоковый API больше подходит для коротких ответов или пакетной обработки результатов.
Поддержка устройств
API-интерфейсы, специфичные для функций GenAI (суммирование, корректура, переписывание и описание изображений), поддерживают разные устройства, чем Prompt API, как описано в следующих разделах.
Поддержка API-устройств, специфичных для конкретных функций
API-интерфейсы реферирования , корректуры , переписывания и описания изображений доступны на следующих устройствах, а также планируется расширить поддержку дополнительных устройств:
- Google: Pixel 10, Pixel 10 Pro, Pixel 10 Pro XL, Pixel 10 Pro Fold, Pixel 9, Pixel 9 Pro, Pixel 9 Pro XL, Pixel 9 Pro Fold
- Honor: Honor 400 Pro, Magic 6 Pro, Magic 6 RSR, Magic 7, Magic 7 Pro, Magic V3
- iQOO: iQOO 13
- Motorola: Razr 60 Ultra
- OnePlus: OnePlus 13, OnePlus 13s
- OPPO: Find N5, Find X8, Find X8 Pro
- POCO: POCO F7 Ultra
- realme: realme GT 7 Pro
- Samsung: Galaxy S25, Galaxy S25+, Galaxy S25 Ultra
- vivo: vivo X200, vivo X200 Pro, vivo X Fold3 Pro, vivo X Fold5
- Xiaomi: Xiaomi 15 Ультра, Xiaomi 15
Доступность поддержки определенных языков может различаться в зависимости от конфигурации конкретного устройства и моделей, загруженных на устройство.
Поддержка API-устройств Prompt
В настоящее время Prompt API поддерживается на следующих устройствах:
нано-v2 |
|
нано-v3 |
|
Получить версию Gemini Nano
Разные версии Gemini Nano работают на разных устройствах. Чтобы узнать версию Gemini Nano на устройстве, используйте getBaseModelName() .
Квота на заявку
AICore устанавливает квоту вывода для каждого приложения. Это означает, что слишком большое количество запросов к API GenAI за короткий промежуток времени приведёт к ответу ErrorCode.BUSY . При получении такой ошибки рассмотрите возможность использования экспоненциальной задержки для повторной попытки запроса.
Использование фона
Вывод API GenAI разрешен только тогда, когда приложение находится в активном режиме. Использование API, когда приложение не находится в активном режиме, включая использование службы в активном режиме, приведёт к ответу ErrorCode.BUSY из-за отсутствия квоты на использование фонового режима.
Пример кода
Чтобы получить этот код, ознакомьтесь со следующими примерами: