As APIs GenAI do Kit de ML aproveitam o poder do Gemini Nano para ajudar seus apps a realizar tarefas. Essas APIs oferecem qualidade pronta para uso em casos de uso populares por meio de uma interface de alto nível. As APIs GenAI do Kit de ML são criadas com base no AICore, um serviço do sistema Android que permite a execução no dispositivo de modelos de base de IA generativa para facilitar recursos como funcionalidade do app aprimorada e privacidade do usuário melhorada , processando dados localmente.
Os termos adicionais de serviço da API GenAI do Kit de ML se aplicam ao uso das APIs GenAI. Os desenvolvedores são os únicos responsáveis pela segurança do cliente da API e pela experiência do usuário do app.
Principais recursos
As APIs GenAI do Kit de ML oferecem suporte aos seguintes recursos:
- Resumo: resuma artigos ou conversas de chat como uma lista com marcadores.
- Revisão: aprimore conteúdos curtos refinando a gramática e corrigindo erros de ortografia.
- Reescrita: reescreva mensagens curtas em tons ou estilos diferentes.
- Descrição da imagem: gere uma descrição curta de uma imagem.
- Reconhecimento de fala: transcreva conteúdo de áudio para texto.
- Comando: gere conteúdo de texto com base em um comando personalizado somente de texto ou multimodal.
Benefícios das APIs GenAI
Semelhante a outros recursos do Kit de ML, as APIs GenAI são executadas totalmente no dispositivo e, portanto, oferecem os seguintes benefícios:
- Os dados de entrada, inferência e saída são processados localmente.
- A funcionalidade permanece a mesma sem uma conexão de Internet confiável.
- Não há custo adicional do servidor para cada chamada de API.
Além disso, como as APIs GenAI são criadas com base no AICore e com tecnologia do Gemini Nano, todos os apps podem usar o modelo compartilhado do Gemini Nano que está no dispositivo. Isso evita a necessidade de esperar o download de um modelo se ele já existir em um dispositivo e, por sua vez, conserva o espaço de armazenamento. Saiba mais sobre como o AICore isola solicitações para proteger a privacidade.
Streaming versus não streaming
As APIs GenAI do Kit de ML oferecem opções de streaming e não streaming para receber resultados. A API de streaming oferece respostas de forma incremental à medida que são geradas, fornecendo um fluxo contínuo de dados. Em contraste, a API não streaming aguarda até que toda a resposta seja concluída antes de retorná-la como um único bloco.
Escolha a API de streaming para respostas longas, porque ela permite um feedback inicial mais rápido. A API não streaming é mais adequada para respostas curtas ou ao processar resultados em lotes.
Suporte do dispositivo
As APIs específicas de recursos GenAI (resumo, revisão, reescrita e descrição de imagens) têm suporte a dispositivos diferente da API Prompt, conforme descrito nas seções a seguir.
Suporte a dispositivos de API específicos de recursos
As APIs de resumo, revisando, reescrevendo e descrição de imagem estão disponíveis nos seguintes dispositivos, com planos de expandir o suporte para outros dispositivos:
- Google: Pixel 10, Pixel 10 Pro, Pixel 10 Pro XL, Pixel 10 Pro Fold, Pixel 9, Pixel 9 Pro, Pixel 9 Pro XL, Pixel 9 Pro Fold
- Honor: Honor 400 Pro, Magic 7, Magic 7 Pro, Magic 8 Pro, Magic V5
- iQOO: iQOO 13, iQOO 15
- Motorola: Razr 60 Ultra, Razr Ultra 2025, Signature
- OnePlus: OnePlus 15, OnePlus 15R, OnePlus 13, OnePlus 13s
- OPPO: Find N5, Find X9, Find X9 Pro, Find X8, Find X8 Pro, Reno 14 Pro 5G, Reno 15 Pro 5G, Reno 15 Pro Mini 5G, Reno 15 Pro Max 5G
- POCO: POCO F7 Ultra, POCO F8 Pro, POCO F8 Ultra, POCO X7 Pro, POCO X8 Pro
- realme: realme GT 7 Pro, realme GT 7T
- Samsung: Galaxy S25, Galaxy S25+, Galaxy S25 Ultra, Galaxy S26, Galaxy S26+, Galaxy S26 Ultra, Galaxy Z Fold7, Galaxy Z TriFold
- vivo: vivo X200T, vivo X200 FE, vivo X200, vivo X200 Pro, vivo X300, X300 Pro, vivo X Fold3 Pro, vivo X Fold5, vivo T4 Ultra
- Xiaomi: Xiaomi 14T Pro, Xiaomi 15, Xiaomi 15T, Xiaomi 15T Pro, Xiaomi 15 Ultra, Xiaomi 17, Xiaomi 17 Ultra, Xiaomi Pad Mini
A disponibilidade de suporte a idiomas específicos pode variar dependendo da configuração do dispositivo e dos modelos que foram baixados para ele.
Suporte a dispositivos da API Prompt
A API Prompt é compatível com os seguintes dispositivos:
nano-v2 |
|
nano-v3 |
|
Suporte a dispositivos da API Speech Recognition
A API Speech Recognition é compatível com os seguintes dispositivos:
| Modo básico | Usa o modelo tradicional de reconhecimento de fala no dispositivo, disponível na maioria dos dispositivos Android com o nível 31 da API e mais recente. |
|---|---|
| Modo avançado | Aproveita o modelo GenAI para maior qualidade e cobertura de idiomas mais ampla. Com suporte para dispositivos Pixel 10, com mais dispositivos em desenvolvimento. |
Recuperar a versão do Gemini Nano
Diferentes versões do Gemini Nano são executadas em dispositivos diferentes. Para retornar a versão do Gemini Nano em um dispositivo, use getBaseModelName().
Cota por aplicativo
O AICore aplica uma cota de inferência por app. Fazer muitas solicitações de API GenAI em um curto período resultará em uma resposta ErrorCode.BUSY. Ao receber esse erro, considere usar a espera exponencial para tentar a solicitação novamente. Além disso, ErrorCode.PER_APP_BATTERY_USE_QUOTA_EXCEEDED pode ser retornado se um app exceder uma cota de longa duração (por exemplo, cota diária).
Uso em segundo plano
A inferência da API GenAI só é permitida quando o app é o aplicativo de primeiro plano principal. O uso da API quando o app não está em primeiro plano, incluindo o uso de um serviço em primeiro plano, resultará em uma resposta ErrorCode.BACKGROUND_USE_BLOCKED.
Exemplo de código
Para acessar esse código, confira os seguintes exemplos: