Wenn Sie den direkten Modellzugriff mit Gemini Nano verwenden, ist es wichtig, dass Ihr Prompt von hoher Qualität und zuverlässig ist.
Um die Qualität Ihrer Prompts zu bewerten, sollten Sie für Ihren Anwendungsfall einen umfassenden Satz von Eingaben und erwarteten Ausgaben entwickeln.
Mit dem folgenden Workflow können Sie prüfen, ob Ihr Prompt mit jeder Gemini Nano-Modellversion Ihren Qualitätsansprüchen entspricht:
- Führen Sie das Bewertungs-Dataset aus und zeichnen Sie die Ausgaben auf.
- Bewerten Sie die Ergebnisse manuell oder verwenden Sie LLM-as-a-judge.
- Wenn die Bewertung nicht Ihren Qualitätsanforderungen entspricht, passen Sie den Prompt an. Sie können beispielsweise ein leistungsstärkeres LLM wie Gemini Pro bitten, den Prompt basierend auf der gewünschten Ausgabe im Vergleich zur tatsächlichen Ausgabe zu verbessern.
Prompt Engineering verbessert die Leistung bei Aufgaben. Das Iterieren Ihrer Prompts ist dabei entscheidend. Wir empfehlen, die oben genannten Schritte mindestens drei- bis fünfmal zu wiederholen. Beachten Sie, dass dieser Ansatz Grenzen hat, da Optimierungen irgendwann zu abnehmenden Erträgen führen.
Alternativ können Sie den datengestützten Optimierer verwenden, um Prompts schnell und in großem Umfang zu verbessern. Dieser kann auf On-Device-Modelle wie gemma-3n-e4b-it abzielen.
Sicherheit
Damit Gemini Nano sichere Ergebnisse für Nutzer liefert, werden mehrere Schutzebenen implementiert, um schädliche oder unbeabsichtigte Ergebnisse zu begrenzen:
- Native Modellsicherheit: Alle Gemini-Modelle, darunter Gemini Nano, wurden standardmäßig auf Sicherheit trainiert. Das bedeutet, dass Sicherheitsabwägungen bereits im Kern des Modells verbaut sind und sofort zum Einsatz kommen – nicht erst nachträglich.
- Sicherheitsfilter für Eingabe und Ausgabe: Sowohl der Eingabe-Prompt als auch die von der Gemini Nano-Laufzeit generierten Ergebnisse werden anhand unserer Sicherheitsfilter bewertet, bevor die Ergebnisse an die App weitergegeben werden. So wird verhindert, dass unsichere Inhalte durchschlüpfen, ohne dass die Qualität beeinträchtigt wird.
Da jedoch jede App eigene Kriterien dafür hat, was als sichere Inhalte für Nutzer gilt, sollten Sie die Sicherheitsrisiken für den spezifischen Anwendungsfall Ihrer App bewerten und entsprechend testen.
Zusätzliche Ressourcen
- Wie gut ist Ihre KI? Gen AI evaluation at every stage, explained: Ein Blogpost, in dem beschrieben wird, wie Sie den Gen AI Evaluation Service verwenden.
- Gen AI Evaluation Service – Übersicht: Dokumentation, in der beschrieben wird, wie generative KI-Modelle bewertet werden, um Aufgaben wie Modellvergleiche, Prompt-Verbesserungen und Feinabstimmung zu unterstützen.
- Berechnungsbasierte Bewertungspipeline ausführen – Dokumentation zur Bewertung der Modellleistung.