Wybierz model

Bezpośredni dostęp do modelu umożliwia wyraźne wybranie wersji Gemini Nano używanej przez aplikację. Konfigurując etap wersji modelu i preferencje dotyczące wydajności, możesz wcześniej uzyskać dostęp do nowych funkcji modelu lub zoptymalizować aplikację pod kątem określonych ograniczeń sprzętowych.

Konfiguracje modeli

Aby wybrać konkretny model, musisz skonfigurować 2 kluczowe parametry w klasie ModelConfig: etap wersji i preferencje modelu.

Etapy wersji

Etap wersji pozwala wybrać model stabilny lub wersję testową:

  • Stabilna (ModelReleaseStage.STABLE): wybiera najnowszą wersję modelu, która została w pełni przetestowana i jest dostępna na urządzeniach konsumenckich. Jest to ustawienie domyślne.
  • Wersja testowa (ModelReleaseStage.PREVIEW): wybiera najnowszą wersję modelu w fazie testowej. Ten etap umożliwia testowanie funkcji beta lub nowszych architektur modeli, zanim zostaną one wdrożone na etapie stabilnym.

Wymagania wstępne i instrukcje rejestracji w wersji przedpremierowej dla programistów znajdziesz w przewodniku po wersji przedpremierowej AICore dla programistów.

Preferencje dotyczące modelu

Ustawienie modelu pozwala określić, które cechy wydajności są najważniejsze w Twoim przypadku użycia.

  • Pełna (ModelPreference.FULL): to ustawienie jest zalecane, gdy dokładność modelu i pełne możliwości są ważniejsze niż szybkość.
  • Szybko (ModelPreference.FAST): to ustawienie jest zalecane w przypadku aplikacji wrażliwych na opóźnienia, które wymagają minimalnego czasu odpowiedzi.

Konfigurowanie modelu generatywnego

Aby użyć konkretnego wariantu modelu, musisz zdefiniować ModelConfig i przekazać go do GenerationConfig podczas inicjowania klienta.

Poniższy przykład pokazuje, jak skonfigurować klienta, aby używał modelu Fast z etapu Wersja testowa:

Kotlin

// Define the configuration with a specific stage and preference
val previewFastConfig = generationConfig {
    modelConfig = modelConfig {
        releaseStage = ModelReleaseStage.PREVIEW
        preference = ModelPreference.FAST
    }
}

// Initialize the GenerativeModel with the configuration
val generativeModel = Generation.getClient(previewFastConfig)

Java

// Define the configuration with a specific stage and preference
GenerationConfig previewFastConfig = new GenerationConfig.Builder()
    .setModelConfig(new ModelConfig.Builder()
        .setReleaseStage(ModelReleaseStage.PREVIEW)
        .setPreference(ModelPreference.FAST)
        .build())
    .build();

// Initialize the GenerativeModel with the configuration
GenerativeModel generativeModel = Generation.INSTANCE.getClient(previewFastConfig);

Sprawdzanie dostępności modelu

Nie wszystkie urządzenia obsługują każdą kombinację etapu wersji i preferencji modelu. Modele w wersji testowej są dostępne tylko na liście obsługiwanych urządzeń w przewodniku po wersji przedpremierowej AICore dla programistów.

Interfejs API nie udostępnia metody umożliwiającej wyświetlenie listy wszystkich dostępnych konfiguracji modeli. Zamiast tego zainicjuj klienta z wybraną konfiguracją, a następnie sprawdź jego stan.

  • Zainicjuj klienta: utwórz instancję GenerativeModel, używając preferowanego ModelConfig.

  • Sprawdź stan: wywołaj metodę checkStatus() w instancji, aby sprawdzić, czy konkretny wariant modelu jest dostępny na urządzeniu.

Kotlin

val generativeModel = Generation.getClient(previewFastConfig)

// Verify that the specific preview model is available
val status = generativeModel.checkStatus()

when (status) {
    FeatureStatus.UNAVAILABLE -> {
        // Specified preview model is not available on this device
    }
    FeatureStatus.DOWNLOADABLE -> {
        // Specified preview model is available for this device, but not downloaded yet.
        // Model may be downloaded through the AICore app or by calling generativeModel.download()
    }
    FeatureStatus.AVAILABLE -> {
        // Proceed with inference
    }
    FeatureStatus.DOWNLOADING -> {
        // Specified preview model is downloading
    }
}

Java

GenerativeModel generativeModel = Generation.INSTANCE.getClient(previewFastConfig);

// For Java, use GenerativeModelFutures if you prefer ListenableFuture
GenerativeModelFutures generativeModelFutures = GenerativeModelFutures.from(generativeModel);
Futures.addCallback(
    generativeModelFutures.checkStatus(),
    new FutureCallback<Integer>() {
        @Override
        public void onSuccess(Integer status) {
            if (status == FeatureStatus.AVAILABLE) {
                // Proceed with inference
            } else if (status == FeatureStatus.DOWNLOADING) {
                // Specified preview model is downloading
            } else if (status == FeatureStatus.DOWNLOADABLE) {
                // Specified preview model is available for this device, but not downloaded yet.
                // Call generativeModelFutures.download(callback) or use the AICore app.
            } else if (status == FeatureStatus.UNAVAILABLE) {
                // Specified preview model is not available on this device
            }
        }

        @Override
        public void onFailure(Throwable t) {
            // Handle failure
        }
    },
    ContextCompat.getMainExecutor(context));

Aby zapewnić zgodność z potencjalnymi przyszłymi konfiguracjami, pakiet SDK został zaprojektowany tak, aby unikać zgłaszania błędu GenAiException podczas inicjowania klienta i polegać wyłącznie na metodzie checkStatus() do weryfikacji dostępności.

Sprawdzone metody

  • Wdrażaj strategie zastępcze: ponieważ nie ma gwarancji, że modele w wersji testowej będą dostępne na wszystkich urządzeniach, zawsze wdrażaj strategię zastępczą. Jeśli checkStatus() zwraca false w przypadku konfiguracji Preview, aplikacja powinna płynnie powrócić do ModelReleaseStage.STABLE i ModelPreference.FULL.
  • Używaj etapów wersji modelu do programowania i produkcji: używaj etapu Wersja testowa podczas programowania i testów wewnętrznych, aby ocenić nadchodzące ulepszenia modelu. Przełącz się na kanał stabilny w przypadku publicznych wersji produkcyjnych, aby zapewnić użytkownikom spójne działanie.

Znane problemy

  • Niektóre urządzenia na etapie wersji testowej nie obsługują wielu kandydatów w danych wyjściowych i zwracają błąd, jeśli wartość candidateCount jest większa niż 1. Więcej informacji znajdziesz w dokumentacji API.
  • W niektórych implementacjach wiele próbek nie jest obsługiwanych. Wydajność będzie niższa niż w przypadku wersji produkcyjnej.