Quando passi un'immagine a ML Kit, rileva fino a cinque oggetti nell'immagine insieme alla posizione di ciascun oggetto nell'immagine. Quando rilevi oggetti nei flussi video, ogni oggetto ha un ID univoco che puoi utilizzare per monitorare l'oggetto da un fotogramma all'altro.
Puoi utilizzare un modello di classificazione delle immagini personalizzato per classificare gli oggetti rilevati. Consulta Modelli personalizzati con ML Kit per indicazioni sui requisiti di compatibilità dei modelli, su dove trovare i modelli pre-addestrati, e su come addestrare i tuoi modelli.
Esistono due modi per integrare un modello personalizzato. Puoi raggruppare il modello inserendolo nella cartella degli asset dell'app oppure scaricarlo dinamicamente da Cloud Storage. La tabella seguente confronta le due opzioni.
| Modello raggruppato | Modello in hosting |
|---|---|
| Il modello fa parte dell'APK dell'app, il che ne aumenta le dimensioni. | Il modello non fa parte dell'APK. Viene ospitato caricandolo in Cloud Storage. Ti consigliamo di utilizzare Cloud Storage for Firebase. |
| Il modello è disponibile immediatamente, anche quando il dispositivo Android è offline | L'app deve includere il codice per scaricare il modello on demand |
| Non è necessario un progetto Firebase | Richiede un progetto Firebase (se utilizzi Cloud Storage for Firebase). |
| Per aggiornare il modello, devi ripubblicare l'app | Esegui il push degli aggiornamenti del modello senza ripubblicare l'app |
| Nessun test A/B integrato | Test A/B con Firebase Remote Config |
Prova
- Consulta l'app di avvio rapido di Vision per un esempio di utilizzo del modello raggruppato e l'app di avvio rapido di AutoML per un esempio di utilizzo del modello in hosting.
- Consulta l'app di presentazione di Material Design per un'implementazione end-to-end di questa API.
Prima di iniziare
1. Nel filebuild.gradle.kts a livello di progetto, assicurati di includere
il repository Maven di Google nelle sezioni buildscript e
allprojects.
Aggiungi le dipendenze per le librerie Android ML Kit al file Gradle a livello di app del modulo, che di solito è
app/build.gradle.kts:Per raggruppare un modello con l'app:
dependencies { // ... // Object detection & tracking feature with custom bundled model implementation("com.google.mlkit:object-detection-custom:17.0.2") }Se vuoi scaricare un modello da Cloud Storage for Firebase, assicurati di aggiungere Firebase al tuo progetto Android, se non l'hai già fatto. Questa operazione non è necessaria quando raggruppi il modello.
1. Carica il modello
Puoi caricare il modello da un'origine raggruppata localmente o da un'origine ospitata in remoto.
Configura un'origine modello locale
Per raggruppare il modello con l'app:
Copia il file del modello (di solito con estensione
.tfliteo.lite) nella cartellaassets/dell'app. (Potresti dover creare prima la cartella facendo clic con il tasto destro del mouse sulla cartellaapp/, quindi facendo clic su Nuovo > Cartella > Cartella degli asset.)Crea un oggetto
LocalModel, specificando il percorso del file del modello:Kotlin
val localModel = LocalModel.Builder() .setAssetFilePath("model.tflite") // or .setAbsoluteFilePath(absolute path to model file) // or .setUri(URI to model file) .build()
Java
LocalModel localModel = new LocalModel.Builder() .setAssetFilePath("model.tflite") // or .setAbsoluteFilePath(absolute path to model file) // or .setUri(URI to model file) .build();
Configura un'origine modello ospitata in remoto
Per utilizzare il modello ospitato in remoto, devi scaricare il file del modello nello spazio di archiviazione locale del dispositivo utilizzando la logica della tua app, quindi caricarlo come modello locale. Ti consigliamo di utilizzare Cloud Storage for Firebase per ospitare un modello. Per i dettagli dell'implementazione, consulta la guida alla migrazione da Firebase ML a Cloud Storage.
2. Configura il rilevatore di oggetti
Dopo aver configurato le origini dei modelli, configura il rilevatore di oggetti per il tuo caso d'uso con un oggetto CustomObjectDetectorOptions. Puoi modificare le seguenti impostazioni:
| Impostazioni del rilevatore di oggetti | |
|---|---|
| Modalità di rilevamento |
STREAM_MODE (valore predefinito) | SINGLE_IMAGE_MODE
In In |
| Rileva e monitora più oggetti |
false (valore predefinito) | true
Se rilevare e monitorare fino a cinque oggetti o solo l'oggetto più importante (valore predefinito). |
| Classifica gli oggetti |
false (valore predefinito) | true
Se classificare o meno gli oggetti rilevati utilizzando la categoria di classificazione personalizzata fornita. Per utilizzare il modello di classificazione personalizzato, devi impostare questo valore su |
| Soglia di confidenza della classificazione |
Punteggio di confidenza minimo delle etichette rilevate. Se non viene impostato, viene utilizzata qualsiasi soglia del classificatore specificata dai metadati del modello. Se il modello non contiene metadati o se i metadati non specificano una soglia del classificatore, viene utilizzata una soglia predefinita di 0.0. |
| Numero massimo di etichette per oggetto |
Numero massimo di etichette per oggetto che il rilevatore restituirà. Se non viene impostato, viene utilizzato il valore predefinito 10. |
L'API di rilevamento di oggetti e monitoraggio è ottimizzata per questi due casi d'uso principali:
- Rilevamento e monitoraggio in tempo reale dell'oggetto più importante nel mirino della fotocamera.
- Rilevamento di più oggetti da un'immagine statica.
Per configurare l'API per questi casi d'uso, con un modello raggruppato localmente:
Kotlin
// Live detection and tracking val customObjectDetectorOptions = CustomObjectDetectorOptions.Builder(localModel) .setDetectorMode(CustomObjectDetectorOptions.STREAM_MODE) .enableClassification() .setClassificationConfidenceThreshold(0.5f) .setMaxPerObjectLabelCount(3) .build() // Multiple object detection in static images val customObjectDetectorOptions = CustomObjectDetectorOptions.Builder(localModel) .setDetectorMode(CustomObjectDetectorOptions.SINGLE_IMAGE_MODE) .enableMultipleObjects() .enableClassification() .setClassificationConfidenceThreshold(0.5f) .setMaxPerObjectLabelCount(3) .build() val objectDetector = ObjectDetection.getClient(customObjectDetectorOptions)
Java
// Live detection and tracking CustomObjectDetectorOptions customObjectDetectorOptions = new CustomObjectDetectorOptions.Builder(localModel) .setDetectorMode(CustomObjectDetectorOptions.STREAM_MODE) .enableClassification() .setClassificationConfidenceThreshold(0.5f) .setMaxPerObjectLabelCount(3) .build(); // Multiple object detection in static images CustomObjectDetectorOptions customObjectDetectorOptions = new CustomObjectDetectorOptions.Builder(localModel) .setDetectorMode(CustomObjectDetectorOptions.SINGLE_IMAGE_MODE) .enableMultipleObjects() .enableClassification() .setClassificationConfidenceThreshold(0.5f) .setMaxPerObjectLabelCount(3) .build(); ObjectDetector objectDetector = ObjectDetection.getClient(customObjectDetectorOptions);
Se hai un modello ospitato in remoto, dovrai verificare che sia stato scaricato prima di eseguirlo.
Anche se devi confermare questa operazione solo prima di eseguire il rilevatore, se hai sia un modello ospitato in remoto sia un modello raggruppato localmente, potrebbe essere utile eseguire questo controllo quando crei un'istanza del rilevatore di immagini: crea un rilevatore dal modello remoto se è stato scaricato e dal modello locale in caso contrario.
Kotlin
val modelFile = File(context.cacheDir, "my_remote_model.tflite") val model = if (modelFile.exists()) { // Use the downloaded model if available LocalModel.Builder().setAbsoluteFilePath(modelFile.absolutePath).build() } else { // Fall back to the bundled model LocalModel.Builder().setAssetFilePath("model.tflite").build() } val customObjectDetectorOptions = CustomObjectDetectorOptions.Builder(model) .setDetectorMode(CustomObjectDetectorOptions.SINGLE_IMAGE_MODE) .enableClassification() .setClassificationConfidenceThreshold(0.5f) .setMaxPerObjectLabelCount(3) .build() val objectDetector = ObjectDetection.getClient(customObjectDetectorOptions)
Java
File modelFile = new File(context.getCacheDir(), "my_remote_model.tflite"); LocalModel model; if (modelFile.exists()) { // Use the downloaded model if available model = new LocalModel.Builder().setAbsoluteFilePath(modelFile.getAbsolutePath()).build(); } else { // Fall back to the bundled model model = new LocalModel.Builder().setAssetFilePath("model.tflite").build(); } CustomObjectDetectorOptions customObjectDetectorOptions = new CustomObjectDetectorOptions.Builder(model) .setDetectorMode(CustomObjectDetectorOptions.SINGLE_IMAGE_MODE) .enableClassification() .setClassificationConfidenceThreshold(0.5f) .setMaxPerObjectLabelCount(3) .build(); ObjectDetector objectDetector = ObjectDetection.getClient(customObjectDetectorOptions);
Se hai solo un modello ospitato in remoto, devi disattivare le funzionalità correlate al modello, ad esempio disattivare o nascondere una parte dell'interfaccia utente, finché non confermi che il modello è stato scaricato.
Kotlin
val localFile = File(context.cacheDir, "my_remote_model.tflite") if (localFile.exists()) { // Model is already cached, initialize immediately initializeDetector(localFile) } else { // Model is not yet available, show loading UI and start download showLoadingUI() val storage = Firebase.storage val modelRef = storage.getReferenceFromUrl("gs://YOUR_BUCKET/path/to/model.tflite") modelRef.getFile(localFile) .addOnSuccessListener { // Download complete, initialize the detector hideLoadingUI() initializeDetector(localFile) } .addOnFailureListener { // Handle download error showErrorUI() } } private fun initializeDetector(modelFile: File) { val localModel = LocalModel.Builder().setAbsoluteFilePath(modelFile.absolutePath).build() val customObjectDetectorOptions = CustomObjectDetectorOptions.Builder(localModel) .setDetectorMode(CustomObjectDetectorOptions.SINGLE_IMAGE_MODE) .enableClassification() .build() val objectDetector = ObjectDetection.getClient(customObjectDetectorOptions) // Enable ML-related UI features here enableMLFeatures(objectDetector) }
Java
File localFile = new File(context.getCacheDir(), "my_remote_model.tflite"); if (localFile.exists()) { // Model is already cached, initialize immediately initializeDetector(localFile); } else { // Model is not yet available, show loading UI and start download showLoadingUI(); FirebaseStorage storage = FirebaseStorage.getInstance(); StorageReference modelRef = storage.getReferenceFromUrl("gs://YOUR_BUCKET/path/to/model.tflite"); modelRef.getFile(localFile) .addOnSuccessListener(new OnSuccessListener<FileDownloadTask.TaskSnapshot>() { @Override public void onSuccess(FileDownloadTask.TaskSnapshot taskSnapshot) { // Download complete, initialize the detector hideLoadingUI(); initializeDetector(localFile); } }) .addOnFailureListener(new OnFailureListener() { @Override public void onFailure(@NonNull Exception exception) { // Handle download error showErrorUI(); } }); } private void initializeDetector(File modelFile) { LocalModel localModel = new LocalModel.Builder().setAbsoluteFilePath(modelFile.getAbsolutePath()).build(); CustomObjectDetectorOptions customObjectDetectorOptions = new CustomObjectDetectorOptions.Builder(localModel) .setDetectorMode(CustomObjectDetectorOptions.SINGLE_IMAGE_MODE) .enableClassification() .build(); ObjectDetector objectDetector = ObjectDetection.getClient(customObjectDetectorOptions); // Enable ML-related UI features here enableMLFeatures(objectDetector); }
3. Prepara l'immagine di input
Crea un oggettoInputImage dall'immagine.
Il rilevatore di oggetti viene eseguito direttamente da un Bitmap, da un ByteBuffer NV21 o da un media.Image YUV_420_888. Se hai accesso diretto a una di queste origini, ti consigliamo di creare un InputImage da queste origini. Se crei un InputImage da altre origini, la conversione verrà gestita internamente e potrebbe essere meno efficiente.
Puoi creare un InputImage
oggetto da diverse origini, ognuna delle quali è spiegata di seguito.
Utilizzo di un media.Image
Per creare un oggetto InputImage
da un oggetto media.Image, ad esempio quando acquisisci un'immagine dalla
fotocamera di un dispositivo, passa l'oggetto media.Image e la
rotazione dell'immagine a InputImage.fromMediaImage().
Se utilizzi la
CameraX library, le classi OnImageCapturedListener e
ImageAnalysis.Analyzer calcolano il valore di rotazione
per te.
Kotlin
private class YourImageAnalyzer : ImageAnalysis.Analyzer { override fun analyze(imageProxy: ImageProxy) { val mediaImage = imageProxy.image if (mediaImage != null) { val image = InputImage.fromMediaImage(mediaImage, imageProxy.imageInfo.rotationDegrees) // Pass image to an ML Kit Vision API // ... } } }
Java
private class YourAnalyzer implements ImageAnalysis.Analyzer { @Override public void analyze(ImageProxy imageProxy) { Image mediaImage = imageProxy.getImage(); if (mediaImage != null) { InputImage image = InputImage.fromMediaImage(mediaImage, imageProxy.getImageInfo().getRotationDegrees()); // Pass image to an ML Kit Vision API // ... } } }
Se non utilizzi una libreria della fotocamera che ti fornisce il grado di rotazione dell'immagine, puoi calcolarlo dal grado di rotazione del dispositivo e dall'orientamento del sensore della fotocamera nel dispositivo:
Kotlin
private val ORIENTATIONS = SparseIntArray() init { ORIENTATIONS.append(Surface.ROTATION_0, 0) ORIENTATIONS.append(Surface.ROTATION_90, 90) ORIENTATIONS.append(Surface.ROTATION_180, 180) ORIENTATIONS.append(Surface.ROTATION_270, 270) } /** * Get the angle by which an image must be rotated given the device's current * orientation. */ @RequiresApi(api = Build.VERSION_CODES.LOLLIPOP) @Throws(CameraAccessException::class) private fun getRotationCompensation(cameraId: String, activity: Activity, isFrontFacing: Boolean): Int { // Get the device's current rotation relative to its "native" orientation. // Then, from the ORIENTATIONS table, look up the angle the image must be // rotated to compensate for the device's rotation. val deviceRotation = activity.windowManager.defaultDisplay.rotation var rotationCompensation = ORIENTATIONS.get(deviceRotation) // Get the device's sensor orientation. val cameraManager = activity.getSystemService(CAMERA_SERVICE) as CameraManager val sensorOrientation = cameraManager .getCameraCharacteristics(cameraId) .get(CameraCharacteristics.SENSOR_ORIENTATION)!! if (isFrontFacing) { rotationCompensation = (sensorOrientation + rotationCompensation) % 360 } else { // back-facing rotationCompensation = (sensorOrientation - rotationCompensation + 360) % 360 } return rotationCompensation }
Java
private static final SparseIntArray ORIENTATIONS = new SparseIntArray(); static { ORIENTATIONS.append(Surface.ROTATION_0, 0); ORIENTATIONS.append(Surface.ROTATION_90, 90); ORIENTATIONS.append(Surface.ROTATION_180, 180); ORIENTATIONS.append(Surface.ROTATION_270, 270); } /** * Get the angle by which an image must be rotated given the device's current * orientation. */ @RequiresApi(api = Build.VERSION_CODES.LOLLIPOP) private int getRotationCompensation(String cameraId, Activity activity, boolean isFrontFacing) throws CameraAccessException { // Get the device's current rotation relative to its "native" orientation. // Then, from the ORIENTATIONS table, look up the angle the image must be // rotated to compensate for the device's rotation. int deviceRotation = activity.getWindowManager().getDefaultDisplay().getRotation(); int rotationCompensation = ORIENTATIONS.get(deviceRotation); // Get the device's sensor orientation. CameraManager cameraManager = (CameraManager) activity.getSystemService(CAMERA_SERVICE); int sensorOrientation = cameraManager .getCameraCharacteristics(cameraId) .get(CameraCharacteristics.SENSOR_ORIENTATION); if (isFrontFacing) { rotationCompensation = (sensorOrientation + rotationCompensation) % 360; } else { // back-facing rotationCompensation = (sensorOrientation - rotationCompensation + 360) % 360; } return rotationCompensation; }
Quindi, passa l'oggetto media.Image e il valore del grado di rotazione a InputImage.fromMediaImage():
Kotlin
val image = InputImage.fromMediaImage(mediaImage, rotation)
Java
InputImage image = InputImage.fromMediaImage(mediaImage, rotation);
Utilizzo di un URI file
Per creare un InputImage
oggetto da un URI file, passa il contesto dell'app e l'URI file a
InputImage.fromFilePath(). Questa operazione è utile quando utilizzi un intent ACTION_GET_CONTENT per chiedere all'utente di selezionare un'immagine dalla sua app di galleria.
Kotlin
val image: InputImage try { image = InputImage.fromFilePath(context, uri) } catch (e: IOException) { e.printStackTrace() }
Java
InputImage image; try { image = InputImage.fromFilePath(context, uri); } catch (IOException e) { e.printStackTrace(); }
Utilizzo di un ByteBuffer o ByteArray
Per creare un oggetto InputImage
da un ByteBuffer o da un ByteArray, calcola prima il grado di rotazione dell'immagine
come descritto in precedenza per l'input media.Image.
Quindi, crea l'oggetto InputImage con il buffer o l'array, insieme all'altezza, alla larghezza, al formato di codifica dei colori e al grado di rotazione dell'immagine:
Kotlin
val image = InputImage.fromByteBuffer( byteBuffer, /* image width */ 480, /* image height */ 360, rotationDegrees, InputImage.IMAGE_FORMAT_NV21 // or IMAGE_FORMAT_YV12 ) // Or: val image = InputImage.fromByteArray( byteArray, /* image width */ 480, /* image height */ 360, rotationDegrees, InputImage.IMAGE_FORMAT_NV21 // or IMAGE_FORMAT_YV12 )
Java
InputImage image = InputImage.fromByteBuffer(byteBuffer, /* image width */ 480, /* image height */ 360, rotationDegrees, InputImage.IMAGE_FORMAT_NV21 // or IMAGE_FORMAT_YV12 ); // Or: InputImage image = InputImage.fromByteArray( byteArray, /* image width */480, /* image height */360, rotation, InputImage.IMAGE_FORMAT_NV21 // or IMAGE_FORMAT_YV12 );
Utilizzo di un Bitmap
Per creare un oggetto InputImage
da un oggetto Bitmap, effettua la seguente dichiarazione:
Kotlin
val image = InputImage.fromBitmap(bitmap, 0)
Java
InputImage image = InputImage.fromBitmap(bitmap, rotationDegree);
L'immagine è rappresentata da un oggetto Bitmap insieme ai gradi di rotazione.
4. Esegui il rilevatore di oggetti
Kotlin
objectDetector .process(image) .addOnFailureListener(e -> {...}) .addOnSuccessListener(results -> { for (detectedObject in results) { // ... } });
Java
objectDetector .process(image) .addOnFailureListener(e -> {...}) .addOnSuccessListener(results -> { for (DetectedObject detectedObject : results) { // ... } });
5. Ottieni informazioni sugli oggetti etichettati
Se la chiamata a process() ha esito positivo, all'ascoltatore di successo viene passata una lista di DetectedObject.
Ogni DetectedObject contiene le seguenti proprietà:
| Riquadro di delimitazione | Un Rect che indica la posizione dell'oggetto nell'
immagine. |
||||||
| ID monitoraggio | Un numero intero che identifica l'oggetto nelle immagini. Null in SINGLE_IMAGE_MODE. | ||||||
| Etichette |
|
Kotlin
// The list of detected objects contains one item if multiple // object detection wasn't enabled. for (detectedObject in results) { val boundingBox = detectedObject.boundingBox val trackingId = detectedObject.trackingId for (label in detectedObject.labels) { val text = label.text val index = label.index val confidence = label.confidence } }
Java
// The list of detected objects contains one item if multiple // object detection wasn't enabled. for (DetectedObject detectedObject : results) { Rect boundingBox = detectedObject.getBoundingBox(); Integer trackingId = detectedObject.getTrackingId(); for (Label label : detectedObject.getLabels()) { String text = label.getText(); int index = label.getIndex(); float confidence = label.getConfidence(); } }
Garantire un'esperienza utente ottimale
Per un'esperienza utente ottimale, segui queste linee guida nella tua app:
- Il rilevamento di oggetti riuscito dipende dalla complessità visiva dell'oggetto. Per essere rilevati, gli oggetti con un numero ridotto di funzionalità visive potrebbero dover occupare una parte più grande dell'immagine. Devi fornire agli utenti indicazioni sull'acquisizione di input che funzionino bene con il tipo di oggetti che vuoi rilevare.
- Quando utilizzi la classificazione, se vuoi rilevare oggetti che non rientrano chiaramente nelle categorie supportate, implementa una gestione speciale per gli oggetti sconosciuti.
Inoltre, dai un'occhiata all' app di presentazione di Material Design di ML Kit e alla raccolta di pattern di Material Design per le funzionalità basate sul machine learning.
Ottimizzazione del rendimento
Se vuoi utilizzare il rilevamento di oggetti in un'applicazione in tempo reale, segui queste linee guida per ottenere le migliori frequenze fotogrammi:Quando utilizzi la modalità streaming in un'applicazione in tempo reale, non utilizzare il rilevamento di più oggetti, poiché la maggior parte dei dispositivi non sarà in grado di produrre frequenze fotogrammi adeguate.
- Se utilizzi l'
Cameraocamera2API, limita le chiamate al rilevatore. Se diventa disponibile un nuovo fotogramma video mentre il rilevatore è in esecuzione, elimina il fotogramma. Per un esempio, consulta la classeVisionProcessorBasenell'app di esempio di avvio rapido. - Se utilizzi l'API
CameraX, assicurati che la strategia di contropressione sia impostata sul valore predefinitoImageAnalysis.STRATEGY_KEEP_ONLY_LATEST. In questo modo, verrà fornita una sola immagine per l'analisi alla volta. Se vengono prodotte più immagini quando l'analizzatore è occupato, verranno eliminate automaticamente e non verranno messe in coda per la consegna. Una volta chiusa l'immagine analizzata chiamando ImageProxy.close(), verrà fornita l'ultima immagine più recente. - Se utilizzi l'output del rilevatore per sovrapporre elementi grafici all'
immagine di input, recupera prima il risultato da ML Kit, quindi esegui il rendering dell'immagine
e della sovrapposizione in un unico passaggio. In questo modo, il rendering viene eseguito sulla superficie di visualizzazione
una sola volta per ogni fotogramma di input. Per un esempio, consulta le classi
CameraSourcePrevieweGraphicOverlaynell'app di esempio di avvio rapido. - Se utilizzi l'API Camera2, acquisisci le immagini nel
ImageFormat.YUV_420_888formato. Se utilizzi l'API Camera precedente, acquisisci le immagini nelImageFormat.NV21formato.