Puoi usare ML Kit per rilevare e tracciare oggetti in fotogrammi video successivi.
Quando passi un'immagine a ML Kit, quest'ultimo rileva fino a cinque oggetti al suo interno insieme alla posizione di ogni oggetto nell'immagine. Durante il rilevamento di oggetti in nei video stream, ogni oggetto ha un ID univoco che puoi utilizzare per monitorarlo da un frame all'altro. Facoltativamente, puoi abilitare l'oggetto approssimativo che etichetta gli oggetti con ampie descrizioni di categorie.
Prova
- Prova l'app di esempio per per vedere un esempio di utilizzo di questa API.
- Visita la Vetrina di Material Design app per un'implementazione end-to-end di questa API.
Prima di iniziare
- Nel file
build.gradle
a livello di progetto, assicurati di includere Repository Maven di Google inbuildscript
eallprojects
sezioni. - Aggiungi le dipendenze per le librerie Android ML Kit agli
file gradle a livello di app, che in genere è
app/build.gradle
:dependencies { // ... implementation 'com.google.mlkit:object-detection:17.0.2' }
1. configura il rilevatore di oggetti
Per rilevare e monitorare gli oggetti, devi prima creare un'istanza di ObjectDetector
e
facoltativamente specificare tutte le impostazioni del rilevatore che vuoi modificare
predefinito.
Configura il rilevatore di oggetti per il tuo caso d'uso con un
ObjectDetectorOptions
oggetto. Puoi modificare le seguenti opzioni: impostazioni:Impostazioni del rilevatore di oggetti Modalità di rilevamento STREAM_MODE
(predefinito) |SINGLE_IMAGE_MODE
In
STREAM_MODE
(impostazione predefinita), il rilevatore di oggetti esegue con bassa latenza, ma potrebbe produrre risultati incompleti (come riquadri di delimitazione o etichette di categoria non specificati) sui primi delle chiamate al rilevatore. Inoltre, traSTREAM_MODE
, il rilevatore assegna gli ID di monitoraggio agli oggetti, che puoi utilizzare per tenere traccia di oggetti tra i frame. Usa questa modalità per monitorare oggetti o quando è importante una bassa latenza, ad esempio durante l'elaborazione video stream in tempo reale.In
SINGLE_IMAGE_MODE
, il rilevatore di oggetti restituisce il risultato dopo aver determinato il riquadro di delimitazione dell'oggetto. Se ad abilitare anche la classificazione, restituisce il risultato dopo il la casella e l'etichetta della categoria sono disponibili. Di conseguenza, di rilevamento è potenzialmente più elevata. Inoltre, nelleSINGLE_IMAGE_MODE
, gli ID monitoraggio non sono assegnati. Utilizza le funzionalità di questa modalità se la latenza non è fondamentale e non vuoi gestire di risultati parziali.Rileva e monitora più oggetti false
(predefinito) |true
Indica se rilevare e tracciare fino a cinque oggetti o solo il più ben visibile (impostazione predefinita).
Classificare gli oggetti false
(predefinito) |true
Indica se classificare o meno gli oggetti rilevati in categorie approssimative. Se abilitato, il rilevatore di oggetti classifica gli oggetti nell'intervallo seguenti categorie: articoli di moda, cibo, casalinghi, luoghi e piante.
L'API di rilevamento e monitoraggio degli oggetti è ottimizzata per questi due utilizzi principali casi:
- Rilevamento e tracciamento in tempo reale dell'oggetto più in evidenza nella videocamera mirino.
- Rilevamento di più oggetti da un'immagine statica.
Per configurare l'API per questi casi d'uso:
Kotlin
// Live detection and tracking val options = ObjectDetectorOptions.Builder() .setDetectorMode(ObjectDetectorOptions.STREAM_MODE) .enableClassification() // Optional .build() // Multiple object detection in static images val options = ObjectDetectorOptions.Builder() .setDetectorMode(ObjectDetectorOptions.SINGLE_IMAGE_MODE) .enableMultipleObjects() .enableClassification() // Optional .build()
Java
// Live detection and tracking ObjectDetectorOptions options = new ObjectDetectorOptions.Builder() .setDetectorMode(ObjectDetectorOptions.STREAM_MODE) .enableClassification() // Optional .build(); // Multiple object detection in static images ObjectDetectorOptions options = new ObjectDetectorOptions.Builder() .setDetectorMode(ObjectDetectorOptions.SINGLE_IMAGE_MODE) .enableMultipleObjects() .enableClassification() // Optional .build();
Ottieni un'istanza di
ObjectDetector
:Kotlin
val objectDetector = ObjectDetection.getClient(options)
Java
ObjectDetector objectDetector = ObjectDetection.getClient(options);
2. Prepara l'immagine di input
Per rilevare e monitorare oggetti, passa le immagini all'ObjectDetector
il metodo process()
dell'istanza.
Il rilevatore di oggetti viene eseguito direttamente da un Bitmap
, NV21 ByteBuffer
o un
YUV_420_888 media.Image
. È in corso la creazione di un InputImage
da queste origini
sono consigliati se hai accesso diretto a uno di questi. Se crei
InputImage
da altre origini, gestiamo la conversione
che potrebbe rivelarsi meno efficiente.
Per ogni frame di video o immagine in una sequenza:
Puoi creare una InputImage
da diverse origini, ciascuna è spiegata di seguito.
Utilizzo di un media.Image
Per creare una InputImage
da un oggetto media.Image
, ad esempio quando acquisisci un'immagine da un
fotocamera del dispositivo, passa l'oggetto media.Image
e la
rotazione in InputImage.fromMediaImage()
.
Se utilizzi
nella libreria di CameraX, OnImageCapturedListener
e
ImageAnalysis.Analyzer
classi calcolano il valore di rotazione
per te.
Kotlin
private class YourImageAnalyzer : ImageAnalysis.Analyzer { override fun analyze(imageProxy: ImageProxy) { val mediaImage = imageProxy.image if (mediaImage != null) { val image = InputImage.fromMediaImage(mediaImage, imageProxy.imageInfo.rotationDegrees) // Pass image to an ML Kit Vision API // ... } } }
Java
private class YourAnalyzer implements ImageAnalysis.Analyzer { @Override public void analyze(ImageProxy imageProxy) { Image mediaImage = imageProxy.getImage(); if (mediaImage != null) { InputImage image = InputImage.fromMediaImage(mediaImage, imageProxy.getImageInfo().getRotationDegrees()); // Pass image to an ML Kit Vision API // ... } } }
Se non utilizzi una raccolta di videocamere che fornisce il grado di rotazione dell'immagine, può calcolarlo in base al grado di rotazione e all'orientamento della fotocamera nel dispositivo:
Kotlin
private val ORIENTATIONS = SparseIntArray() init { ORIENTATIONS.append(Surface.ROTATION_0, 0) ORIENTATIONS.append(Surface.ROTATION_90, 90) ORIENTATIONS.append(Surface.ROTATION_180, 180) ORIENTATIONS.append(Surface.ROTATION_270, 270) } /** * Get the angle by which an image must be rotated given the device's current * orientation. */ @RequiresApi(api = Build.VERSION_CODES.LOLLIPOP) @Throws(CameraAccessException::class) private fun getRotationCompensation(cameraId: String, activity: Activity, isFrontFacing: Boolean): Int { // Get the device's current rotation relative to its "native" orientation. // Then, from the ORIENTATIONS table, look up the angle the image must be // rotated to compensate for the device's rotation. val deviceRotation = activity.windowManager.defaultDisplay.rotation var rotationCompensation = ORIENTATIONS.get(deviceRotation) // Get the device's sensor orientation. val cameraManager = activity.getSystemService(CAMERA_SERVICE) as CameraManager val sensorOrientation = cameraManager .getCameraCharacteristics(cameraId) .get(CameraCharacteristics.SENSOR_ORIENTATION)!! if (isFrontFacing) { rotationCompensation = (sensorOrientation + rotationCompensation) % 360 } else { // back-facing rotationCompensation = (sensorOrientation - rotationCompensation + 360) % 360 } return rotationCompensation }
Java
private static final SparseIntArray ORIENTATIONS = new SparseIntArray(); static { ORIENTATIONS.append(Surface.ROTATION_0, 0); ORIENTATIONS.append(Surface.ROTATION_90, 90); ORIENTATIONS.append(Surface.ROTATION_180, 180); ORIENTATIONS.append(Surface.ROTATION_270, 270); } /** * Get the angle by which an image must be rotated given the device's current * orientation. */ @RequiresApi(api = Build.VERSION_CODES.LOLLIPOP) private int getRotationCompensation(String cameraId, Activity activity, boolean isFrontFacing) throws CameraAccessException { // Get the device's current rotation relative to its "native" orientation. // Then, from the ORIENTATIONS table, look up the angle the image must be // rotated to compensate for the device's rotation. int deviceRotation = activity.getWindowManager().getDefaultDisplay().getRotation(); int rotationCompensation = ORIENTATIONS.get(deviceRotation); // Get the device's sensor orientation. CameraManager cameraManager = (CameraManager) activity.getSystemService(CAMERA_SERVICE); int sensorOrientation = cameraManager .getCameraCharacteristics(cameraId) .get(CameraCharacteristics.SENSOR_ORIENTATION); if (isFrontFacing) { rotationCompensation = (sensorOrientation + rotationCompensation) % 360; } else { // back-facing rotationCompensation = (sensorOrientation - rotationCompensation + 360) % 360; } return rotationCompensation; }
Quindi, passa l'oggetto media.Image
e
valore del grado di rotazione su InputImage.fromMediaImage()
:
Kotlin
val image = InputImage.fromMediaImage(mediaImage, rotation)
Java
InputImage image = InputImage.fromMediaImage(mediaImage, rotation);
Utilizzo di un URI del file
Per creare una InputImage
da un URI file, passa il contesto dell'app e l'URI del file a
InputImage.fromFilePath()
. È utile quando
utilizza un intent ACTION_GET_CONTENT
per chiedere all'utente di selezionare
un'immagine dall'app Galleria.
Kotlin
val image: InputImage try { image = InputImage.fromFilePath(context, uri) } catch (e: IOException) { e.printStackTrace() }
Java
InputImage image; try { image = InputImage.fromFilePath(context, uri); } catch (IOException e) { e.printStackTrace(); }
Con ByteBuffer
o ByteArray
Per creare una InputImage
oggetto da un valore ByteBuffer
o ByteArray
, prima calcola l'immagine
grado di rotazione come descritto in precedenza per l'input media.Image
.
Quindi, crea l'oggetto InputImage
con il buffer o l'array, insieme al campo
altezza, larghezza, formato di codifica del colore e grado di rotazione:
Kotlin
val image = InputImage.fromByteBuffer( byteBuffer, /* image width */ 480, /* image height */ 360, rotationDegrees, InputImage.IMAGE_FORMAT_NV21 // or IMAGE_FORMAT_YV12 ) // Or: val image = InputImage.fromByteArray( byteArray, /* image width */ 480, /* image height */ 360, rotationDegrees, InputImage.IMAGE_FORMAT_NV21 // or IMAGE_FORMAT_YV12 )
Java
InputImage image = InputImage.fromByteBuffer(byteBuffer, /* image width */ 480, /* image height */ 360, rotationDegrees, InputImage.IMAGE_FORMAT_NV21 // or IMAGE_FORMAT_YV12 ); // Or: InputImage image = InputImage.fromByteArray( byteArray, /* image width */480, /* image height */360, rotation, InputImage.IMAGE_FORMAT_NV21 // or IMAGE_FORMAT_YV12 );
Utilizzo di un Bitmap
Per creare una InputImage
oggetto da un oggetto Bitmap
, effettua la seguente dichiarazione:
Kotlin
val image = InputImage.fromBitmap(bitmap, 0)
Java
InputImage image = InputImage.fromBitmap(bitmap, rotationDegree);
L'immagine è rappresentata da un oggetto Bitmap
e da un grado di rotazione.
3. Elabora l'immagine
Trasferisci l'immagine al metodoprocess()
:
Kotlin
objectDetector.process(image) .addOnSuccessListener { detectedObjects -> // Task completed successfully // ... } .addOnFailureListener { e -> // Task failed with an exception // ... }
Java
objectDetector.process(image) .addOnSuccessListener( new OnSuccessListener<List<DetectedObject>>() { @Override public void onSuccess(List<DetectedObject> detectedObjects) { // Task completed successfully // ... } }) .addOnFailureListener( new OnFailureListener() { @Override public void onFailure(@NonNull Exception e) { // Task failed with an exception // ... } });
4. Ottieni informazioni sugli oggetti rilevati
Se la chiamata a process()
ha esito positivo, viene passato un elenco di DetectedObject
alla
chi ascolta il successo.
Ogni DetectedObject
contiene le seguenti proprietà:
Riquadro di delimitazione | Un Rect che indica la posizione dell'oggetto nel
dell'immagine. |
||||||
ID monitoraggio | Un numero intero che identifica l'oggetto attraverso le immagini. Nullo MODALITÀ_IMMAGINE_SINGLE. | ||||||
Etichette |
|
Kotlin
for (detectedObject in detectedObjects) { val boundingBox = detectedObject.boundingBox val trackingId = detectedObject.trackingId for (label in detectedObject.labels) { val text = label.text if (PredefinedCategory.FOOD == text) { ... } val index = label.index if (PredefinedCategory.FOOD_INDEX == index) { ... } val confidence = label.confidence } }
Java
// The list of detected objects contains one item if multiple // object detection wasn't enabled. for (DetectedObject detectedObject : detectedObjects) { Rect boundingBox = detectedObject.getBoundingBox(); Integer trackingId = detectedObject.getTrackingId(); for (Label label : detectedObject.getLabels()) { String text = label.getText(); if (PredefinedCategory.FOOD.equals(text)) { ... } int index = label.getIndex(); if (PredefinedCategory.FOOD_INDEX == index) { ... } float confidence = label.getConfidence(); } }
Garantire un'esperienza utente ottimale
Per una migliore esperienza utente, segui queste linee guida nella tua app:
- Il successo del rilevamento degli oggetti dipende dalla complessità visiva dell'oggetto. Nella per essere rilevati, gli oggetti con un numero ridotto di caratteristiche visive potrebbero richiedere in modo da occupare una parte più grande dell'immagine. Devi fornire agli utenti indicazioni acquisire input che funzionano bene con il tipo di oggetti che si vuole rilevare.
- Quando usi la classificazione, se vuoi rilevare gli oggetti che non cadono nelle categorie supportate, implementare una gestione speciale per di oggetti strutturati.
Consulta anche l'app vetrina ML Kit Material Design e Material design Raccolta di pattern per le funzionalità basate sul machine learning.
Ottimizzazione del rendimento
Se vuoi utilizzare il rilevamento degli oggetti in un'applicazione in tempo reale, segui questi linee guida per ottenere le migliori frequenze fotogrammi:
Quando utilizzi la modalità flusso di dati in un'applicazione in tempo reale, non utilizzare più di oggetti Kubernetes, poiché la maggior parte dei dispositivi non è in grado di produrre frequenze fotogrammi adeguate.
Disabilita la classificazione se non ti serve.
- Se utilizzi
Camera
oppure APIcamera2
, limitare le chiamate al rilevatore. Se viene pubblicato un nuovo video il frame diventa disponibile mentre il rilevatore è in esecuzione. Consulta leVisionProcessorBase
nell'app di esempio della guida rapida per un esempio. - Se utilizzi l'API
CameraX
, assicurati che la strategia di contropressione sia impostata sul valore predefinitoImageAnalysis.STRATEGY_KEEP_ONLY_LATEST
. Ciò garantisce che verrà pubblicata una sola immagine alla volta per l'analisi. Se vengono visualizzate altre immagini generati quando l'analizzatore è occupato, verranno eliminati automaticamente e non verranno messi in coda la distribuzione dei contenuti. Dopo aver chiuso l'immagine da analizzare richiamando ImageProxy.close(), verrà pubblicata l'immagine successiva più recente. - Se utilizzi l'output del rilevatore per sovrapporre elementi grafici
l'immagine di input, occorre prima ottenere il risultato da ML Kit, quindi eseguire il rendering dell'immagine
e la sovrapposizione in un solo passaggio. Viene visualizzata sulla superficie di visualizzazione
solo una volta per ogni frame di input. Consulta le
CameraSourcePreview
eGraphicOverlay
nell'app di esempio della guida rapida per un esempio. - Se utilizzi l'API Camera2, acquisisci le immagini in
Formato
ImageFormat.YUV_420_888
. Se usi l'API Camera precedente, acquisisci le immagini in FormatoImageFormat.NV21
.