Android SDK'daki (Kotlin/Java) kullanıcı ortamını anlama

Scene Semantics API'yi kendi uygulamalarınızda nasıl kullanacağınızı öğrenin.

Scene Semantics API, makine öğrenimi modeline dayalı, gerçek zamanlı semantik bilgiler sağlayarak geliştiricilerin kullanıcıyı çevreleyen ortamı anlamalarını sağlar. Bir dış mekan sahnesinin resmi dikkate alındığında API, gökyüzü, bina, ağaç, yol, kaldırım, araç, kişi ve diğer yararlı anlamsal sınıflarda her piksel için bir etiket döndürür. Scene Semantics API, piksel etiketlerine ek olarak her piksel etiketi için güven değerleri ve belirli bir etiketin dış mekan sahnesindeki yaygınlığını sorgulamak için kolay bir yol sunar.

Soldan sağa, bir giriş resmi örnekleri, piksel etiketlerinin anlamsal resmi ve ilgili güven resmi:

Ön koşullar

Temel artırılmış gerçeklik kavramlarını anladığınızdan emin olun ve devam etmeden önce ARCore oturumunun nasıl yapılandırılacağı hakkında daha fazla bilgi edinin.

Sahne Anlamını Etkinleştir

Yeni bir ARCore oturumunda, kullanıcının cihazının Scene Semantics API'yi destekleyip desteklemediğini kontrol edin. İşlem gücü kısıtlamaları nedeniyle ARCore uyumlu cihazların tümü Scene Semantics API'yi desteklemez.

Kaynakları kaydetmek için ARCore'da Sahne Semantiği varsayılan olarak devre dışıdır. Uygulamanızın Scene Semantics API'yi kullanmasını sağlamak için semantik modunu etkinleştirin.

Config config = session.getConfig();

// Check whether the user's device supports the Scene Semantics API.
boolean isSceneSemanticsSupported =
    session.isSemanticModeSupported(Config.SemanticMode.ENABLED);
if (isSceneSemanticsSupported) {
  config.setSemanticMode(Config.SemanticMode.ENABLED);
}
session.configure(config);

val config = session.config

// Check whether the user's device supports the Scene Semantics API.
val isSceneSemanticsSupported = session.isSemanticModeSupported(Config.SemanticMode.ENABLED)
if (isSceneSemanticsSupported) {
  config.semanticMode = Config.SemanticMode.ENABLED
}
session.configure(config)

Anlamsal görüntü edinme

Sahne Semantiği etkinleştirildiğinde anlamsal resim alınabilir. Anlamsal resim, her pikselin SemanticLabel ile tanımlanan anlamsal bir etikete karşılık geldiği bir ImageFormat.Y8 resmidir.

Anlamsal resmi edinmek için Frame.acquireSemanticImage() simgesini kullanın:

// Retrieve the semantic image for the current frame, if available.
try (Image semanticImage = frame.acquireSemanticImage()) {
  // Use the semantic image here.
} catch (NotYetAvailableException e) {
  // No semantic image retrieved for this frame.
  // The output image may be missing for the first couple frames before the model has had a
  // chance to run yet.
}

// Retrieve the semantic image for the current frame, if available.
try {
  frame.acquireSemanticImage().use { semanticImage ->
    // Use the semantic image here.
  }
} catch (e: NotYetAvailableException) {
  // No semantic image retrieved for this frame.
}

Çıkış anlamsal görüntüleri, cihaza bağlı olarak oturumun başlangıcından itibaren yaklaşık 1-3 kare sonra kullanılabilir olmalıdır.

Güven görüntüsünü elde etme

Her piksel için etiket sağlayan anlamsal resme ek olarak API, karşılık gelen piksel güven değerlerinin bir güven resmi de sağlar. Güven resmi, her pikselin [0, 255] aralığındaki bir değere karşılık geldiği ve her pikselin anlamsal etiketiyle ilişkili olasılığa karşılık gelen bir ImageFormat.Y8 resmidir.

Anlamsal güven görüntüsünü elde etmek için Frame.acquireSemanticConfidenceImage() simgesini kullanın:

// Retrieve the semantic confidence image for the current frame, if available.
try (Image semanticImage = frame.acquireSemanticConfidenceImage()) {
  // Use the semantic confidence image here.
} catch (NotYetAvailableException e) {
  // No semantic confidence image retrieved for this frame.
  // The output image may be missing for the first couple frames before the model has had a
  // chance to run yet.
}

// Retrieve the semantic confidence image for the current frame, if available.
try {
  frame.acquireSemanticConfidenceImage().use { semanticConfidenceImage ->
    // Use the semantic confidence image here.
  }
} catch (e: NotYetAvailableException) {
  // No semantic confidence image retrieved for this frame.
}

Çıkış güven resimleri, cihaza bağlı olarak oturumun başlangıcından itibaren yaklaşık 1-3 kare sonra kullanılabilir olmalıdır.

Anlamsal etiket için piksellerin oranını sorgulama

Geçerli çerçevede bulunan ve gökyüzü gibi belirli bir sınıfa ait piksellerin oranını da sorgulayabilirsiniz. Bu sorgu, anlamsal resmi döndürüp belirli bir etiket için piksel düzeyinde arama yapmaktan daha etkilidir. Döndürülen kesir, [0.0, 1.0] aralığında bir kayan noktalı değerdir.

Belirli bir etiketin kesirini öğrenmek için Frame.getSemanticLabelFraction() işlevini kullanın:

// Retrieve the fraction of pixels for the semantic label sky in the current frame.
try {
  float outFraction = frame.getSemanticLabelFraction(SemanticLabel.SKY);
  // Use the semantic label fraction here.
} catch (NotYetAvailableException e) {
  // No fraction of semantic labels was retrieved for this frame.
}

// Retrieve the fraction of pixels for the semantic label sky in the current frame.
try {
  val fraction = frame.getSemanticLabelFraction(SemanticLabel.SKY)
  // Use the semantic label fraction here.
} catch (e: NotYetAvailableException) {
  // No fraction of semantic labels was retrieved for this frame.
}