Android पर एमएल किट की मदद से डिजिटल इंक की पहचान करना

ML Kit की डिजिटल इंक की पहचान करने की सुविधा की मदद से, डिजिटल प्लैटफ़ॉर्म पर हाथ से लिखे गए टेक्स्ट को सैकड़ों भाषाओं में पहचाना जा सकता है. साथ ही, स्केच को भी कैटगरी में बांटा जा सकता है.

इसे आज़माएं

शुरू करने से पहले

  1. अपने प्रोजेक्ट-लेवल की build.gradle फ़ाइल में, पक्का करें कि आपने buildscript और allprojects दोनों सेक्शन में, Google की Maven रिपॉज़िटरी शामिल की हो.
  2. अपने मॉड्यूल की ऐप्लिकेशन-लेवल की Gradle फ़ाइल में, ML Kit की Android लाइब्रेरी के लिए डिपेंडेंसी जोड़ें. आम तौर पर, यह फ़ाइल app/build.gradle होती है:
dependencies {
  // ...
  implementation 'com.google.mlkit:digital-ink-recognition:19.0.0'
}

अब Ink ऑब्जेक्ट में मौजूद टेक्स्ट को पहचाना जा सकता है.

Ink ऑब्जेक्ट बनाना

Ink ऑब्जेक्ट बनाने का मुख्य तरीका, उसे टच स्क्रीन पर बनाना है. Android पर, इसके लिए Canvas का इस्तेमाल किया जा सकता है. आपके टच इवेंट हैंडलर को, यहां दिए गए कोड स्निपेट में दिखाए गए addNewTouchEvent() तरीके को कॉल करना चाहिए, ताकि उपयोगकर्ता के बनाए गए स्ट्रोक के पॉइंट को Ink ऑब्जेक्ट में सेव किया जा सके.

यहां दिए गए कोड स्निपेट में, इस सामान्य पैटर्न को दिखाया गया है. ज़्यादा जानकारी के लिए, ML Kit के क्विकस्टार्ट सैंपल को देखें.

Kotlin

var inkBuilder = Ink.builder()
lateinit var strokeBuilder: Ink.Stroke.Builder

// Call this each time there is a new event.
fun addNewTouchEvent(event: MotionEvent) {
  val action = event.actionMasked
  val x = event.x
  val y = event.y
  var t = System.currentTimeMillis()

  // If your setup does not provide timing information, you can omit the
  // third paramater (t) in the calls to Ink.Point.create
  when (action) {
    MotionEvent.ACTION_DOWN -> {
      strokeBuilder = Ink.Stroke.builder()
      strokeBuilder.addPoint(Ink.Point.create(x, y, t))
    }
    MotionEvent.ACTION_MOVE -> strokeBuilder!!.addPoint(Ink.Point.create(x, y, t))
    MotionEvent.ACTION_UP -> {
      strokeBuilder.addPoint(Ink.Point.create(x, y, t))
      inkBuilder.addStroke(strokeBuilder.build())
    }
    else -> {
      // Action not relevant for ink construction
    }
  }
}

...

// This is what to send to the recognizer.
val ink = inkBuilder.build()

Java

Ink.Builder inkBuilder = Ink.builder();
Ink.Stroke.Builder strokeBuilder;

// Call this each time there is a new event.
public void addNewTouchEvent(MotionEvent event) {
  float x = event.getX();
  float y = event.getY();
  long t = System.currentTimeMillis();

  // If your setup does not provide timing information, you can omit the
  // third paramater (t) in the calls to Ink.Point.create
  int action = event.getActionMasked();
  switch (action) {
    case MotionEvent.ACTION_DOWN:
      strokeBuilder = Ink.Stroke.builder();
      strokeBuilder.addPoint(Ink.Point.create(x, y, t));
      break;
    case MotionEvent.ACTION_MOVE:
      strokeBuilder.addPoint(Ink.Point.create(x, y, t));
      break;
    case MotionEvent.ACTION_UP:
      strokeBuilder.addPoint(Ink.Point.create(x, y, t));
      inkBuilder.addStroke(strokeBuilder.build());
      strokeBuilder = null;
      break;
  }
}

...

// This is what to send to the recognizer.
Ink ink = inkBuilder.build();

DigitalInkRecognizer का इंस्टेंस पाना

पहचान की प्रोसेस पूरी करने के लिए, Ink इंस्टेंस को DigitalInkRecognizer ऑब्जेक्ट पर भेजें. यहां दिए गए कोड से पता चलता है कि बीसीपी-47 टैग से, इस तरह के रिकॉग्नाइज़र को कैसे इंस्टैंशिएट किया जाए.

Kotlin

// Specify the recognition model for a language
var modelIdentifier: DigitalInkRecognitionModelIdentifier
try {
  modelIdentifier = DigitalInkRecognitionModelIdentifier.fromLanguageTag("en-US")
} catch (e: MlKitException) {
  // language tag failed to parse, handle error.
}
if (modelIdentifier == null) {
  // no model was found, handle error.
}
var model: DigitalInkRecognitionModel =
    DigitalInkRecognitionModel.builder(modelIdentifier).build()


// Get a recognizer for the language
var recognizer: DigitalInkRecognizer =
    DigitalInkRecognition.getClient(
        DigitalInkRecognizerOptions.builder(model).build())

Java

// Specify the recognition model for a language
DigitalInkRecognitionModelIdentifier modelIdentifier;
try {
  modelIdentifier =
    DigitalInkRecognitionModelIdentifier.fromLanguageTag("en-US");
} catch (MlKitException e) {
  // language tag failed to parse, handle error.
}
if (modelIdentifier == null) {
  // no model was found, handle error.
}

DigitalInkRecognitionModel model =
    DigitalInkRecognitionModel.builder(modelIdentifier).build();

// Get a recognizer for the language
DigitalInkRecognizer recognizer =
    DigitalInkRecognition.getClient(
        DigitalInkRecognizerOptions.builder(model).build());

Ink ऑब्जेक्ट को प्रोसेस करना

Kotlin

recognizer.recognize(ink)
    .addOnSuccessListener { result: RecognitionResult ->
      // `result` contains the recognizer's answers as a RecognitionResult.
      // Logs the text from the top candidate.
      Log.i(TAG, result.candidates[0].text)
    }
    .addOnFailureListener { e: Exception ->
      Log.e(TAG, "Error during recognition: $e")
    }

Java

recognizer.recognize(ink)
    .addOnSuccessListener(
        // `result` contains the recognizer's answers as a RecognitionResult.
        // Logs the text from the top candidate.
        result -> Log.i(TAG, result.getCandidates().get(0).getText()))
    .addOnFailureListener(
        e -> Log.e(TAG, "Error during recognition: " + e));

ऊपर दिए गए सैंपल कोड में यह माना गया है कि पहचान करने वाला मॉडल पहले ही डाउनलोड किया जा चुका है. इसके बारे में अगले सेक्शन में बताया गया है.

मॉडल डाउनलोड को मैनेज करना

डिजिटल इंक की पहचान करने वाला एपीआई, सैकड़ों भाषाओं में काम करता है. हालांकि, हर भाषा के लिए कुछ डेटा डाउनलोड करना ज़रूरी होता है. हर भाषा के लिए, करीब 20 एमबी स्टोरेज की ज़रूरत होती है. इसे RemoteModelManager ऑब्जेक्ट से मैनेज किया जाता है.

नया मॉडल डाउनलोड करना

Kotlin

import com.google.mlkit.common.model.DownloadConditions
import com.google.mlkit.common.model.RemoteModelManager

var model: DigitalInkRecognitionModel =  ...
val remoteModelManager = RemoteModelManager.getInstance()

remoteModelManager.download(model, DownloadConditions.Builder().build())
    .addOnSuccessListener {
      Log.i(TAG, "Model downloaded")
    }
    .addOnFailureListener { e: Exception ->
      Log.e(TAG, "Error while downloading a model: $e")
    }

Java

import com.google.mlkit.common.model.DownloadConditions;
import com.google.mlkit.common.model.RemoteModelManager;

DigitalInkRecognitionModel model = ...;
RemoteModelManager remoteModelManager = RemoteModelManager.getInstance();

remoteModelManager
    .download(model, new DownloadConditions.Builder().build())
    .addOnSuccessListener(aVoid -> Log.i(TAG, "Model downloaded"))
    .addOnFailureListener(
        e -> Log.e(TAG, "Error while downloading a model: " + e));

यह देखना कि कोई मॉडल पहले से डाउनलोड है या नहीं

Kotlin

var model: DigitalInkRecognitionModel =  ...
remoteModelManager.isModelDownloaded(model)

Java

DigitalInkRecognitionModel model = ...;
remoteModelManager.isModelDownloaded(model);

डाउनलोड किया गया मॉडल मिटाना

डिवाइस के स्टोरेज से मॉडल हटाने पर, जगह खाली हो जाती है.

Kotlin

var model: DigitalInkRecognitionModel =  ...
remoteModelManager.deleteDownloadedModel(model)
    .addOnSuccessListener {
      Log.i(TAG, "Model successfully deleted")
    }
    .addOnFailureListener { e: Exception ->
      Log.e(TAG, "Error while deleting a model: $e")
    }

Java

DigitalInkRecognitionModel model = ...;
remoteModelManager.deleteDownloadedModel(model)
                  .addOnSuccessListener(
                      aVoid -> Log.i(TAG, "Model successfully deleted"))
                  .addOnFailureListener(
                      e -> Log.e(TAG, "Error while deleting a model: " + e));

टेक्स्ट की पहचान करने की सुविधा को ज़्यादा सटीक बनाने के लिए सलाह

टेक्स्ट की पहचान करने की सुविधा की सटीकता, अलग-अलग भाषाओं के हिसाब से अलग-अलग हो सकती है. सटीकता, लिखने की स्टाइल पर भी निर्भर करती है. डिजिटल इंक की पहचान करने की सुविधा को, लिखने की कई स्टाइल के हिसाब से ट्रेन किया जाता है. हालांकि, नतीजे हर उपयोगकर्ता के लिए अलग-अलग हो सकते हैं.

टेक्स्ट की पहचान करने की सुविधा की सटीकता को बेहतर बनाने के कुछ तरीके यहां दिए गए हैं. ध्यान दें कि ये तकनीकें, इमोजी, ऑटोड्रॉ, और आकार के लिए ड्रॉइंग क्लासिफ़ायर पर लागू नहीं होती हैं.

लिखने की जगह

कई ऐप्लिकेशन में, उपयोगकर्ता के इनपुट के लिए, लिखने की जगह तय होती है. किसी सिंबल का मतलब, आंशिक तौर पर इस बात से तय होता है कि वह सिंबल, लिखने की उस जगह के साइज़ के मुकाबले कितना बड़ा है जिसमें वह सिंबल मौजूद है. उदाहरण के लिए, लोअर या अपर केस वाले "o" या "c" अक्षर और कॉमा बनाम फ़ॉरवर्ड स्लैश के बीच का अंतर.

रिकॉग्नाइज़र को, लिखने की जगह की चौड़ाई और लंबाई बताने से, सटीकता बेहतर हो सकती है. हालांकि, रिकॉग्नाइज़र यह मानता है कि लिखने की जगह में, टेक्स्ट की सिर्फ़ एक लाइन होती है. अगर लिखने की जगह इतनी बड़ी है कि उपयोगकर्ता दो या उससे ज़्यादा लाइनें लिख सकता है, तो WritingArea को ऐसी लंबाई के साथ पास करने पर आपको बेहतर नतीजे मिल सकते हैं जो टेक्स्ट की एक लाइन की लंबाई का सबसे सटीक अनुमान हो. रिकॉग्नाइज़र को पास किया गया WritingArea ऑब्जेक्ट, स्क्रीन पर मौजूद लिखने की जगह से पूरी तरह मेल खाना ज़रूरी नहीं है. इस तरह से WritingArea की लंबाई में बदलाव करने से, कुछ भाषाओं में बेहतर नतीजे मिलते हैं, जबकि कुछ भाषाओं में नहीं.

लिखने की जगह तय करते समय, उसकी चौड़ाई और लंबाई को स्ट्रोक के कोऑर्डिनेट वाली इकाइयों में ही तय करें. x,y कोऑर्डिनेट वाले आर्ग्युमेंट के लिए, किसी इकाई की ज़रूरत नहीं होती. एपीआई सभी इकाइयों को सामान्य करता है. इसलिए, सिर्फ़ स्ट्रोक का तुलनात्मक साइज़ और पोज़िशन मायने रखती है. आपके पास कोऑर्डिनेट को किसी भी ऐसे स्केल में पास करने का विकल्प होता है जो आपके सिस्टम के लिए सही हो.

प्री-कॉन्टेक्स्ट

प्री-कॉन्टेक्स्ट वह टेक्स्ट होता है जो उस Ink में स्ट्रोक से ठीक पहले आता है जिसे आपको पहचानना है. रिकॉग्नाइज़र को प्री-कॉन्टेक्स्ट के बारे में बताकर, उसकी मदद की जा सकती है.

उदाहरण के लिए, कर्सिव में लिखे गए "n" और "u" अक्षरों को अक्सर एक-दूसरे के लिए गलत समझ लिया जाता है. अगर उपयोगकर्ता ने "arg" शब्द का हिस्सा पहले ही डाल दिया है, तो वह ऐसे स्ट्रोक डाल सकता है जिन्हें "ument" या "nment" के तौर पर पहचाना जा सकता है. प्री-कॉन्टेक्स्ट "arg" तय करने से, अस्पष्टता दूर हो जाती है, क्योंकि "argnment" के मुकाबले "argument" शब्द के होने की संभावना ज़्यादा होती है.

प्री-कॉन्टेक्स्ट से, रिकॉग्नाइज़र को शब्दों के बीच के स्पेस यानी वर्ड ब्रेक की पहचान करने में भी मदद मिल सकती है. स्पेस का वर्ण टाइप किया जा सकता है, लेकिन उसे बनाया नहीं जा सकता. ऐसे में, रिकॉग्नाइज़र यह कैसे तय कर सकता है कि कोई शब्द कब खत्म होता है और अगला शब्द कब शुरू होता है? अगर उपयोगकर्ता ने "hello" पहले ही लिख दिया है और वह "world" शब्द लिखता है, तो प्री-कॉन्टेक्स्ट के बिना, रिकॉग्नाइज़र "world" स्ट्रिंग दिखाता है. हालांकि, अगर आपने प्री-कॉन्टेक्स्ट "hello" तय किया है, तो मॉडल " world" स्ट्रिंग दिखाएगा. इसमें "helloword" के मुकाबले "hello world" ज़्यादा सही लगता है. इसलिए, स्ट्रिंग की शुरुआत में एक स्पेस होगा.

आपको ज़्यादा से ज़्यादा 20 वर्णों वाली प्री-कॉन्टेक्स्ट स्ट्रिंग देनी चाहिए. इसमें स्पेस भी शामिल हैं. अगर स्ट्रिंग इससे लंबी है, तो रिकॉग्नाइज़र सिर्फ़ आखिरी 20 वर्णों का इस्तेमाल करता है.

यहां दिए गए कोड के सैंपल से पता चलता है कि लिखने की जगह कैसे तय की जाए और प्री-कॉन्टेक्स्ट तय करने के लिए, RecognitionContext ऑब्जेक्ट का इस्तेमाल कैसे किया जाए.

Kotlin

var preContext : String = ...;
var width : Float = ...;
var height : Float = ...;
val recognitionContext : RecognitionContext =
    RecognitionContext.builder()
        .setPreContext(preContext)
        .setWritingArea(WritingArea(width, height))
        .build()

recognizer.recognize(ink, recognitionContext)

Java

String preContext = ...;
float width = ...;
float height = ...;
RecognitionContext recognitionContext =
    RecognitionContext.builder()
                      .setPreContext(preContext)
                      .setWritingArea(new WritingArea(width, height))
                      .build();

recognizer.recognize(ink, recognitionContext);

स्ट्रोक का क्रम

स्ट्रोक के क्रम के हिसाब से, पहचान की सटीकता अलग-अलग हो सकती है. रिकॉग्नाइज़र यह मानते हैं कि स्ट्रोक उसी क्रम में होंगे जिस क्रम में लोग आम तौर पर लिखते हैं. उदाहरण के लिए, अंग्रेज़ी के लिए बाएं से दाएं. अगर इस पैटर्न से अलग कोई क्रम इस्तेमाल किया जाता है, तो नतीजे कम सटीक होते हैं. जैसे, अंग्रेज़ी का कोई वाक्य आखिरी शब्द से शुरू करना.

एक और उदाहरण तब मिलता है, जब Ink के बीच में मौजूद किसी शब्द को हटाकर उसकी जगह कोई दूसरा शब्द लिखा जाता है. संशोधन शायद वाक्य के बीच में होता है, लेकिन संशोधन के लिए स्ट्रोक, स्ट्रोक के क्रम के आखिर में होते हैं. ऐसे में, हमारा सुझाव है कि एपीआई को नया लिखा गया शब्द अलग से भेजा जाए और अपने लॉजिक का इस्तेमाल करके, नतीजे को पहले की पहचान के साथ मर्ज किया जाए.

अस्पष्ट आकारों से निपटना

ऐसे मामले सामने आ सकते हैं जिनमें रिकॉग्नाइज़र को दिया गया आकार अस्पष्ट हो. उदाहरण के लिए, बहुत ज़्यादा गोल किनारों वाले आयत को आयत या एलिप्स के तौर पर देखा जा सकता है.

जब पहचान के स्कोर उपलब्ध हों, तो इन अस्पष्ट मामलों को स्कोर का इस्तेमाल करके हैंडल किया जा सकता है. स्कोर सिर्फ़ आकार के क्लासिफ़ायर देते हैं. अगर मॉडल को पूरा भरोसा है, तो सबसे अच्छे नतीजे का स्कोर, दूसरे सबसे अच्छे नतीजे के स्कोर से काफ़ी बेहतर होगा. अगर अनिश्चितता है, तो पहले दो नतीजों के स्कोर आस-पास होंगे. इसके अलावा, ध्यान रखें कि आकार के क्लासिफ़ायर, पूरे Ink को एक आकार के तौर पर समझते हैं. उदाहरण के लिए, अगर Ink में एक आयत और एक एलिप्स एक-दूसरे के बगल में मौजूद हैं, तो रिकॉग्नाइज़र नतीजे के तौर पर इनमें से कोई एक (या कुछ और) दिखा सकता है, क्योंकि पहचान का एक उम्मीदवार दो आकारों को नहीं दिखा सकता.