میتوانید از ML Kit برای تشخیص نوشتار در تصاویر یا ویدیوها، مانند نوشتار روی تابلو خیابان، استفاده کنید. ویژگیهای اصلی این ویژگی عبارتاند از:
| ویژگی | بستهبندینشده | موجود در بستهبندی |
|---|---|---|
| نام کتابخانه | com.google.android.gms:play-services-mlkit-text-recognition
com.google.android.gms:play-services-mlkit-text-recognition-chinese com.google.android.gms:play-services-mlkit-text-recognition-devanagari com.google.android.gms:play-services-mlkit-text-recognition-japanese com.google.android.gms:play-services-mlkit-text-recognition-korean |
com.google.mlkit:text-recognition
com.google.mlkit:text-recognition-chinese com.google.mlkit:text-recognition-devanagari com.google.mlkit:text-recognition-japanese com.google.mlkit:text-recognition-korean |
| پیادهسازی | مدل بهصورت پویا ازطریق «خدمات Google Play» بارگیری میشود. | مدل در زمان ساخت بهصورت ایستا به برنامه شما پیوند داده میشود. |
| حجم برنامه | حدود ۲۶۰ کیلوبایت افزایش اندازه بهازای هر معماری اسکریپت. | حدود ۴ مگابایت افزایش اندازه بهازای هر اسکریپت در هر معماری. |
| زمان مقداردهی اولیه | ممکن است لازم باشد قبلاز اولین استفاده، منتظر بمانید تا مدل بارگیری شود. | مدل بلافاصله دردسترس است. |
| عملکرد | در اکثر دستگاهها برای کتابخانه خط لاتین بهصورت همزمان، برای دیگر کتابخانهها کندتر. | در اکثر دستگاهها برای کتابخانه نویسه لاتین همزمان است، برای بقیه کندتر است. |
امتحان کنید
- با برنامه نمونه بازی کنید تا نمونهای از کاربرد این API را ببینید.
- کد را خودتان با codelab امتحان کنید.
قبلاز شروع
- در فایل
build.gradleسطح پروژه، حتماً مخزن Maven مربوط به Google را در هر دو بخشbuildscriptوallprojectsاضافه کنید. وابستگیهای کتابخانههای ML Kit Android را به فایل gradle سطح برنامه واحدتان اضافه کنید، که معمولاً
app/build.gradleاست:برای بستهبندی مدل با برنامهتان:
dependencies { // To recognize Latin script implementation 'com.google.mlkit:text-recognition:16.0.1' // To recognize Chinese script implementation 'com.google.mlkit:text-recognition-chinese:16.0.1' // To recognize Devanagari script implementation 'com.google.mlkit:text-recognition-devanagari:16.0.1' // To recognize Japanese script implementation 'com.google.mlkit:text-recognition-japanese:16.0.1' // To recognize Korean script implementation 'com.google.mlkit:text-recognition-korean:16.0.1' }برای استفاده از مدل در «خدمات Google Play»:
dependencies { // To recognize Latin script implementation 'com.google.android.gms:play-services-mlkit-text-recognition:19.0.1' // To recognize Chinese script implementation 'com.google.android.gms:play-services-mlkit-text-recognition-chinese:16.0.1' // To recognize Devanagari script implementation 'com.google.android.gms:play-services-mlkit-text-recognition-devanagari:16.0.1' // To recognize Japanese script implementation 'com.google.android.gms:play-services-mlkit-text-recognition-japanese:16.0.1' // To recognize Korean script implementation 'com.google.android.gms:play-services-mlkit-text-recognition-korean:16.0.1' }اگر انتخاب کنید که از مدل در «خدمات Google Play» استفاده کنید، میتوانید برنامهتان را پیکربندی کنید تا پساز نصب برنامهتان از «فروشگاه Play»، مدل را بهطور خودکار در دستگاه بارگیری کند. برای انجام این کار، اظهارنامه زیر را به فایل
AndroidManifest.xmlبرنامهتان اضافه کنید:<application ...> ... <meta-data android:name="com.google.mlkit.vision.DEPENDENCIES" android:value="ocr" > <!-- To use multiple models: android:value="ocr,ocr_chinese,ocr_devanagari,ocr_japanese,ocr_korean,..." --> </application>همچنین میتوانید بهطور صریح دردسترس بودن مدل را بررسی کنید و ازطریق ModuleInstallClient API در خدمات Google Play درخواست بارگیری کنید. اگر بارگیری مدل در زمان نصب را فعال نکنید یا بارگیری صریح درخواست نکنید، مدل اولینبار که اسکنر را اجرا میکنید بارگیری میشود. درخواستهایی که قبلاز تکمیل بارگیری انجام میدهید نتیجهای نخواهد داشت.
۱. ایجاد نمونهای از TextRecognizer
نمونهای از TextRecognizer ایجاد کنید و گزینههای مربوط به کتابخانهای را که در بالا وابستگی آن را اعلام کردید ارسال کنید:
Kotlin
// When using Latin script library val recognizer = TextRecognition.getClient(TextRecognizerOptions.DEFAULT_OPTIONS) // When using Chinese script library val recognizer = TextRecognition.getClient(ChineseTextRecognizerOptions.Builder().build()) // When using Devanagari script library val recognizer = TextRecognition.getClient(DevanagariTextRecognizerOptions.Builder().build()) // When using Japanese script library val recognizer = TextRecognition.getClient(JapaneseTextRecognizerOptions.Builder().build()) // When using Korean script library val recognizer = TextRecognition.getClient(KoreanTextRecognizerOptions.Builder().build())
جاوا
// When using Latin script library TextRecognizer recognizer = TextRecognition.getClient(TextRecognizerOptions.DEFAULT_OPTIONS); // When using Chinese script library TextRecognizer recognizer = TextRecognition.getClient(new ChineseTextRecognizerOptions.Builder().build()); // When using Devanagari script library TextRecognizer recognizer = TextRecognition.getClient(new DevanagariTextRecognizerOptions.Builder().build()); // When using Japanese script library TextRecognizer recognizer = TextRecognition.getClient(new JapaneseTextRecognizerOptions.Builder().build()); // When using Korean script library TextRecognizer recognizer = TextRecognition.getClient(new KoreanTextRecognizerOptions.Builder().build());
۲. آماده کردن تصویر ورودی
برای تشخیص نوشتار در تصویر، یک شیء InputImage از
Bitmap، media.Image، ByteBuffer، آرایه بایت، یا فایلی در
دستگاه ایجاد کنید. سپس، شیء InputImage را به روش processImage مربوط به TextRecognizer ارسال کنید.
میتوانید شیء InputImage را از منابع مختلف ایجاد کنید، هرکدام در زیر توضیح داده شده است.
استفاده از media.Image
برای ایجاد شیء InputImage
از شیء media.Image، مثلاً وقتی تصویری را از
دوربین دستگاه ضبط میکنید، شیء media.Image و چرخش تصویر را به
InputImage.fromMediaImage() ارسال کنید.
اگر از کتابخانه
CameraX استفاده میکنید، کلاسهای OnImageCapturedListener و
ImageAnalysis.Analyzer مقدار چرخش را برای شما
محاسبه میکنند.
Kotlin
private class YourImageAnalyzer : ImageAnalysis.Analyzer { override fun analyze(imageProxy: ImageProxy) { val mediaImage = imageProxy.image if (mediaImage != null) { val image = InputImage.fromMediaImage(mediaImage, imageProxy.imageInfo.rotationDegrees) // Pass image to an ML Kit Vision API // ... } } }
جاوا
private class YourAnalyzer implements ImageAnalysis.Analyzer { @Override public void analyze(ImageProxy imageProxy) { Image mediaImage = imageProxy.getImage(); if (mediaImage != null) { InputImage image = InputImage.fromMediaImage(mediaImage, imageProxy.getImageInfo().getRotationDegrees()); // Pass image to an ML Kit Vision API // ... } } }
اگر از کتابخانه دوربینی استفاده نمیکنید که درجه چرخش تصویر را به شما ارائه دهد، میتوانید آن را از درجه چرخش دستگاه و جهت حسگر دوربین در دستگاه محاسبه کنید:
Kotlin
private val ORIENTATIONS = SparseIntArray() init { ORIENTATIONS.append(Surface.ROTATION_0, 0) ORIENTATIONS.append(Surface.ROTATION_90, 90) ORIENTATIONS.append(Surface.ROTATION_180, 180) ORIENTATIONS.append(Surface.ROTATION_270, 270) } /** * Get the angle by which an image must be rotated given the device's current * orientation. */ @RequiresApi(api = Build.VERSION_CODES.LOLLIPOP) @Throws(CameraAccessException::class) private fun getRotationCompensation(cameraId: String, activity: Activity, isFrontFacing: Boolean): Int { // Get the device's current rotation relative to its "native" orientation. // Then, from the ORIENTATIONS table, look up the angle the image must be // rotated to compensate for the device's rotation. val deviceRotation = activity.windowManager.defaultDisplay.rotation var rotationCompensation = ORIENTATIONS.get(deviceRotation) // Get the device's sensor orientation. val cameraManager = activity.getSystemService(CAMERA_SERVICE) as CameraManager val sensorOrientation = cameraManager .getCameraCharacteristics(cameraId) .get(CameraCharacteristics.SENSOR_ORIENTATION)!! if (isFrontFacing) { rotationCompensation = (sensorOrientation + rotationCompensation) % 360 } else { // back-facing rotationCompensation = (sensorOrientation - rotationCompensation + 360) % 360 } return rotationCompensation }
جاوا
private static final SparseIntArray ORIENTATIONS = new SparseIntArray(); static { ORIENTATIONS.append(Surface.ROTATION_0, 0); ORIENTATIONS.append(Surface.ROTATION_90, 90); ORIENTATIONS.append(Surface.ROTATION_180, 180); ORIENTATIONS.append(Surface.ROTATION_270, 270); } /** * Get the angle by which an image must be rotated given the device's current * orientation. */ @RequiresApi(api = Build.VERSION_CODES.LOLLIPOP) private int getRotationCompensation(String cameraId, Activity activity, boolean isFrontFacing) throws CameraAccessException { // Get the device's current rotation relative to its "native" orientation. // Then, from the ORIENTATIONS table, look up the angle the image must be // rotated to compensate for the device's rotation. int deviceRotation = activity.getWindowManager().getDefaultDisplay().getRotation(); int rotationCompensation = ORIENTATIONS.get(deviceRotation); // Get the device's sensor orientation. CameraManager cameraManager = (CameraManager) activity.getSystemService(CAMERA_SERVICE); int sensorOrientation = cameraManager .getCameraCharacteristics(cameraId) .get(CameraCharacteristics.SENSOR_ORIENTATION); if (isFrontFacing) { rotationCompensation = (sensorOrientation + rotationCompensation) % 360; } else { // back-facing rotationCompensation = (sensorOrientation - rotationCompensation + 360) % 360; } return rotationCompensation; }
سپس، شیء media.Image و مقدار درجه چرخش را به InputImage.fromMediaImage() ارسال کنید:
Kotlin
val image = InputImage.fromMediaImage(mediaImage, rotation)
Java
InputImage image = InputImage.fromMediaImage(mediaImage, rotation);
استفاده از شناسه منبع یکسان فایل
برای ایجاد شیء InputImage از نشانی وب فایل، بافت برنامه و نشانی وب فایل را به InputImage.fromFilePath() ارسال کنید. این کار زمانی مفید است که از
قصد ACTION_GET_CONTENT برای ترغیب کاربر به انتخاب
تصویر از برنامه گالریاش استفاده میکنید.
Kotlin
val image: InputImage try { image = InputImage.fromFilePath(context, uri) } catch (e: IOException) { e.printStackTrace() }
Java
InputImage image; try { image = InputImage.fromFilePath(context, uri); } catch (IOException e) { e.printStackTrace(); }
استفاده از ByteBuffer یا ByteArray
برای ایجاد شیء InputImage
از ByteBuffer یا ByteArray، ابتدا درجه چرخش تصویر را
همانطور که قبلاً برای ورودی media.Image شرح داده شد محاسبه کنید.
سپس، شیء InputImage را با میانگیر یا آرایه، همراه با ارتفاع، عرض، قالب کدبندی رنگ، و درجه چرخش تصویر ایجاد کنید:
Kotlin
val image = InputImage.fromByteBuffer( byteBuffer, /* image width */ 480, /* image height */ 360, rotationDegrees, InputImage.IMAGE_FORMAT_NV21 // or IMAGE_FORMAT_YV12 ) // Or: val image = InputImage.fromByteArray( byteArray, /* image width */ 480, /* image height */ 360, rotationDegrees, InputImage.IMAGE_FORMAT_NV21 // or IMAGE_FORMAT_YV12 )
جاوا
InputImage image = InputImage.fromByteBuffer(byteBuffer, /* image width */ 480, /* image height */ 360, rotationDegrees, InputImage.IMAGE_FORMAT_NV21 // or IMAGE_FORMAT_YV12 ); // Or: InputImage image = InputImage.fromByteArray( byteArray, /* image width */480, /* image height */360, rotation, InputImage.IMAGE_FORMAT_NV21 // or IMAGE_FORMAT_YV12 );
استفاده از Bitmap
برای ایجاد شیء InputImage
از شیء Bitmap، اعلان زیر را انجام دهید:
Kotlin
val image = InputImage.fromBitmap(bitmap, 0)
Java
InputImage image = InputImage.fromBitmap(bitmap, rotationDegree);
تصویر با یک شیء Bitmap بههمراه درجههای چرخش نشان داده میشود.
۳. پردازش تصویر
تصویر را به روش process ارسال کنید:
Kotlin
val result = recognizer.process(image) .addOnSuccessListener { visionText -> // Task completed successfully // ... } .addOnFailureListener { e -> // Task failed with an exception // ... }
جاوا
Task<Text> result = recognizer.process(image) .addOnSuccessListener(new OnSuccessListener<Text>() { @Override public void onSuccess(Text visionText) { // Task completed successfully // ... } }) .addOnFailureListener( new OnFailureListener() { @Override public void onFailure(@NonNull Exception e) { // Task failed with an exception // ... } });
۴. استخراج نوشتار از بلوکهای نوشتار شناساییشده
اگر عملیات تشخیص نوشتار موفقیتآمیز باشد، یک شیء Text به شنونده موفقیت ارسال میشود. شیء Text حاوی نوشتار کامل تشخیصدادهشده در
تصویر و صفر یا چند شیء TextBlock است.
هر TextBlock نشاندهنده یک بلوک مستطیلی از نوشتار است که حاوی صفر یا چند شیء Line است. هر شیء Line نشاندهنده یک خط نوشتار است که حاوی صفر یا چند شیء Element است. هر Element
شیء نشاندهنده یک کلمه یا نهاد کلمهمانندی است که حاوی صفر یا چند
Symbol شیء است. هر شیء Symbol
نشاندهنده یک نویسه، رقم، یا نهاد کلمهمانند است.
برای هر TextBlock، Line،
Element، و Symbol شیء، میتوانید نوشتار تشخیصدادهشده در منطقه، مختصات محدودکننده منطقه، و بسیاری از مشخصههای دیگر مثل اطلاعات چرخش، امتیاز اطمینان، و غیره را دریافت کنید.
برای مثال:
Kotlin
val resultText = result.text for (block in result.textBlocks) { val blockText = block.text val blockCornerPoints = block.cornerPoints val blockFrame = block.boundingBox for (line in block.lines) { val lineText = line.text val lineCornerPoints = line.cornerPoints val lineFrame = line.boundingBox for (element in line.elements) { val elementText = element.text val elementCornerPoints = element.cornerPoints val elementFrame = element.boundingBox } } }
جاوا
String resultText = result.getText(); for (Text.TextBlock block : result.getTextBlocks()) { String blockText = block.getText(); Point[] blockCornerPoints = block.getCornerPoints(); Rect blockFrame = block.getBoundingBox(); for (Text.Line line : block.getLines()) { String lineText = line.getText(); Point[] lineCornerPoints = line.getCornerPoints(); Rect lineFrame = line.getBoundingBox(); for (Text.Element element : line.getElements()) { String elementText = element.getText(); Point[] elementCornerPoints = element.getCornerPoints(); Rect elementFrame = element.getBoundingBox(); for (Text.Symbol symbol : element.getSymbols()) { String symbolText = symbol.getText(); Point[] symbolCornerPoints = symbol.getCornerPoints(); Rect symbolFrame = symbol.getBoundingBox(); } } } }
دستورالعملهای تصویر ورودی
-
برای اینکه ML Kit بتواند نوشتار را بهدقت تشخیص دهد، تصاویر ورودی باید حاوی نوشتاری باشد که با دادههای پیکسل کافی نمایش داده شده باشد. در حالت ایدهآل، هر نویسه باید حداقل ۱۶×۱۶ پیکسل باشد. بهطور کلی، بزرگتر بودن نویسهها از ۲۴×۲۴ پیکسل تأثیری بر دقت ندارد.
بنابراین، برای مثال، تصویر ۶۴۰x۴۸۰ ممکن است برای اسکن کارت ویزیت که تمام عرض تصویر را اشغال میکند خوب کار کند. برای اسکن کردن سندی که روی کاغذ اندازه نامه چاپ شده است، ممکن است به تصویری با ابعاد ۷۲۰×۱۲۸۰ پیکسل نیاز باشد.
-
فوکوس ضعیف تصویر میتواند بر دقت تشخیص نوشتار تأثیر بگذارد. اگر نتایج قابلقبول نیست، از کاربر بخواهید تصویر را دوباره بگیرد.
-
اگر درحال تشخیص دادن نوشتار در یک برنامه همزمان هستید، باید ابعاد کلی تصاویر ورودی را درنظر بگیرید. تصاویر کوچکتر سریعتر پردازش میشوند. برای کاهش تأخیر، مطمئن شوید که نوشتار تا حد امکان بخش بزرگی از تصویر را اشغال کند و تصاویر را با وضوح پایینتر ضبط کنید (با درنظر گرفتن الزامات دقت که در بالا ذکر شد). برای اطلاعات بیشتر، به نکتههایی برای بهبود عملکرد مراجعه کنید.
نکتههایی برای بهبود عملکرد
- اگر از
Cameraیاcamera2API استفاده میکنید، فراخوانیهای آشکارساز را محدود کنید. اگر قاب ویدیو جدیدی درحالیکه آشکارساز درحال اجرا است دردسترس قرار گرفت، قاب را رها کنید. برای دیدن نمونه،VisionProcessorBaseکلاس را در برنامه نمونه شروع سریع ببینید. - اگر از
CameraXAPI استفاده میکنید، مطمئن شوید که استراتژی فشار برگشتی روی مقدار پیشفرض آن تنظیم شده باشدImageAnalysis.STRATEGY_KEEP_ONLY_LATEST. این کار تضمین میکند که در هر بار فقط یک تصویر برای تجزیهوتحلیل ارسال شود. اگر وقتی تجزیهگر مشغول است تصاویر بیشتری تولید شود، این تصاویر بهطور خودکار حذف میشوند و در صف تحویل قرار نمیگیرند. وقتی تصویری که درحال تجزیهوتحلیل است با فراخوانی ImageProxy.close() بسته شود، تصویر جدید بعدی ارائه خواهد شد. - اگر از برونداد آشکارساز برای رونهادن گرافیک روی تصویر ورودی استفاده میکنید، ابتدا نتیجه را از ML Kit دریافت کنید، سپس تصویر را پرداز و در یک مرحله رونهاد کنید. این مورد فقط یکبار برای هر فریم ورودی
در سطح نمایشگر پردازش میشود. برای نمونه، کلاسهای
CameraSourcePreviewوGraphicOverlayرا در برنامه نمونه راهاندازی سریع ببینید. - اگر از Camera2 API استفاده میکنید، تصاویر را در قالب
ImageFormat.YUV_420_888ضبط کنید. اگر از Camera API قدیمیتر استفاده میکنید، تصاویر را در قالبImageFormat.NV21ضبط کنید. - تصاویر را با وضوح پایینتری ضبط کنید. بااینحال، الزامات ابعاد تصویر این API را نیز درنظر داشته باشید.