Gemini Nano-র সাথে সরাসরি মডেল অ্যাক্সেস ব্যবহার করার সময় আপনার প্রম্পটের কোয়ালিটি এবং নির্ভরযোগ্যতা নিশ্চিত করা অত্যন্ত গুরুত্বপূর্ণ।
আপনার প্রম্পটের কোয়ালিটি মূল্যায়ন করতে, আপনার ব্যবহারের ক্ষেত্রে ইনপুট এবং প্রত্যাশিত আউটপুটের একটি বিস্তৃত সেট তৈরি করা উচিত।
আপনার প্রম্পট প্রতিটি Gemini Nano মডেল ভার্সনের সাথে আপনার কোয়ালিটি বার পূরণ করে কিনা তা মূল্যায়ন করতে, আমরা নিম্নলিখিত ওয়ার্কফ্লো সাজেস্ট করি:
- আপনার মূল্যায়ন ডেটাসেট রান করুন এবং আউটপুট রেকর্ড করুন।
- ফলাফল ম্যানুয়ালি মূল্যায়ন করুন অথবা
LLM-as-a-judge ব্যবহার করুন।
- মূল্যায়ন আপনার কোয়ালিটি বার পূরণ না করলে, আপনার প্রম্পট ইটারেট করুন। যেমন, Gemini Pro-এর মতো আরও শক্তিশালী LLM-কে প্রম্পট উন্নত করতে বলুন যা কাঙ্ক্ষিত আউটপুট বনাম প্রকৃত আউটপুটের উপর ভিত্তি করে হবে।
প্রম্পট ইঞ্জিনিয়ারিং টাস্কের পারফর্ম্যান্স বুস্ট করে এবং আপনার প্রম্পট বারবার ব্যবহার করা গুরুত্বপূর্ণ। আমরা উপরের ধাপগুলি অন্তত ৩-৫ বার পুনরাবৃত্তি করার সাজেশন দিই। মনে রাখবেন যে এই পদ্ধতির সীমাবদ্ধতা আছে, কারণ অপ্টিমাইজেশন শেষ পর্যন্ত কম রিটার্ন প্রদান করবে।
বিকল্প হিসেবে, দ্রুত ও বড় স্কেলে প্রম্পট উন্নত করতে, আপনি
ডেটা-চালিত অপ্টিমাইজার ব্যবহার করতে পারেন, যা gemma-3n-e4b-it-এর মতো অন-ডিভাইস মডেলকে টার্গেট করতে পারে।
নিরাপত্তা
Gemini Nano যাতে ব্যবহারকারীদের নিরাপদ ফলাফল প্রদান করে তা নিশ্চিত করতে, ক্ষতিকর বা অবাঞ্ছিত ফলাফল সীমিত করার জন্য একাধিক স্তরের সুরক্ষা ব্যবস্থা প্রয়োগ করা হয়:
- নেটিভ মডেলের নিরাপত্তা: Gemini Nano সহ সব Gemini মডেলকে এমনভাবে ট্রেনিং দেওয়া হয় যাতে সেগুলি শুরু থেকেই নিরাপত্তা সম্পর্কে সচেতন থাকে। এর অর্থ হল, মডেলের মূল অংশে নিরাপত্তার বিষয়টি বিবেচনা করা হয়েছে, পরে যোগ করা হয়নি।
- ইনপুট ও আউটপুটে নিরাপত্তা ফিল্টার: অ্যাপে ফলাফল দেখানোর আগে, ইনপুট প্রম্পট এবং Gemini Nano রানটাইমের মাধ্যমে জেনারেট করা ফলাফল, উভয়কেই আমাদের নিরাপত্তা ফিল্টারের মাধ্যমে মূল্যায়ন করা হয়। এর ফলে, কোয়ালিটিতে কোনও আপোষ না করেই, অনিরাপদ কন্টেন্ট এড়িয়ে যাওয়া সম্ভব হয়।
তবে, ব্যবহারকারীদের জন্য কোন কন্টেন্ট নিরাপদ বলে বিবেচিত হবে তার জন্য প্রতিটি অ্যাপের নিজস্ব মানদণ্ড রয়েছে, তাই আপনার অ্যাপের নির্দিষ্ট ব্যবহারের ক্ষেত্রে নিরাপত্তার ঝুঁকি মূল্যায়ন করা এবং সেই অনুযায়ী পরীক্ষা করা উচিত।
অতিরিক্ত রিসোর্স
- আপনার AI কতটা ভালো? প্রতিটি ধাপে Gen AI মূল্যায়ন, ব্যাখ্যা করা হয়েছে - একটি ব্লগ পোস্ট যা Gen AI মূল্যায়ন পরিষেবা কীভাবে ব্যবহার করতে হয় তা বর্ণনা করে।
- জেন AI মূল্যায়ন পরিষেবার ওভারভিউ - ডকুমেন্টেশন যা মডেল তুলনা, প্রম্পট উন্নত করা এবং ফাইন-টিউন করার মতো কাজকে সহায়তা করার জন্য জেনারেটিভ AI মডেল কীভাবে মূল্যায়ন করতে হয় তা বর্ণনা করে।
- কম্পিউটেশন-ভিত্তিক মূল্যায়ন পাইপলাইন রান করা - মডেলের পারফর্ম্যান্স কীভাবে মূল্যায়ন করতে হয় তার ডকুমেন্টেশন।