इस पेज पर, Google Workspace के एमसीपी सर्वर के लिए सुरक्षा सेटिंग कॉन्फ़िगर करने का तरीका बताया गया है.
आपको नुकसान पहुंचाने वाले कॉन्टेंट या प्रॉम्प्ट इंजेक्शन के हमलों के लिए, प्रॉम्प्ट और जवाबों की जांच करनी होगी. आपके पास Google की ओर से उपलब्ध कराए गए Model Armor का इस्तेमाल करने का विकल्प है. इसके अलावा, अपना कोई समाधान इस्तेमाल किया जा सकता है. हालांकि, इसके लिए आपको दस्तावेज़ तैयार करना होगा, ताकि उपयोगकर्ता उस जोखिम को स्वीकार कर सकें. ज़्यादा जानकारी के लिए, Google Workspace के उपयोगकर्ता के डेटा और डेवलपर की नीति देखें.
सुरक्षा और बचाव के लिए, वैकल्पिक कॉन्फ़िगरेशन
एमसीपी टूल की मदद से कई तरह की कार्रवाइयां की जा सकती हैं. इसलिए, एमसीपी के इस्तेमाल से सुरक्षा से जुड़े नए जोखिम और समस्याएं पैदा हो सकती हैं. इन जोखिमों को कम करने और मैनेज करने के लिए, Google Cloud डिफ़ॉल्ट सेटिंग और पसंद के मुताबिक बनाई जा सकने वाली नीतियां उपलब्ध कराता है. इनकी मदद से, Google Cloud संगठन या प्रोजेक्ट में एमसीपी टूल के इस्तेमाल को कंट्रोल किया जा सकता है.
एमसीपी की सुरक्षा और उसके इस्तेमाल से जुड़े नियमों के बारे में ज़्यादा जानने के लिए, एआई की सुरक्षा और बचाव देखें.
Model Armor का इस्तेमाल करना
Model Armor, Google Cloud की एक सेवा है. इसे एआई ऐप्लिकेशन की सुरक्षा और बचाव को बेहतर बनाने के लिए डिज़ाइन किया गया है. यह एलएलएम प्रॉम्प्ट और जवाबों की पहले से जांच करके काम करता है. इससे, अलग-अलग तरह के जोखिमों से सुरक्षा मिलती है. साथ ही, ज़िम्मेदार एआई के तरीकों को बढ़ावा मिलता है. चाहे एआई को अपने क्लाउड एनवायरमेंट में डिप्लॉय किया जा रहा हो या बाहरी क्लाउड प्रोवाइडर पर, Model Armor की मदद से नुकसान पहुंचाने वाले इनपुट को रोका जा सकता है. साथ ही, कॉन्टेंट की सुरक्षा की पुष्टि की जा सकती है, संवेदनशील डेटा को सुरक्षित रखा जा सकता है, नियमों का पालन किया जा सकता है, और एआई की सुरक्षा और बचाव से जुड़ी नीतियों को अपने अलग-अलग एआई लैंडस्केप पर लगातार लागू किया जा सकता है.
लॉगिंग की सुविधा चालू होने पर, Model Armor पूरे पेलोड को लॉग करता है. इससे, आपके लॉग में संवेदनशील जानकारी दिख सकती है.
Model Armor को चालू करना
Model Armor का इस्तेमाल करने से पहले, आपको Model Armor के एपीआई चालू करने होंगे.
कंसोल
Model Armor API को चालू करें.
एपीआई चालू करने के लिए ज़रूरी भूमिकाएं
एपीआई चालू करने के लिए, आपके पास
serviceusage.services.enableअनुमति होनी चाहिए. अगर आपने प्रोजेक्ट बनाया है, तो आपके पास मालिक की भूमिका (roles/owner) के ज़रिए यह अनुमति पहले से ही होगी. इसके अलावा, आपको सेवा के इस्तेमाल के एडमिन की भूमिका (roles/serviceusage.serviceUsageAdmin) के ज़रिए यह अनुमति मिल सकती है. भूमिकाएं देने का तरीका जानें.वह प्रोजेक्ट चुनें जिसमें आपको Model Armor चालू करना है.
gcloud
शुरू करने से पहले, Model Armor API के साथ Google Cloud CLI का इस्तेमाल करके यह तरीका अपनाएं:
Google Cloud CLI इंस्टॉल करें. इसके बाद, फ़ेडरेटेड आइडेंटिटी का इस्तेमाल करके gcloud में साइन इन करें. साइन इन करने के बाद, Google Cloud CLI को शुरू करने के लिए यह कमांड चलाएं:
gcloud init-
Model Armor सेवा के लिए एपीआई एंडपॉइंट सेट करने के लिए, यह कमांड चलाएं.
gcloud config set api_endpoint_overrides/modelarmor "https://modelarmor.LOCATION.rep.googleapis.com/"
LOCATIONकी जगह वह इलाका डालें जहां आपको Model Armor का इस्तेमाल करना है.
Google और Google Cloud के रिमोट एमसीपी सर्वर के लिए सुरक्षा कॉन्फ़िगर करना
एमसीपी टूल के कॉल और जवाबों को सुरक्षित रखने के लिए, Model Armor की फ़्लोर सेटिंग का इस्तेमाल किया जा सकता है. फ़्लोर सेटिंग में, सुरक्षा के उन फ़िल्टर के बारे में बताया जाता है जो पूरे प्रोजेक्ट पर लागू होते हैं. इस कॉन्फ़िगरेशन से, प्रोजेक्ट में एमसीपी टूल के सभी कॉल और जवाबों पर फ़िल्टर का एक जैसा सेट लागू होता है.
एमसीपी सैनिटाइज़ेशन की सुविधा चालू करके, Model Armor की फ़्लोर सेटिंग सेट अप करें. ज़्यादा जानकारी के लिए, Model Armor की फ़्लोर सेटिंग कॉन्फ़िगर करना देखें.
कमांड का यह उदाहरण देखें:
gcloud model-armor floorsettings update \ --full-uri='projects/PROJECT_ID/locations/global/floorSetting' \ --enable-floor-setting-enforcement=TRUE \ --add-integrated-services=GOOGLE_MCP_SERVER \ --google-mcp-server-enforcement-type=INSPECT_AND_BLOCK \ --enable-google-mcp-server-cloud-logging \ --malicious-uri-filter-settings-enforcement=ENABLED \ --add-rai-settings-filters='[{"confidenceLevel": "MEDIUM_AND_ABOVE", "filterType": "DANGEROUS"}]'
PROJECT_ID की जगह, Google Cloud का प्रोजेक्ट आईडी डालें.
इन सेटिंग के बारे में जानें:
INSPECT_AND_BLOCK: यह एनफ़ोर्समेंट टाइप, Google के एमसीपी सर्वर के लिए कॉन्टेंट की जांच करता है. साथ ही, फ़िल्टर से मेल खाने वाले प्रॉम्प्ट और जवाबों को ब्लॉक करता है.ENABLED: यह सेटिंग, फ़िल्टर या एनफ़ोर्समेंट को चालू करती है.MEDIUM_AND_ABOVE: यह ज़िम्मेदार एआई - खतरनाक फ़िल्टर सेटिंग के लिए कॉन्फ़िडेंस लेवल है. इस सेटिंग में बदलाव किया जा सकता है, हालांकि, कम वैल्यू सेट करने पर, गलत तरीके से पॉज़िटिव नतीजे मिलने की संभावना बढ़ सकती है. ज़्यादा जानकारी के लिए, Model Armor के कॉन्फ़िडेंस लेवल देखें.
Model Armor की मदद से, एमसीपी ट्रैफ़िक को स्कैन करने की सुविधा बंद करना
प्रोजेक्ट की फ़्लोर सेटिंग के आधार पर, Google के एमसीपी सर्वर से आने-जाने वाले ट्रैफ़िक को Model Armor की मदद से अपने-आप स्कैन होने से रोकने के लिए, यह कमांड चलाएं:
gcloud model-armor floorsettings update \
--full-uri='projects/PROJECT_ID/locations/global/floorSetting' \
--remove-integrated-services=GOOGLE_MCP_SERVER
PROJECT_ID की जगह, Google Cloud का प्रोजेक्ट आईडी डालें. Model Armor, Google के किसी भी एमसीपी सर्वर के ट्रैफ़िक पर, इस प्रोजेक्ट की फ़्लोर सेटिंग में तय किए गए नियमों को अपने-आप लागू नहीं करता.
Model Armor की फ़्लोर सेटिंग और सामान्य कॉन्फ़िगरेशन, सिर्फ़ एमसीपी पर ही नहीं, बल्कि अन्य सेवाओं पर भी असर डाल सकती हैं. Model Armor, Vertex AI जैसी सेवाओं के साथ इंटिग्रेट होता है. इसलिए, फ़्लोर सेटिंग में किए गए किसी भी बदलाव से, सिर्फ़ एमसीपी ही नहीं, बल्कि इंटिग्रेट की गई सभी सेवाओं के ट्रैफ़िक स्कैनिंग और सुरक्षा से जुड़े व्यवहार पर असर पड़ सकता है.