एंटरप्राइज़ AI एजेंट क्यों विफल होते हैं - और Glean और AWS के साथ उन्हें प्रोडक्शन के लिए तैयार कैसे करें
यहाँ एक ज़ोरदार दावा है: बोर्डरूम में डेमो किए गए अधिकांश "AI एजेंट" वास्तव में एंटरप्राइज़ के लिए तैयार नहीं हैं। वे दबाव में मतिभ्रम करते हैं, वास्तविक डेटा पर टूट जाते हैं, और SOC 2 ऑडिट पास नहीं कर सकते। यदि आप ऐसी AI चाहते हैं जिसे आपकी कानूनी, सुरक्षा और IT टीमें वास्तव में स्वीकार करेंगी - और आपके कर्मचारी वास्तव में उपयोग करेंगे - तो आपको एक ऐसा बिल्ड चाहिए जो एंटरप्राइज़-ग्रेड पुनर्प्राप्ति (Glean), मजबूत क्लाउड प्रिमिटिव (AWS), और एक अनुशासित आर्किटेक्चर को मिलाता है जो स्केल से बचता है।
यह गाइड आपको Glean और AWS के साथ एंटरप्राइज़-रेडी AI एजेंट बनाने के तरीके के बारे में चरण-दर-चरण बताता है - पहचान-जागरूक पुनर्प्राप्ति से लेकर सुरक्षित टूल उपयोग तक, विलंबता बजट से लेकर अवलोकन तक, और पायलट से लेकर प्रोडक्शन तक।
हम एक प्रश्न-आधारित संरचना का उपयोग करेंगे ताकि आप उस पर जा सकें जो सबसे महत्वपूर्ण है: डेटा एक्सेस, सुरक्षा, आर्किटेक्चर और रोलआउट।
एंटरप्राइज़-रेडी AI एजेंट से हमारा क्या मतलब है?
एक एंटरप्राइज़-रेडी AI एजेंट केवल एक चैट इंटरफ़ेस नहीं है। यह एक सुरक्षित, ऑडिट करने योग्य सिस्टम है जो यह कर सकता है:
- सख्त अनुमति सीमाओं के साथ कंपनी के ज्ञान का उपयोग करके प्रश्नों के उत्तर दें
- अनुमोदित टूल के माध्यम से कार्रवाई करें (उदाहरण के लिए, ServiceNow टिकट, Jira मुद्दे, Slack पोस्ट)
- स्रोतों को विशेषता दें और तर्क समझाएं
- एंटरप्राइज़ SSO, SCIM और DLP नियंत्रणों के तहत काम करें
- डेटा निवास, लॉगिंग और अवधारण आवश्यकताओं का अनुपालन करें
- अनुमानित विलंबता और लागत के साथ हजारों उपयोगकर्ताओं के लिए स्केल करें
यह वह जगह है जहाँ Glean और AWS के साथ AI एजेंटों का निर्माण चमकता है: Glean ऐप्स में पहचान-जागरूक एंटरप्राइज़ खोज और पुनर्प्राप्ति प्रदान करता है, जबकि AWS कंप्यूट, ऑर्केस्ट्रेशन, नेटवर्किंग और गवर्नेंस नींव लाता है जिसकी आपको प्रोडक्शन में आवश्यकता होगी।
एक नज़र में आर्किटेक्चर: Glean + AWS
सिस्टम को चार परतों के रूप में सोचें:
- पहचान और एक्सेस परत (SSO, SCIM, अनुमतियाँ)
- Okta/Azure AD के माध्यम से SSO; प्रावधान के लिए SCIM; भूमिका मैपिंग
- Glean क्वेरी समय पर दस्तावेज़-स्तर की अनुमतियों को लागू करता है
- AWS Cognito या सेवाओं में टोकन ब्रोकर करने के लिए सीधा SAML/OIDC
- एंटरप्राइज़ पुनर्प्राप्ति परत (Glean)
- Google Drive, Slack, Confluence, Jira, GitHub, Box, Notion, और बहुत कुछ में एकीकृत इंडेक्स
- अनुमति-जागरूक पुनर्प्राप्ति और रैंकिंग
- क्वेरी पुनर्लेखन, हाइब्रिड खोज, सिमेंटिक रीरैंकिंग
- तर्क और ऑर्केस्ट्रेशन परत (AWS + मॉडल)
- स्टेटलेस एजेंट चरणों के लिए AWS Lambda या ECS
- फ्रंटियर मॉडल तक प्रबंधित एक्सेस के लिए Amazon Bedrock
- मल्टी-टूल वर्कफ़्लो और पुन: प्रयास के लिए स्टेप फंक्शन्स
- कुंजी और टूल क्रेडेंशियल्स के लिए सीक्रेट्स मैनेजर/पैरामीटर स्टोर
- एक्शन और टूल परत (एंटरप्राइज़ एकीकरण)
- रिकॉर्ड के सिस्टम में रीड और राइट ऑपरेशंस (ServiceNow, Salesforce, Jira, Slack)
- प्रत्येक टूल कॉल के लिए गार्डरेल, अनुमोदन और अवलोकन
- व्याख्या के लिए CloudWatch/OpenSearch में ऑडिट लॉग
कोर बिल्ड: Glean और AWS के साथ एंटरप्राइज़-रेडी AI एजेंट कैसे बनाएं
नीचे एक व्यावहारिक, एंड-टू-एंड पाथ है। अपने स्टैक के लिए अनुकूल करें, लेकिन सिद्धांतों को बनाए रखें।
1) पहले पहचान और गवर्नेंस सेट करें
- Okta/Azure AD के माध्यम से SSO स्थापित करें। समूहों/भूमिकाओं को ऐप अनुमतियों पर मैप करें।
- स्वचालित उपयोगकर्ता जीवनचक्र (जॉइनर/मूवर/लीवर) के लिए SCIM का उपयोग करें। डीप्रोविज़निंग एजेंट तक कैस्केड होना चाहिए।
- कम से कम विशेषाधिकार IAM भूमिकाओं के साथ AWS खाते कॉन्फ़िगर करें। देव, स्टेजिंग, प्रोड को अलग करें। जहां आवश्यक हो, Bedrock और डेटा एग्ग्रेस नियंत्रणों के लिए VPC एंडपॉइंट लागू करें।
- डेटा रिटेंशन को परिभाषित करें: प्रॉम्प्ट, प्रतिक्रियाएं और वेक्टर एम्बेडिंग को कितने समय तक संग्रहीत करना है। लॉग और आर्टिफैक्ट के लिए KMS-एन्क्रिप्टेड S3 बकेट का उपयोग करें।
टिप: पहचान को एक रनटाइम सिग्नल के रूप में मानें। एजेंट को Glean और टूल के माध्यम से अंतिम उपयोगकर्ता की पहचान पारित करनी चाहिए ताकि अनुमति जाँच बरकरार रहे।
2) Glean में स्रोत कनेक्ट करें और अनुमति-जागरूक पुनर्प्राप्ति सक्षम करें
- अपने फ़ुटप्रिंट के अनुसार Slack, Drive, Confluence, Notion, GitHub, Jira, Box और ईमेल कनेक्ट करें।
- Glean को कम से कम विशेषाधिकार के साथ क्रॉल और इंडेक्स करने दें; सुरक्षा के साथ स्कोप की पुष्टि करें।
- अनुमति प्रसार को मान्य करें: एक उपयोगकर्ता को केवल वही पुनर्प्राप्त करना चाहिए जो वे स्रोत ऐप में देख सकते हैं।
- Glean क्वेरी कॉन्फ़िगरेशन को ट्यून करें: बेहतर परिशुद्धता के लिए क्वेरी पुनर्लेखन, हाइब्रिड पुनर्प्राप्ति और सिमेंटिक रीरैंकिंग सक्षम करें।
यह क्यों मायने रखता है: अधिकांश एंटरप्राइज़ में, "मतिभ्रम" समस्या का 70-90% वास्तव में एक पुनर्प्राप्ति समस्या है। Glean के साथ, AI एजेंट उपयोगकर्ता की अनुमतियों पर वातानुकूलित सही दस्तावेज़ों को पुनर्प्राप्त करता है, जिससे जोखिम और अप्रासंगिक उत्तर बहुत कम हो जाते हैं।
3) Amazon Bedrock के माध्यम से मॉडल चुनें और गार्डरेल सेट करें
- एक सामान्य मॉडल (उदाहरण के लिए, Bedrock के माध्यम से Claude, Llama, या Mistral) से शुरू करें और डोमेन प्रॉम्प्ट के विरुद्ध A/B करें।
- सुरक्षा फ़िल्टर, प्रॉम्प्ट इंजेक्शन जाँच और सामग्री नीतियों के लिए Bedrock गार्डरेल का उपयोग करें।
- प्रतिक्रियाओं को सीमित करें: डॉक ID/URL द्वारा उद्धरणों की आवश्यकता होती है, टूल आउटपुट के लिए JSON स्कीमा लागू करें, और प्रति चरण अधिकतम टोकन सेट करें।
- एक विलंबता बजट रखें: Q&A के लिए P95 एंड-टू-एंड < 2.5s और टूल-उपयोग प्रवाह के लिए < 6s को लक्षित करें।
4) AWS पर एजेंट को ऑर्केस्ट्रेट करें
पैटर्न: ReAct-शैली योजना + टूल उपयोग + ग्राउंडेड उत्तर।
- चरणों को समन्वयित करने के लिए स्टेप फंक्शन्स का उपयोग करें: पुनर्प्राप्त करें → योजना बनाएं → टूल → मान्य करें → उत्तर दें।
- तर्क कॉल Lambda या ECS में चलते हैं; बर्स्टी ट्रैफिक के लिए Lambda चुनें, निरंतर थ्रूपुट के लिए ECS।
- टूल एडेप्टर (Jira, Slack, ServiceNow) AWS सीक्रेट्स मैनेजर में IAM-स्कोप वाले सीक्रेट के साथ स्टेटलेस लैम्ब्डा हैं।
- TTL के साथ DynamoDB में अल्पकालिक वार्तालाप स्थिति संग्रहीत करें; S3/Glue/Athena में दीर्घकालिक एनालिटिक्स।
5) Glean के साथ पुनर्प्राप्ति-संवर्धित जनरेशन (RAG) लागू करें
- उपयोगकर्ता की पहचान टोकन और उपयोगकर्ता के प्रश्न के साथ Glean क्वेरी करें।
- शीर्ष-k परिणाम पुनर्प्राप्त करें (उदाहरण के लिए, हाइब्रिड: k=10 सिमेंटिक + 10 कीवर्ड) अनुमतियों का सम्मान करते हुए।
- Glean की प्रासंगिकता के साथ रीरैंक करें; मॉडल को केवल शीर्ष, डिडुप्लिकेटेड चंक्स पास करें।
- एजेंट को स्रोतों का हवाला देने और एक आत्मविश्वास स्कोर शामिल करने की आवश्यकता होती है।
प्रॉम्प्ट स्केलेटन:
- सिस्टम: “आप एक ग्राउंडेड एंटरप्राइज़ सहायक हैं। केवल प्रदान किए गए संदर्भ का उपयोग करें। यदि अप्रासंगिक है, तो एक अनुवर्ती प्रश्न पूछें। हमेशा शीर्षक और लिंक द्वारा स्रोतों का हवाला दें।”
- टूल: “आप Jira_CreateIssue, Slack_PostMessage, ServiceNow_CreateIncident को कॉल कर सकते हैं। उपयोगकर्ता के साथ पुष्टि करने के बाद ही कार्य करें जब तक कि एक रनबुक स्वचालन को अधिकृत न करे।”
6) सुरक्षित टूल उपयोग और अनुमोदन जोड़ें
- प्रत्येक टूल को पैरामीटर सत्यापन और दर सीमित करने के साथ रैप करें।
- प्रभावशाली कार्यों के लिए मानव पुष्टिकरण या प्रबंधक अनुमोदन की आवश्यकता होती है (उदाहरण के लिए, प्रोविज़निंग एक्सेस, P1s को बंद करना)।
- प्रत्येक टूल कॉल (कौन, क्या, कब, इनपुट स्कीमा, आउटपुट) को ऑडिट के लिए CloudWatch और S3 में लॉग करें।
- Slack/Teams पोस्ट के लिए, भेजने से पहले पूर्वावलोकन के लिए "ड्राफ्ट मोड" का समर्थन करें।
7) अवलोकन, मूल्यांकन और ड्रिफ्ट नियंत्रण
- आवश्यक होने पर रेडक्शन के साथ प्रॉम्प्ट, संदर्भ स्निपेट, उद्धरण और प्रतिक्रियाएं कैप्चर करें।
- परिशुद्धता@k, ग्राउंडेडनेस और डिफ्लेक्शन दर की निगरानी के लिए OpenSearch डैशबोर्ड का उपयोग करें।
- ऑफ़लाइन इवल्स चलाएं: अपेक्षित उत्तरों और आवश्यक स्रोतों के साथ 100-300 org-विशिष्ट प्रश्नों का एक गोल्ड सेट क्यूरेट करें।
- कनेक्टर या अनुमति ड्रिफ्ट का पता लगाने के लिए कैनरी शेड्यूल करें (उदाहरण के लिए, परिवर्तित Slack चैनल, ड्राइव माइग्रेशन)।
8) प्रदर्शन और लागत ट्यूनिंग
- हॉट टॉपिक्स (उदाहरण के लिए, HR पॉलिसी) के लिए प्रति उपयोगकर्ता Glean क्वेरी कैश करें, जिसमें शॉर्ट TTLs हों।
- रूटिंग के लिए छोटे मॉडल का उपयोग करें, केवल हार्ड क्वेरी या मल्टी-टूल योजनाओं के लिए बड़े मॉडल।
- जब संभव हो तो बैच रीरैंकिंग; संदर्भ को संपीड़ित करें; चंक डिडुप्लीकेशन का उपयोग करें।
- हल किए गए कार्य प्रति लागत को ट्रैक करें; org और प्रति उपयोगकर्ता समूह के लिए कोटा सेट करें।
उदाहरण: Glean और AWS के साथ निर्मित एक एंटरप्राइज़ IT सहायक
आइए एक ठोस परिदृश्य पर चलते हैं जो दिखाता है कि Glean और AWS के साथ एंटरप्राइज़-रेडी AI एजेंट कैसे बनाएं।
उपयोग केस: IT समर्थन ट्राइएज और रिज़ॉल्यूशन।
- उपयोगकर्ता पूछता है: "अपडेट के बाद macOS 14 पर VPN विफल हो जाता है - कोई फिक्स है?"
- एजेंट IT रनबुक ट्रैक पर रूट करता है।
- पुनर्प्राप्ति: उपयोगकर्ता की पहचान के साथ Glean क्वेरी करता है और VPN रनबुक (Confluence), #it-support से एक Slack थ्रेड और एक Jamf पॉलिसी डॉक प्राप्त करता है। केवल वही संसाधन माने जाते हैं जिन्हें उपयोगकर्ता एक्सेस कर सकता है।
- योजना: एजेंट चरणों का प्रस्ताव करता है: फिक्स साझा करें, Jamf के माध्यम से डिवाइस अनुपालन की जाँच करें, और यदि हल नहीं होता है, तो एक ServiceNow घटना खोलें।
- टूल कॉल: Jamf स्थिति पढ़ता है (केवल-पढ़ें), एक फिक्स संदेश का मसौदा तैयार करता है, और उपयोगकर्ता से एस्केलेशन की पुष्टि करने के लिए कहता है। पुष्टिकरण के साथ, सही टेम्पलेट के साथ एक घटना बनाता है।
- उत्तर: रनबुक और Slack थ्रेड के उद्धरणों के साथ एक संक्षिप्त फिक्स सारांश प्रदान करता है, सभी उपयोगकर्ता के अनुमति दायरे के भीतर।
यह क्यों काम करता है: एजेंट Glean से अनुमति-जागरूक पुनर्प्राप्ति में ग्राउंडेड है, और AWS निष्पादन, अनुमोदन और लॉगिंग को संभालता है।
सुरक्षा और अनुपालन चेकलिस्ट (इसे न छोड़ें)
- पुनर्प्राप्ति संदर्भ को सर्वर-साइड रखें; क्लाइंट को रॉ डॉक सामग्री को उजागर न करें।
- KMS के साथ आराम से एन्क्रिप्ट करें; ट्रांज़िट में TLS 1.2+ लागू करें।
- Glean और टूल पर उपयोगकर्ता की पहचान पास करें; पुनर्प्राप्ति के लिए कभी भी साझा बॉट पहचान का उपयोग न करें।
- IdP समूहों से टूल स्कोप तक RBAC मैप करें।
- Bedrock गार्डरेल सक्षम करें; प्रॉम्प्ट में रहस्यों की अनुमति न दें।
- जहां आवश्यक हो वहां PII को संपादित करें और अवधारण विंडोज को दस्तावेज़ करें।
- ऑब्जेक्ट लॉक के साथ S3 में अपरिवर्तनीय लॉग; अपने SIEM में निर्यात करें।
- घटना प्रतिक्रिया और मॉडल रोलबैक के लिए एक रनबुक रखें।
कार्यान्वयन ब्लूप्रिंट: प्रोडक्शन के लिए 10 चरण
- शीर्ष 3 एजेंट उपयोग केस (IT, HR, सेल्स ऑप्स) और सफलता मेट्रिक्स (डिफ्लेक्शन दर, CSAT, समय-से-रिज़ॉल्यूशन) को परिभाषित करें।
- AWS खाते, VPC, IAM बेसलाइन और Bedrock एक्सेस स्टैंड अप करें।
- SSO/SCIM को एकीकृत करें; भूमिकाओं और अनुमोदन प्रवाह को मैप करें।
- Glean में कोर स्रोत कनेक्ट करें और अनुमति-जागरूक पुनर्प्राप्ति को मान्य करें।
- स्टेप फंक्शन्स के साथ एक न्यूनतम ऑर्केस्ट्रेशन सेवा (Lambda + API गेटवे) बनाएं।
- RAG प्रॉम्प्ट अनुबंध, उद्धरण और स्रोत फ़िल्टरिंग लागू करें।
- दो टूल एंड-टू-एंड जोड़ें (पहले केवल-पढ़ें, फिर अनुमोदन के साथ लिखें)।
- इंस्ट्रूमेंट लॉगिंग, मूल्यांकन और डैशबोर्ड; 150-प्रश्न गोल्ड सेट बनाएं।
- 50-100 उपयोगकर्ताओं के साथ एक बंद बीटा चलाएं; शीर्ष मुद्दों को ठीक करें; SLO सेट करें।
- व्यापक रूप से रोल आउट करें; एक साप्ताहिक परिवर्तन-समीक्षा और मासिक मॉडल मूल्यांकन स्थापित करें।
Glean और AWS के साथ AI एजेंट बनाते समय अक्सर पूछे जाने वाले प्रश्न
मैं एंटरप्राइज़ एजेंटों में मतिभ्रम कैसे कम करूं?
Glean से पुनर्प्राप्ति के साथ मॉडल को ग्राउंड करें और एक सख्त प्रॉम्प्ट लागू करें: केवल प्रदान किए गए संदर्भ का उपयोग करें और हमेशा स्रोतों का हवाला दें। कम आत्मविश्वास के साथ उत्तरों को अस्वीकार करें और स्पष्ट प्रश्न पूछें। जब आप अनुमति-जागरूक पुनर्प्राप्ति पर भरोसा करते हैं तो अधिकांश मतिभ्रम कम हो जाते हैं।
क्या एजेंट ऐप्स में दस्तावेज़-स्तर की अनुमतियों का सम्मान कर सकता है?
हाँ। जब आप Glean और AWS के साथ AI एजेंट बनाते हैं, तो Glean क्वेरी समय पर कनेक्टेड ऐप्स से अनुमतियों को लागू करता है, इसलिए एजेंट केवल वही देखता है जिसे उपयोगकर्ता एक्सेस कर सकता है। हिरासत की श्रृंखला को बनाए रखने के लिए हमेशा उपयोगकर्ता की पहचान टोकन पास करें।
मुझे AWS पर किन मॉडल से शुरुआत करनी चाहिए?
एकाधिक मॉडलों तक एक्सेस के लिए Amazon Bedrock का उपयोग करें। तर्क के लिए एक मजबूत सामान्य मॉडल और रूटिंग के लिए एक छोटा, तेज़ मॉडल से शुरुआत करें। अपने क्यूरेटेड गोल्ड सेट के विरुद्ध विलंबता, लागत और सटीकता का मूल्यांकन करें।
मैं एजेंटों को Jira या ServiceNow जैसे सिस्टम में सुरक्षित रूप से कार्रवाई करने की अनुमति कैसे दूं?
सख्त स्कीमा, इनपुट सत्यापन और अनुमोदन वर्कफ़्लो के साथ प्रत्येक टूल को रैप करें। प्रत्येक टूल कॉल को लॉग करें और ऑडिट के लिए आउटपुट स्टोर करें। प्रभावशाली कार्यों के लिए, एक मानव पुष्टिकरण चरण की आवश्यकता होती है।
कौन से मेट्रिक्स साबित करते हैं कि एक एजेंट प्रोडक्शन के लिए तैयार है?
ग्राउंडेडनेस (उद्धरण दर), उत्तर सटीकता, P95 विलंबता, रिज़ॉल्यूशन/डिफ्लेक्शन दर और हल किए गए कार्य प्रति लागत को ट्रैक करें। डैशबोर्ड बनाएं और अपने गोल्ड सेट पर साप्ताहिक प्रतिगमन जाँच चलाएं।
वैसे: बिल्ड लूप को तेज करना
ध्यान देने योग्य: यदि आपकी टीम बार-बार प्रोटोटाइप करती है, तो अनुसंधान और ड्राफ्टिंग के लिए एक कोपायलट डिज़ाइन डॉक्स, रनबुक और प्रॉम्प्ट पुनरावृत्तियों को गति दे सकता है। Sider.AI जैसे टूल टीमों को लंबे थ्रेड को संक्षेप में प्रस्तुत करने, मूल्यांकन प्रॉम्प्ट का मसौदा तैयार करने और मॉडल आउटपुट की साइड-बाय-साइड तुलना करने में मदद करते हैं - जब आप Glean और AWS के साथ एंटरप्राइज़-रेडी AI एजेंट बनाने के तरीके को ट्यून कर रहे हों तो उपयोगी। मुख्य बातें और अगले चरण
- Glean और AWS के साथ AI एजेंट बनाने से आपको पहचान-जागरूक पुनर्प्राप्ति और एंटरप्राइज़-ग्रेड ऑर्केस्ट्रेशन मिलता है।
- फैंसी प्लानिंग लॉजिक से पहले पहचान, गवर्नेंस और अनुमति-जागरूक पुनर्प्राप्ति से शुरुआत करें।
- Bedrock गार्डरेल, सख्त टूल स्कीमा और मानव-इन-द-लूप अनुमोदन का उपयोग करें।
- सब कुछ इंस्ट्रूमेंट करें: मूल्यांकन, ऑडिट और लागत नियंत्रण।
इस सप्ताह अगले चरण:
- अपने शीर्ष तीन उपयोग केस और सफलता मेट्रिक्स का मसौदा तैयार करें।
- Glean में दो कोर स्रोत कनेक्ट करें; 150-प्रश्न इवेल चलाएं।
- एक केवल-पढ़ने वाले टूल के साथ एक न्यूनतम Lambda + स्टेप फंक्शन्स ऑर्केस्ट्रेटर स्टैंड अप करें।
- पायलट के विस्तार से पहले अपनी विलंबता और लागत बजट सेट करें।
FAQ
Q1: AWS पर AI एजेंटों के लिए एंटरप्राइज़-रेडी का क्या मतलब है?
इसका मतलब है सुरक्षित, ऑडिट करने योग्य एजेंट जो SSO और दस्तावेज़ अनुमतियों का सम्मान करते हैं, उद्धरण प्रदान करते हैं, और अनुरूप बुनियादी ढांचे पर चलते हैं। जब आप Glean और AWS के साथ AI एजेंट बनाते हैं, तो आपको अनुमति-जागरूक पुनर्प्राप्ति और क्लाउड-ग्रेड अवलोकन मिलता है।
Q2: Glean AI उत्तरों में डेटा लीक को कैसे रोकता है?
Glean क्वेरी समय पर प्रत्येक कनेक्टेड ऐप से दस्तावेज़-स्तर की अनुमतियों को लागू करता है। एजेंट केवल उस सामग्री को पुनर्प्राप्त करता है जिसे उपयोगकर्ता एक्सेस कर सकता है, जो Glean और AWS के साथ एंटरप्राइज़-रेडी AI एजेंट बनाते समय महत्वपूर्ण है।
Q3: मुझे ऑर्केस्ट्रेशन के लिए किन AWS सेवाओं का उपयोग करना चाहिए?
निष्पादन के लिए Lambda या ECS का उपयोग करें, मल्टी-स्टेप वर्कफ़्लो के लिए स्टेप फंक्शन्स, मॉडल और गार्डरेल के लिए Bedrock, और क्रेडेंशियल्स के लिए सीक्रेट्स मैनेजर। यह स्टैक Glean और AWS के साथ AI एजेंट बनाने के लिए एक सिद्ध आधार है।
Q4: मैं सटीकता का मूल्यांकन कैसे करूं और मतिभ्रम कैसे कम करूं?
प्रश्नों का एक गोल्ड सेट बनाएं, उद्धरणों की आवश्यकता होती है, और पुनर्प्राप्ति-संवर्धित जनरेशन का उपयोग करें। Glean और AWS के साथ, अनुमति-जागरूक पुनर्प्राप्ति प्लस गार्डरेल मतिभ्रम को काफी कम कर देता है।
Q5: क्या AI एजेंट सुरक्षित रूप से टिकट बनाने या Slack में पोस्ट करने जैसी कार्रवाई कर सकते हैं?
हाँ—स्कीमा-मान्य टूल, उच्च-प्रभाव वाली कार्रवाइयों के लिए अनुमोदन और पूर्ण ऑडिट लॉगिंग के साथ। Glean और AWS के साथ एंटरप्राइज़-रेडी AI एजेंट बनाते समय यह एक कोर पैटर्न है।
