เหตุผลที่ AI agent ระดับองค์กรล้มเหลว และวิธีทำให้พร้อมใช้งานจริงด้วย Glean และ AWS
นี่คือข้อเสนอที่กล้าหาญ: "AI agent" ส่วนใหญ่ที่นำเสนอในการสาธิตในห้องประชุม ไม่ได้พร้อมใช้งานในระดับองค์กรอย่างแท้จริง พวกมันสร้างข้อมูลเท็จภายใต้แรงกดดัน ทำงานผิดพลาดกับข้อมูลจริง และไม่สามารถผ่านการตรวจสอบ SOC 2 ได้ หากคุณต้องการ AI ที่ทีมกฎหมาย ความปลอดภัย และไอทีของคุณอนุมัติจริง ๆ และพนักงานของคุณจะใช้งานจริง ๆ คุณต้องสร้างระบบที่ผสมผสานการดึงข้อมูลระดับองค์กร (Glean) องค์ประกอบพื้นฐานของระบบคลาวด์ที่แข็งแกร่ง (AWS) และสถาปัตยกรรมที่มีระเบียบวินัยซึ่งอยู่รอดได้เมื่อมีการขยายขนาด
คู่มือนี้จะแนะนำคุณทีละขั้นตอนเกี่ยวกับวิธีสร้าง AI agent ที่พร้อมใช้งานในระดับองค์กรด้วย Glean และ AWS ตั้งแต่การดึงข้อมูลที่คำนึงถึงข้อมูลประจำตัว ไปจนถึงการใช้เครื่องมือที่ปลอดภัย ตั้งแต่งบประมาณเวลาแฝงไปจนถึงการสังเกต และตั้งแต่การนำร่องไปจนถึงการผลิต
เราจะใช้โครงสร้างที่นำโดยคำถาม เพื่อให้คุณสามารถข้ามไปยังสิ่งที่สำคัญที่สุดได้: การเข้าถึงข้อมูล ความปลอดภัย สถาปัตยกรรม และการเปิดตัว
เราหมายถึงอะไรโดย AI agent ที่พร้อมใช้งานในระดับองค์กร
AI agent ที่พร้อมใช้งานในระดับองค์กรไม่ได้เป็นเพียงอินเทอร์เฟซการแชท แต่เป็นระบบที่ปลอดภัยและตรวจสอบได้ ซึ่งสามารถ:
- ตอบคำถามโดยใช้ความรู้ของบริษัท โดยมีขอบเขตการอนุญาตที่เข้มงวด
- ดำเนินการผ่านเครื่องมือที่ได้รับอนุมัติ (เช่น ตั๋ว ServiceNow, ปัญหา Jira, โพสต์ Slack)
- ระบุแหล่งที่มาและอธิบายเหตุผล
- ทำงานภายใต้การควบคุม SSO, SCIM และ DLP ขององค์กร
- เป็นไปตามข้อกำหนดด้านถิ่นที่อยู่ของข้อมูล การบันทึก และการเก็บรักษา
- ปรับขนาดให้ผู้ใช้หลายพันคนด้วยเวลาแฝงและต้นทุนที่คาดการณ์ได้
นี่คือจุดที่การสร้าง AI agent ด้วย Glean และ AWS โดดเด่น: Glean ให้การค้นหาและดึงข้อมูลระดับองค์กรที่คำนึงถึงข้อมูลประจำตัวในแอปต่างๆ ในขณะที่ AWS นำเสนอพื้นฐานด้านการประมวลผล การจัดระเบียบ เครือข่าย และการกำกับดูแลที่คุณจะต้องใช้ในการผลิต
ภาพรวมสถาปัตยกรรม: Glean + AWS
คิดว่าระบบนี้เป็นสี่ชั้น:
- ชั้นข้อมูลประจำตัวและการเข้าถึง (SSO, SCIM, สิทธิ์)
- SSO ผ่าน Okta/Azure AD; SCIM สำหรับการจัดเตรียม; การแมปบทบาท
- Glean บังคับใช้สิทธิ์ระดับเอกสารในเวลาที่ทำการค้นหา
- AWS Cognito หรือ SAML/OIDC โดยตรงเพื่อเป็นตัวกลางในการส่งโทเค็นไปยังบริการ
- ชั้นการดึงข้อมูลระดับองค์กร (Glean)
- ดัชนีแบบรวมใน Google Drive, Slack, Confluence, Jira, GitHub, Box, Notion และอีกมากมาย
- การดึงข้อมูลและการจัดอันดับที่คำนึงถึงสิทธิ์
- การเขียนคำค้นหาใหม่ การค้นหาแบบไฮบริด การจัดอันดับความหมายใหม่
- ชั้นการให้เหตุผลและการจัดระเบียบ (AWS + โมเดล)
- AWS Lambda หรือ ECS สำหรับขั้นตอนของ agent ที่ไม่มีสถานะ
- Amazon Bedrock สำหรับการเข้าถึงแบบมีการจัดการไปยังโมเดลแนวหน้า
- Step Functions สำหรับเวิร์กโฟลว์แบบหลายเครื่องมือและการลองใหม่
- Secrets Manager/Parameter Store สำหรับคีย์และข้อมูลประจำตัวของเครื่องมือ
- ชั้นการดำเนินการและเครื่องมือ (การผสานรวมระดับองค์กร)
- การดำเนินการอ่านและเขียนไปยังระบบบันทึก (ServiceNow, Salesforce, Jira, Slack)
- Guardrails การอนุมัติ และการสังเกตสำหรับการเรียกใช้เครื่องมือทุกครั้ง
- บันทึกการตรวจสอบใน CloudWatch/OpenSearch เพื่อความสามารถในการอธิบาย
การสร้างหลัก: วิธีสร้าง AI agent ที่พร้อมใช้งานในระดับองค์กรด้วย Glean และ AWS
ด้านล่างนี้คือเส้นทางที่ใช้งานได้จริงตั้งแต่ต้นจนจบ ปรับให้เข้ากับสแต็กของคุณ แต่รักษากฎเกณฑ์ไว้
1) ตั้งค่าข้อมูลประจำตัวและการกำกับดูแลก่อน
- สร้าง SSO ผ่าน Okta/Azure AD แมปกลุ่ม/บทบาทไปยังสิทธิ์ของแอป
- ใช้ SCIM สำหรับวงจรชีวิตผู้ใช้แบบอัตโนมัติ (ผู้เข้าร่วม/ผู้ย้าย/ผู้ลาออก) การยกเลิกการจัดสรรต้องส่งต่อไปยัง agent
- กำหนดค่าบัญชี AWS ด้วยบทบาท IAM ที่มีสิทธิ์น้อยที่สุด แยก dev, staging, prod บังคับใช้ VPC endpoints สำหรับ Bedrock และการควบคุมการส่งออกข้อมูลเมื่อจำเป็น
- กำหนดการเก็บรักษาข้อมูล: ระยะเวลาในการจัดเก็บข้อความแจ้ง การตอบสนอง และเวกเตอร์ฝังตัว ใช้บัคเก็ต S3 ที่เข้ารหัสด้วย KMS สำหรับบันทึกและสิ่งประดิษฐ์
เคล็ดลับ: ถือว่าข้อมูลประจำตัวเป็นสัญญาณรันไทม์ Agent ต้องส่งข้อมูลประจำตัวของผู้ใช้ปลายทางผ่าน Glean และเครื่องมือ เพื่อให้การตรวจสอบสิทธิ์ยังคงอยู่
2) เชื่อมต่อแหล่งที่มาใน Glean และเปิดใช้งานการดึงข้อมูลที่คำนึงถึงสิทธิ์
- เชื่อมต่อ Slack, Drive, Confluence, Notion, GitHub, Jira, Box และอีเมลตามรอยเท้าของคุณ
- ให้ Glean รวบรวมข้อมูลและจัดทำดัชนีโดยมีสิทธิ์น้อยที่สุด ยืนยันขอบเขตกับฝ่ายรักษาความปลอดภัย
- ตรวจสอบความถูกต้องของการเผยแพร่สิทธิ์: ผู้ใช้ควรดึงข้อมูลเฉพาะสิ่งที่พวกเขาสามารถดูได้ในแอปต้นทางเท่านั้น
- ปรับแต่งการกำหนดค่าการค้นหาของ Glean: เปิดใช้งานการเขียนคำค้นหาใหม่ การดึงข้อมูลแบบไฮบริด และการจัดอันดับความหมายใหม่เพื่อความแม่นยำที่ดียิ่งขึ้น
เหตุผลที่สำคัญ: ในองค์กรส่วนใหญ่ 70–90% ของปัญหา "การสร้างข้อมูลเท็จ" เป็นปัญหาการดึงข้อมูลจริง ๆ ด้วย Glean, AI agent จะดึงเอกสารที่ถูกต้องตามเงื่อนไขสิทธิ์ของผู้ใช้ ซึ่งช่วยลดความเสี่ยงและคำตอบที่ไม่เกี่ยวข้องได้อย่างมาก
3) เลือกโมเดลผ่าน Amazon Bedrock และตั้งค่า guardrails
- เริ่มต้นด้วยโมเดลทั่วไป (เช่น Claude, Llama หรือ Mistral ผ่าน Bedrock) และทำการ A/B เทียบกับข้อความแจ้งของโดเมน
- ใช้ Bedrock Guardrails สำหรับตัวกรองความปลอดภัย การตรวจสอบการแทรกข้อความแจ้ง และนโยบายเนื้อหา
- จำกัดการตอบสนอง: กำหนดให้มีการอ้างอิงตาม ID/URL ของเอกสาร บังคับใช้ schema JSON สำหรับเอาต์พุตของเครื่องมือ และตั้งค่าโทเค็นสูงสุดต่อขั้นตอน
- รักษางบประมาณเวลาแฝง: กำหนดเป้าหมาย P95 แบบ end-to-end < 2.5 วินาทีสำหรับ Q&A และ < 6 วินาทีสำหรับโฟลว์การใช้เครื่องมือ
4) จัดระเบียบ agent บน AWS
รูปแบบ: การวางแผนสไตล์ ReAct + การใช้เครื่องมือ + การตอบกลับที่มีพื้นฐาน
- ใช้ Step Functions เพื่อประสานงานขั้นตอน: ดึงข้อมูล → วางแผน → เครื่องมือ → ตรวจสอบความถูกต้อง → ตอบ
- การเรียกใช้เหตุผลใน Lambda หรือ ECS เลือก Lambda สำหรับปริมาณการใช้งานที่เพิ่มขึ้น ECS สำหรับปริมาณงานที่ยั่งยืน
- ตัวปรับต่อเครื่องมือ (Jira, Slack, ServiceNow) คือ Lambdas ที่ไม่มีสถานะพร้อมความลับที่กำหนดขอบเขต IAM ใน AWS Secrets Manager
- จัดเก็บสถานะการสนทนาที่มีอายุสั้นใน DynamoDB ด้วย TTL การวิเคราะห์ระยะยาวใน S3/Glue/Athena
5) Implement retrieval‑augmented generation (RAG) ด้วย Glean
- ค้นหา Glean ด้วยโทเค็นข้อมูลประจำตัวของผู้ใช้และคำถามของผู้ใช้
- ดึงผลลัพธ์ top‑k (เช่น ไฮบริด: k=10 semantic + 10 keyword) โดยให้เกียรติสิทธิ์
- จัดอันดับใหม่ด้วยความเกี่ยวข้องของ Glean ส่งเฉพาะส่วนที่ซ้ำกันและด้านบนไปยังโมเดล
- กำหนดให้ agent อ้างอิงแหล่งที่มาและรวมคะแนนความเชื่อมั่น
โครงร่างข้อความแจ้ง:
- ระบบ: “คุณคือผู้ช่วยระดับองค์กรที่มีพื้นฐาน ใช ้เฉพาะบริบทที่ให้มา หากไม่เกี่ยวข้อง ให้ถามคำถามติดตามผล อ้างอิงแหล่งที่มาตามชื่อและลิงก์เสมอ”
- เครื่องมือ: “คุณสามารถเรียก Jira_CreateIssue, Slack_PostMessage, ServiceNow_CreateIncident ดำเนินการหลังจากยืนยันกับผู้ใช้เท่านั้น เว้นแต่ runbook จะอนุญาตให้มีการทำงานอัตโนมัติ”
6) เพิ่มการใช้เครื่องมือและการอนุมัติที่ปลอดภัย
- ห่อเครื่องมือแต่ละชิ้นด้วยการตรวจสอบพารามิเตอร์และการจำกัดอัตรา
- กำหนดให้มีการยืนยันจากบุคคลหรือการอนุมัติจากผู้จัดการสำหรับการดำเนินการที่มีผลกระทบ (เช่น การจัดสรรการเข้าถึง การปิด P1)
- บันทึกการเรียกใช้เครื่องมือทุกครั้ง (ใคร อะไร เมื่อไร schema อินพุต เอาต์พุต) ไปยัง CloudWatch และ S3 สำหรับการตรวจสอบ
- สำหรับโพสต์ Slack/Teams ให้รองรับ "โหมดร่าง" สำหรับการแสดงตัวอย่างก่อนส่ง
7) การสังเกต การประเมิน และการควบคุมการเปลี่ยนแปลง
- จับภาพข้อความแจ้ง ส่วนย่อยบริบท การอ้างอิง และการตอบสนองด้วยการแก้ไขเมื่อจำเป็น
- ใช้แดชบอร์ด OpenSearch เพื่อตรวจสอบ precision@k, groundedness และอัตราการเบี่ยงเบน
- เรียกใช้ evals ออฟไลน์: จัดชุดทองคำ 100–300 คำถามเฉพาะองค์กรพร้อมคำตอบที่คาดหวังและแหล่งที่มาที่จำเป็น
- กำหนดเวลา canaries เพื่อตรวจจับการเปลี่ยนแปลงตัวเชื่อมต่อหรือสิทธิ์ (เช่น ช่อง Slack ที่เปลี่ยนแปลง การย้ายไดรฟ์)
8) การปรับแต่งประสิทธิภาพและต้นทุน
- แคชการค้นหา Glean ต่อผู้ใช้สำหรับหัวข้อที่ร้อนแรง (เช่น นโยบาย HR) ด้วย TTL สั้น ๆ
- ใช้โมเดลที่เล็กลงสำหรับการกำหนดเส้นทาง โมเดลที่ใหญ่ขึ้นเฉพาะสำหรับการค้นหาที่ยากหรือแผนแบบหลายเครื่องมือ
- แบทช์การจัดอันดับใหม่เมื่อเป็นไปได้ บีบอัดบริบท ใช้การขจัดข้อมูลซ้ำซ้อนของส่วนย่อย
- ติดตามต้นทุนต่องานที่แก้ไข ตั้งค่าโควต้าต่อองค์กรและต่อกลุ่มผู้ใช้
ตัวอย่าง: ผู้ช่วย IT ระดับองค์กรที่สร้างด้วย Glean และ AWS
มาเดินตามสถานการณ์ที่เป็นรูปธรรมที่แสดงวิธีสร้าง AI agent ที่พร้อมใช้งานในระดับองค์กรด้วย Glean และ AWS
กรณีการใช้งาน: การคัดแยกและการแก้ไขปัญหาการสนับสนุนด้านไอที
- ผู้ใช้ถามว่า: “VPN ล้มเหลวบน macOS 14 หลังจากการอัปเดต มีวิธีแก้ไขหรือไม่”
- Agent กำหนดเส้นทางไปยังแทร็ก IT runbook
- การดึงข้อมูล: ค้นหา Glean ด้วยข้อมูลประจำตัวของผู้ใช้และดึงข้อมูล VPN runbook (Confluence) เธรด Slack จาก #it‑support และเอกสารนโยบาย Jamf พิจารณาเฉพาะทรัพยากรที่ผู้ใช้สามารถเข้าถึงได้
- การวางแผน: Agent เสนอขั้นตอน: แบ่งปันการแก้ไข ตรวจสอบการปฏิบัติตามอุปกรณ์ผ่าน Jamf และหากยังไม่ได้รับการแก้ไข ให้เปิด incident ServiceNow
- การเรียกใช้เครื่องมือ: อ่านสถานะ Jamf (อ่านอย่างเดียว) ร่างข้อความแก้ไข และขอให้ผู้ใช้ยืนยันการยกระดับ เมื่อได้รับการยืนยัน จะสร้าง incident ด้วยเทมเพลตที่ถูกต้อง
- คำตอบ: ให้สรุปการแก้ไขที่กระชับพร้อมการอ้างอิงถึง runbook และเธรด Slack ทั้งหมดภายในขอบเขตสิทธิ์ของผู้ใช้
เหตุผลที่ใช้งานได้: Agent มีพื้นฐานมาจากการดึงข้อมูลที่คำนึงถึงสิทธิ์จาก Glean และ AWS จัดการการดำเนินการ การอนุมัติ และการบันทึก
รายการตรวจสอบความปลอดภัยและการปฏิบัติตามข้อกำหนด (อย่าข้ามขั้นตอนนี้)
- เก็บบริบทการดึงข้อมูลไว้ฝั่งเซิร์ฟเวอร์ อย่าเปิดเผยเนื้อหาเอกสารดิบให้กับไคลเอนต์
- เข้ารหัสขณะพักด้วย KMS บังคับใช้ TLS 1.2+ ในระหว่างการขนส่ง
- ส่งข้อมูลประจำตัวผู้ใช้ไปยัง Glean และเครื่องมือ อย่าใช้ข้อมูลประจำตัวบอทที่แชร์สำหรับการดึงข้อมูล
- แมป RBAC จากกลุ่ม IdP ไปยังขอบเขตของเครื่องมือ
- เปิดใช้งาน Bedrock Guardrails ไม่อนุญาตความลับในข้อความแจ้ง
- แก้ไข PII เมื่อจำเป็นและจัดทำเอกสารหน้าต่างการเก็บรักษา
- บันทึกที่ไม่เปลี่ยนรูปไปยัง S3 ด้วย Object Lock ส่งออกไปยัง SIEM ของคุณ
- เก็บ runbook สำหรับการตอบสนองต่อเหตุการณ์และการย้อนกลับของโมเดล
พิมพ์เขียวการใช้งาน: 10 ขั้นตอนสู่การผลิต
- กำหนดกรณีการใช้งาน agent 3 อันดับแรก (IT, HR, Sales ops) และเมตริกความสำเร็จ (อัตราการเบี่ยงเบน, CSAT, เวลาในการแก้ไข)
- ตั้งค่าบัญชี AWS, VPC, เส้นฐาน IAM และการเข้าถึง Bedrock
- รวม SSO/SCIM แมปบทบาทและโฟลว์การอนุมัติ
- เชื่อมต่อแหล่งที่มาหลักใน Glean และตรวจสอบความถูกต้องของการดึงข้อมูลที่คำนึงถึงสิทธิ์
- สร้างบริการจัดระเบียบขั้นต่ำ (Lambda + API Gateway) ด้วย Step Functions
- ใช้สัญญาข้อความแจ้ง RAG การอ้างอิง และการกรองแหล่งที่มา
- เพิ่มเครื่องมือสองชิ้นแบบ end‑to‑end (อ่านอย่างเดียวก่อน จากนั้นเขียนด้วยการอนุมัติ)
- บันทึกเครื่องมือ การประเมิน และแดชบอร์ด สร้างชุดทองคำ 150 คำถาม
- เรียกใช้เบต้าแบบปิดด้วยผู้ใช้ 50–100 คน แก้ไขปัญหาสำคัญ ตั้งค่า SLO
- เปิดตัวในวงกว้าง สร้างการตรวจสอบการเปลี่ยนแปลงรายสัปดาห์และการประเมินโมเดลรายเดือน
คำถามที่พบบ่อยเมื่อสร้าง AI agent ด้วย Glean และ AWS
ฉันจะลดการสร้างข้อมูลเท็จใน agent ระดับองค์กรได้อย่างไร
สร้างพื้นฐานโมเดลด้วยการดึงข้อมูลจาก Glean และบังคับใช้ข้อความแจ้งที่เข้มงวด: ใช้เฉพาะบริบทที่ให้มาและอ้างอิงแหล่งที่มาเสมอ ปฏิเสธคำตอบที่มีความเชื่อมั่นต่ำและถามคำถามที่ให้ความกระจ่าง การสร้างข้อมูลเท็จส่วนใหญ่ลดลงเมื่อคุณพึ่งพาการดึงข้อมูลที่คำนึงถึงสิทธิ์
Agent สามารถเคารพสิทธิ์ระดับเอกสารในแอปต่างๆ ได้หรือไม่
ได้ เมื่อคุณสร้าง AI agent ด้วย Glean และ AWS, Glean จะบังคับใช้สิทธิ์จากแอปที่เชื่อมต่อในเวลาที่ทำการค้นหา ดังนั้น agent จะเห็นเฉพาะสิ่งที่ผู้ใช้สามารถเข้าถึงได้ ส่งโทเค็นข้อมูลประจำตัวของผู้ใช้เสมอเพื่อรักษาสายการดูแล
ฉันควรเริ่มต้นด้วยโมเดลใดบน AWS
ใช้ Amazon Bedrock เพื่อเข้าถึงโมเดลหลายรายการ เริ่มต้นด้วยโมเดลทั่วไปที่แข็งแกร่งสำหรับการให้เหตุผลและโมเดลที่เล็กลงและเร็วกว่าสำหรับการกำหนดเส้นทาง ประเมินเวลาแฝง ต้นทุน และความแม่นยำเทียบกับชุดทองคำที่คัดสรรมาของคุณ
ฉันจะให้ agent ดำเนินการอย่างปลอดภัยในระบบเช่น Jira หรือ ServiceNow ได้อย่างไร
ห่อเครื่องมือแต่ละชิ้นด้วย schema ที่เข้มงวด การตรวจสอบอินพุต และเวิร์กโฟลว์การอนุมัติ บันทึกการเรียกใช้เครื่องมือทุกครั้งและจัดเก็บเอาต์พุตสำหรับการตรวจสอบ สำหรับการดำเนินการที่มีผลกระทบ กำหนดให้มีขั้นตอนการยืนยันจากบุคคล
เมตริกใดที่พิสูจน์ว่า agent พร้อมใช้งานจริง
ติดตาม groundedness (อัตราการอ้างอิง), ความแม่นยำของคำตอบ, เวลาแฝง P95, อัตราการแก้ไข/เบี่ยงเบน และต้นทุนต่องานที่แก้ไข สร้างแดชบอร์ดและเรียกใช้การตรวจสอบการถดถอยรายสัปดาห์บนชุดทองคำของคุณ
อีกอย่าง: การเร่งวงจรการสร้าง
สิ่งที่ควรทราบ: หากทีมของคุณสร้างต้นแบบบ่อย ๆ ผู้ช่วยนักบินสำหรับการวิจัยและการร่างสามารถเร่งเอกสารการออกแบบ runbook และการวนซ้ำข้อความแจ้งได้ เครื่องมือเช่น Sider.AI ช่วยให้ทีมสรุปเธรดยาว ๆ ร่างข้อความแจ้งการประเมิน และเปรียบเทียบเอาต์พุตของโมเดลแบบเคียงข้างกัน ซึ่งมีประโยชน์เมื่อคุณกำลังปรับแต่งวิธีสร้าง AI agent ที่พร้อมใช้งานในระดับองค์กรด้วย Glean และ AWS ประเด็นสำคัญและขั้นตอนต่อไป
- การสร้าง AI agent ด้วย Glean และ AWS ช่วยให้คุณได้รับการดึงข้อมูลที่คำนึงถึงข้อมูลประจำตัวและการจัดระเบียบระดับองค์กร
- เริ่มต้นด้วยข้อมูลประจำตัว การกำกับดูแล และการดึงข้อมูลที่คำนึงถึงสิทธิ์ก่อนตรรกะการวางแผนที่ซับซ้อน
- ใช้ Bedrock guardrails schema เครื่องมือที่เข้มงวด และการอนุมัติแบบ human‑in‑the‑loop
- บันทึกเครื่องมือทุกอย่าง: การประเมิน การตรวจสอบ และการควบคุมต้นทุน
ขั้นตอนต่อไปในสัปดาห์นี้:
- ร่างกรณีการใช้งานสามอันดับแรกและเมตริกความสำเร็จของคุณ
- เชื่อมต่อแหล่งที่มาหลักสองแหล่งใน Glean เรียกใช้การประเมิน 150 คำถาม
- ตั้งค่า Lambda + Step Functions orchestrator ขั้นต่ำด้วยเครื่องมืออ่านอย่างเดียวหนึ่งชิ้น
- ตั้งค่าเวลาแฝงและงบประมาณต้นทุนของคุณก่อนที่นักบินจะขยาย
คำถามที่พบบ่อย
Q1: enterprise‑ready หมายถึงอะไรสำหรับ AI agent บน AWS?
หมายถึง agent ที่ปลอดภัย ตรวจสอบได้ ซึ่งเคารพ SSO และสิทธิ์ของเอกสาร ให้การอ้างอิง และทำงานบนโครงสร้างพื้นฐานที่สอดคล้อง เมื่อคุณสร้าง AI agent ด้วย Glean และ AWS คุณจะได้รับการดึงข้อมูลที่คำนึงถึงสิทธิ์และการสังเกตระดับคลาวด์
Q2: Glean ป้องกันการรั่วไหลของข้อมูลในคำตอบ AI ได้อย่างไร
Glean บังคับใช้สิทธิ์ระดับเอกสารจากแต่ละแอปที่เชื่อมต่อในเวลาที่ทำการค้นหา Agent จะดึงข้อมูลเฉพาะเนื้อหาที่ผู้ใช้สามารถเข้าถึงได้ ซึ่งมีความสำคัญอย่างยิ่งเมื่อสร้าง AI agent ที่พร้อมใช้งานในระดับองค์กรด้วย Glean และ AWS
Q3: ฉันควรใช้บริการ AWS ใดสำหรับการจัดระเบียบ
ใช้ Lambda หรือ ECS สำหรับการดำเนินการ, Step Functions สำหรับเวิร์กโฟลว์แบบหลายขั้นตอน, Bedrock สำหรับโมเดลและ guardrails และ Secrets Manager สำหรับข้อมูลประจำตัว สแต็กนี้เป็นฐานที่ได้รับการพิสูจน์แล้วสำหรับการสร้าง AI agent ด้วย Glean และ AWS
Q4: ฉันจะประเมินความแม่นยำและลดการสร้างข้อมูลเท็จได้อย่างไร
สร้างชุดคำถามทองคำ กำหนดให้มีการอ้างอิง และใช้การสร้างเสริมการดึงข้อมูล ด้วย Glean และ AWS การดึงข้อมูลที่คำนึงถึงสิทธิ์บวกกับ guardrails ช่วยลดการสร้างข้อมูลเท็จได้อย่างมาก
Q5: AI agent สามารถดำเนินการอย่างปลอดภัย เช่น การสร้างตั๋วหรือการโพสต์ใน Slack ได้หรือไม่
ได้ ด้วยเครื่องมือที่ตรวจสอบ schema การอนุมัติสำหรับการดำเนินการที่มีผลกระทบสูง และการบันทึกการตรวจสอบทั้งหมด นี่คือรูปแบบหลักเมื่อคุณสร้าง AI agent ที่พร้อมใช้งานในระดับองค์กรด้วย Glean และ AWS
