Amazon Bedrock, AgentCore, SageMaker และ Q: เอเจนต์ใน Microsoft Teams

นี่คือ Playbook FDE (Forward Deployed Engineer) สำหรับการนำไปใช้ Amazon Bedrock, Amazon Bedrock AgentCore, Amazon SageMakerและ Amazon Qแล้วจึงเปิดตัวแทนเข้าสู่ธุรกิจผ่านทาง Microsoft Teams. โดยครอบคลุมตัวเลือกสถาปัตยกรรม การตั้งค่าตัวแทนคนแรกที่เป็นรูปธรรม เครื่องมือ การฝึกอบรม และการประมาณการปฏิทินสำหรับแอป LLM, RAG และ MLOps

1. คำชี้แจงปัญหาสำหรับธุรกิจ

องค์กรส่วนใหญ่ไม่ต้องการ “แชทบอทตัวอื่น” พวกเขาต้องการ ตัวแทนที่ดำเนินการภายในขั้นตอนการทำงานที่มีอยู่: ตอบจากความรู้ที่ได้รับอนุมัติ เรียกใช้เครื่องมือด้วยข้อมูลประจำตัว เก็บหน่วยความจำเซสชัน และเข้าสู่ตำแหน่งที่พนักงานทำงานร่วมกันอยู่แล้ว — โดยปกติจะเป็น Teams

งานของ FDE คือการบีบอัดช่องว่างระหว่างการอ้างอิง AWS ที่ใช้งานได้กับ นักบินที่ได้รับการควบคุม: หนึ่งแผนก หนึ่งคลังข้อมูล เครื่องมือที่เน้นการอ่านเป็นหลักก่อน การนำไปใช้ที่วัดผลได้ จากนั้นจึงขยาย

2. แผนที่บริการ — เลือกพื้นผิว AWS ที่ถูกต้อง

2.1 Amazon Bedrock

• แบบจำลองมูลนิธิ ผ่าน API เดียว (Anthropic Claude, Amazon Nova, Meta Llama, Cohere ฯลฯ — ความพร้อมใช้งานตามภูมิภาค)
• Guardrails สำหรับตัวกรองเนื้อหา การปฏิเสธหัวข้อ การแก้ไข PII และการตรวจสอบสายดิน
• Knowledge Base สำหรับ RAG ที่มีการจัดการ (นำเข้าจาก S3 / ตัวเชื่อมต่อ การฝัง การดึงข้อมูล)
• ตัวแทนข้อเท็จจริง / กระแส สำหรับรูปแบบการเรียบเรียงเมื่อคุณอยู่ในโมเดลตัวแทนของ Bedrock

ใช้ Bedrock เมื่อ: คุณต้องการ FM ที่มีการจัดการ, RAG และความปลอดภัยโดยไม่ต้องใช้ GPU

2.2 Amazon Bedrock AgentCore

AgentCore คือเลเยอร์รันไทม์การผลิตสำหรับ ตัวแทนที่กำหนดเอง (ไม่เชื่อเรื่องพระเจ้ากรอบงาน — Strands, LangGraph, CrewAI, Python แบบกำหนดเอง ฯลฯ):

• รันไทม์ — การเรียกใช้เอเจนต์ที่แยกเซสชันและใช้เวลานาน
• เกตเวย์ — เปลี่ยน APIs / MCP / OpenAPI เป็นเครื่องมือตัวแทน รวมถึง Microsoft Teams กราฟ เป้าหมาย (ข้อความช่องทาง การแชท การประชุม การแสดงตน การประชุมออนไลน์)
• หน่วยความจำ - หน่วยความจำการสนทนา / บทสนทนาระยะสั้นและระยะยาว
• อัตลักษณ์ — การตรวจสอบ JWT ขาเข้า และ OAuth ขาออกไปยังเครื่องมือ (รวมถึง Microsoft Entra ID)
• ความสามารถในการสังเกต — ติดตามและตัวชี้วัดในเส้นทางที่เข้ากันได้กับ CloudWatch / OpenTelemetry

ใช้ AgentCore เมื่อ: คุณเป็นเจ้าของโค้ดตัวแทน ต้องการเครื่องมือ + ข้อมูลประจำตัว + หน่วยความจำ และต้องการรันไทม์ที่มีการจัดการแทนกาว DIY ECS/Lambda สำหรับทุกข้อกังวล

2.3 Amazon SageMaker

• ฝึกฝน / ปรับแต่ง / ประเมินโมเดลที่กำหนดเอง
• จุดสิ้นสุดของโฮสต์ (เรียลไทม์, ไร้เซิร์ฟเวอร์, ไม่พร้อมกัน)
• ไปป์ไลน์, การลงทะเบียนโมเดล, ที่เก็บฟีเจอร์, ชี้แจง, การตรวจสอบโมเดลสำหรับ MLOps
• สามารถป้อนโมเดลแบบกำหนดเองลงใน Bedrock Custom Model Import หรือนั่งข้าง Bedrock ในฐานะผู้เชี่ยวชาญปลายทาง

ใช้ SageMaker เมื่อ: FM ที่มีจำหน่ายทั่วไปนั้นไม่เพียงพอ (ตัวแยกประเภทโดเมน การจัดอันดับ การฝังที่ปรับแต่งอย่างละเอียด การกำกับดูแลโมเดลที่ได้รับการควบคุม)

2.4 Amazon Q

• Amazon Q ธุรกิจ (การตั้งชื่อผลิตภัณฑ์ยังคงพัฒนาไปสู่แพ็คเกจ Quick Suite / ผู้ช่วยองค์กร) — ตัวเชื่อมต่อไปยัง SaaS และความรู้, ถามและตอบของพนักงาน, ปลั๊กอิน
• Amazon Q นักพัฒนา — ผู้ช่วยเขียนโค้ด IDE / CLI สำหรับผู้สร้าง AWS

ใช้ Amazon Q เมื่อ: คุณต้องการ ผลิตแล้ว ผู้ช่วยที่มีวิศวกรรมตัวแทนที่กำหนดเองน้อยกว่า ใช้ AgentCore + Bedrock เมื่อคุณต้องการเครื่องมือแบบกำหนดเองเชิงลึก เวิร์กโฟลว์หลายขั้นตอน หรือ UX แบบเนทีฟของทีมที่คุณควบคุม

2.5 เมตริกซ์การตัดสินใจ

3. สถาปัตยกรรมอ้างอิง (ตัวแทนธุรกิจใน Teams)

Microsoft Teams (user)
        │  Bot Framework activity
        ▼
Azure Bot Service / Teams channel
        │  HTTPS messaging endpoint
        ▼
AWS Lambda / API Gateway  (Bot adapter + JWT mint)
        │  POST /runtimes/{agentRuntimeArn}/invocations
        │  Header: Authorization Bearer <JWT>
        │  Header: X-Amzn-Bedrock-AgentCore-Runtime-Session-Id: teams-{aad}-{conv}
        ▼
Bedrock AgentCore Runtime  (your agent container / code)
        ├── Bedrock InvokeModel (Claude / Nova / …)
        ├── Knowledge Base retrieve (RAG)
        ├── Guardrails
        ├── AgentCore Memory
        └── AgentCore Gateway tools
              ├── Microsoft Graph (Teams channels / chats)  [Entra OAuth]
              ├── Internal APIs (CRM, ITSM, HR)
              └── MCP / OpenAPI targets
        ▼
CloudWatch / X-Ray / OTel traces  +  audit logs (S3)

กฎทั่วไปของรหัสเซสชัน: เธรดการสนทนาของ Teams หนึ่งรายการควรแมปกับเซสชัน AgentCore หนึ่งเซสชัน เช่น teams-{aadObjectId}-{conversationId}ดังนั้นบริบทของหน่วยความจำและเครื่องมือจึงสอดคล้องกัน

4. เจ้าหน้าที่คนแรกพร้อมใช้งานใน Teams — ทีละขั้นตอน

เป้าหมาย: อ่านเป็นส่วนใหญ่ ตัวแทนความรู้ภายในในช่องทีมนำร่องภายในประมาณ 3–6 สัปดาห์

ระยะ A — AWS รากฐาน (วันที่ 1–5)

1. เลือกภูมิภาค (ยืนยันรุ่น Bedrock + AgentCore + Knowledge Base)
2. เปิดใช้งานการเข้าถึงโมเดล Bedrock สร้างบทบาท IAM สำหรับการอนุมาน, KB และ AgentCore
3. สร้างบัคเก็ต S3 สำหรับคลังข้อมูล ซิงค์การส่งออกหรือตัวเชื่อมต่อ SharePoint/Confluence นำร่อง
4. สร้าง Bedrock Knowledge Base + ร้านค้าเวกเตอร์ เรียกใช้การซิงค์; ทดสอบ RetrieveAndGenerate.
5. แนบ Guardrails (ปฏิเสธนอกหัวข้อ, ตรวจทาน PII, ต้องต่อสายดินหากรองรับ)

เฟส B — ตัวแทนบน AgentCore (วันที่ 5–15)

1. ตัวแทน Scaffold (Python/TypeScript) โดยใช้เฟรมเวิร์กที่คุณต้องการหรือตัวอย่าง AWS
2. โมเดล Wire เรียกหา Bedrock; การดึงสายไปที่ Knowledge Base
3. กำหนดเครื่องมือ 2–3 รายการเท่านั้น (เช่น ค้นหา KB, รับสถานะตั๋วแบบอ่านอย่างเดียว, รับโปรไฟล์ผู้ใช้)
4. กำหนดค่า AgentCore หน่วยความจำสำหรับการสนทนาระยะสั้น
5. กำหนดค่า AgentCore ข้อมูลประจำตัว: ตรวจสอบขาเข้า JWT; ลงทะเบียน Entra ID เป็น IdP สำหรับเครื่องมือของ Microsoft
6. ปรับใช้กับ AgentCore รันไทม์; ทดสอบควัน /invocations ด้วยการดัดผมและการทดสอบ JWT
7. เปิดใช้งานความสามารถในการสังเกต; กำหนดแดชบอร์ด CloudWatch (เวลาแฝง ข้อผิดพลาด โทเค็น/พร็อกซีต้นทุน)

เฟส C — พื้นผิวของทีม (วันที่ 10–20, คู่ขนาน)

1. ลงทะเบียนแอป Entra ID สร้างบอท Azure เปิดใช้งานช่องทางทีม
2. สร้างแพ็คเกจแอป Teams (รายการ ไอคอน) sideload หรือ org เผยแพร่สำหรับกลุ่มความปลอดภัยนำร่อง
3. ติดตั้งจุดสิ้นสุดการรับส่งข้อความ (แนะนำ Lambda): Bot Framework อะแดปเตอร์ → แมปกิจกรรมไปยังเพย์โหลด AgentCore
4. เผยแพร่ข้อมูลระบุตัวตนของผู้ใช้ (รหัสวัตถุ AAD, UPN) ไปยัง JWT การอ้างสิทธิ์ AgentCore ตัวตนที่คาดหวัง
5. ตอบกลับด้วยข้อความตัวแทน (และ Adaptive Cards ในภายหลัง) จัดการกับตัวบ่งชี้การพิมพ์และข้อผิดพลาดได้อย่างสง่างาม
6. นักบิน: หนึ่งช่อง ผู้ใช้ 10–30 คน แบบฟอร์มตอบรับ / การแสดงความรู้สึกแบบอีโมจิ FDE ชั่วโมงทำการรายสัปดาห์

ระยะ D — ฮาร์เดน (วันที่ 15–30)

1. สิทธิพิเศษน้อยที่สุด IAM; Secrets Manager สำหรับรหัสผ่าน / ใบรับรองแอปบอท
2. เครือข่าย: เส้นทาง API ส่วนตัวเมื่อจำเป็น WAF บนปลายทางสาธารณะ
3. ข้อมูล: จำแนกคลังข้อมูล; บล็อกเครื่องมือการเขียนที่มีความเสี่ยงสูงจนกว่าจะมีการควบคุมการเปลี่ยนแปลง
4. ชุดการประเมิน: คำถาม & คำตอบสีทอง 50–100 รายการ; วัดความมีเหตุผล / คุณภาพการปฏิเสธ
5. Runbook: หมุนข้อมูลลับ, ย้อนกลับเวอร์ชันรันไทม์, ปิดใช้งานแอป Teams

ทีมขั้นต่ำ → AgentCore เรียกรูปร่าง

POST /runtimes/{agentRuntimeArn}/invocations
Authorization: Bearer <jwt>
X-Amzn-Bedrock-AgentCore-Runtime-Session-Id: teams-{aadObjectId}-{conversationId}
Content-Type: application/json

{
  "input": {
    "prompt": "<user message text>",
    "user": { "aadObjectId": "...", "upn": "..." },
    "channel": { "teamId": "...", "channelId": "..." }
  }
}

สคีมาเพย์โหลดที่แน่นอนขึ้นอยู่กับสัญญาตัวแทนของคุณ — รักษาเวอร์ชันไว้

5. AgentCore + Microsoft Graph (ตัวแทนที่ดำเนินการใน Teams)

นอกเหนือจาก “การแชทในทีม” AgentCore Gateway ยังเปิดเผยได้ กราฟทีม การดำเนินงานเป็นเครื่องมือ (ส่งข้อความช่องทาง จัดการแชท การประชุม การแสดงตน) โดยทั่วไปข้อกำหนดจะรวมถึง:

• Entra ID แอปพลิเคชันที่มีสิทธิ์อนุญาตกราฟ (เริ่มต้นด้วยสิทธิ์ขั้นต่ำ; ได้รับความยินยอมจากผู้ดูแลระบบ)
• AgentCore ข้อมูลประจำตัว OAuth ไคลเอนต์สำหรับ Entra
• เป้าหมายเกตเวย์สำหรับ Microsoft Teams / กราฟ
• Human-in-the-loop สำหรับการเขียน/ส่งใดๆ จนกว่าจะมีการสร้างความเชื่อถือ

FDE คำแนะนำ: เรือ ตัวแทนแชทขาเข้า ครั้งแรก; เพิ่ม การกระทำของกราฟขาออก ในตั๋วเปลี่ยนครั้งที่สองพร้อมรายการที่อนุญาตอย่างชัดเจน (ช่อง ทีม เทมเพลตข้อความ)

6. SageMaker ในโปรแกรมเดียวกัน

อย่าบล็อกนักบิน Teams บน SageMaker แนะนำ SageMaker เมื่อคุณต้องการ:

• ตัวแยกประเภทเฉพาะโดเมน (ความตั้งใจ ความเร่งด่วน การตรวจจับ PII ที่เกินกว่า Guardrails)
• การฝังหรือการจัดอันดับใหม่ที่ได้รับการปรับแต่งอย่างละเอียดเพื่อคุณภาพ RAG
• การฝึกอบรมโมเดลที่ได้รับการควบคุมด้วย Model Registry + ประตูการอนุมัติ
• งานการอนุมานแบบกลุ่มบนองค์กรขนาดใหญ่

โครงกระดูก MLOps ทั่วไป: SageMaker ไปป์ไลน์ → Model Registry → staging endpoint → canary → prod; การตรวจสอบด้วย Model Monitor; โปรโมตผ่าน CI (CodePipeline / GitHub Actions) ด้วย IaC (Terraform / CDK) เท่านั้น

7. Amazon Q ในโปรแกรมเดียวกัน

• คิวธุรกิจ สำหรับการถามตอบของพนักงานในวงกว้างด้วยตัวเชื่อมต่อที่มีการจัดการ — มักจะเร็วกว่า RAG แบบกำหนดเองสำหรับ “ค้นหาอินทราเน็ต”
• นักพัฒนาคิว สำหรับ FDE/ประสิทธิภาพการทำงานของแพลตฟอร์ม (IaC, Lambda, CDK)
• รูปแบบ: Q สำหรับความกว้าง; AgentCore ตัวแทนเชิงลึก (เวิร์กโฟลว์ + เครื่องมือ + Teams UX)

8. FDE หลักสูตรการฝึกอบรม (การนำไปใช้และการเปิดตัว)

ทางลาด FDE ทั้งหมด: ~2–3 สัปดาห์ของการฝึกอบรมแบบเน้น + การส่งมอบแบบคู่สำหรับนักบินคนแรก

9. รายการตรวจสอบข้อกำหนด

ผู้คน

• FDE (ตัวแทน + บูรณาการ)
• วิศวกรคลาวด์/แพลตฟอร์ม (IAM, ระบบเครือข่าย, IaC)
• ผู้ดูแลระบบ Microsoft 365 / Entra (ความยินยอมของแอป, ทีมเผยแพร่)
• ผู้ตรวจสอบความปลอดภัย/การปฏิบัติตามข้อกำหนด
• เจ้าของธุรกิจ + ผู้ใช้นำร่อง

บัญชีและการเข้าถึง

• ⟦บัญชี AWS⟧ กับ Bedrock, AgentCore, S3, CloudWatch; ไม่จำเป็น SageMaker / Q
• Entra ID ผู้เช่า; การสมัครสมาชิก Azure สำหรับบริการ Bot
• สิทธิ์ผู้ดูแลระบบของทีมในการอัปโหลด / อนุมัติแอป

ข้อมูล

• คลังข้อมูลนำร่องที่มีความเป็นเจ้าของและการเก็บรักษาที่ชัดเจน
• ฉลากการจำแนกประเภท นโยบายการจัดการ PII
• คำถามประเมินระดับทอง

10. รายการตรวจสอบเครื่องมือ

11. การประมาณการเวลา (FDE-นำ, บ่งชี้)

สมมติว่ามีโฟกัส FDE + แพลตฟอร์มนอกเวลา + ความพร้อมใช้งานของผู้ดูแลระบบ Entra วันตามปฏิทิน ไม่ใช่เฉพาะชั่วโมงบุคคล

12. รายการตรวจสอบการเปิดตัว (ธุรกิจ)

1. ชื่อเจ้าของธุรกิจและตัวชี้วัดความสำเร็จ (การโก่งตัว เวลาในการตอบ CSAT)
2. กลุ่มและช่องทางรักษาความปลอดภัยนำร่อง ชั่วโมงการสนับสนุนสำหรับ FDE
3. SLA ความใหม่ของเนื้อหาสำหรับการซิงค์ Knowledge Base
4. เส้นทางเหตุการณ์: ปิดการใช้งานบอท, หมุนเวียนข้อมูลลับ, เรียกใช้เพจได้
5. การแจ้งเตือนงบประมาณต้นทุนเกี่ยวกับโทเค็น Bedrock และรันไทม์ AgentCore
6. ประตูการตัดสินใจ: ขยาย หยุดชั่วคราว หรือดำเนินการหลังจากข้อมูลการใช้งาน 4-6 สัปดาห์

13. โหมดความล้มเหลวทั่วไป

• ต้มทะเล: หลายตัวแทน + เครื่องมือการเขียน + อินทราเน็ตเต็มรูปแบบก่อนการนำร่อง Teams เดียว
• ตัวตนสุดท้าย: การสร้างตัวแทนโดยไม่มีการออกแบบ Entra/JWT — ปรับปรุงใหม่เมื่อ Teams มาถึง
• ไม่มีชุดทอง: ไม่สามารถบอกได้ว่า RAG ดีขึ้นหรือไม่หลังจากการเปลี่ยนแปลงเป็นชิ้นๆ
• SageMaker เร็วเกินไป: การฝึกโมเดลแบบกำหนดเองก่อนคุณภาพการดึงข้อมูลจะดี
• ผู้ดูแลระบบยินยอมด้วยความประหลาดใจ: สิทธิ์ของทีม/กราฟถูกบล็อกเป็นเวลาหลายสัปดาห์ — เริ่มตั๋ว Entra ในวันที่ 1

14. การปิดบัญชี

ข้อเท็จจริง ให้โมเดล RAG และราวกั้นแก่คุณ ⟦เอซี⟧ ให้รันไทม์ตัวแทนการผลิตพร้อมหน่วยความจำ ข้อมูลประจำตัว และเครื่องมือ (รวมถึง Teams Graph) SageMaker ครอบคลุม ML ที่กำหนดเองและ MLOps Amazon Q ครอบคลุมผู้ช่วยพนักงาน/นักพัฒนาที่ผลิตผลิตภัณฑ์ เส้นทาง FDE ที่ให้คุณค่าเร็วที่สุดคือ: RAG + Guardrails → AgentCore agent → Teams bot Relay → วัด → ขยายเครื่องมือ — โดยมี SageMaker และ Q Business เป็นเส้นทางคู่ขนานเมื่อกรณีการใช้งานต้องการ

จัดพิมพ์โดย Workstation — สำหรับโปรแกรมการจัดส่งที่นำตัวแทนไปยังที่ที่ธุรกิจดำเนินธุรกิจอยู่แล้ว