เป็นเวลาตี 3 แล้ว เอเจนต์ของคุณกำลังจัดการคิวตั๋วสนับสนุน ตั๋วหนึ่งดูเหมือนต้องส่งเรื่องให้ผู้บริหาร เอเจนต์จึงเขียนสรุปและส่งอีเมลไปให้เจ้านายของคุณ สรุปนั้นถูกต้อง ไวยากรณ์ก็ดี แต่ไม่มีใครขออีเมลนั้น ไม่มีใครตรวจทานก่อน และไม่มีอะไรหยุดมันได้เมื่อเอเจนต์ตัดสินใจส่ง เอเจนต์ทำตามคำสั่งอย่างเคร่งครัด ซึ่งเป็นส่วนที่ควรทำให้คุณนอนไม่หลับ
ลองใช้ Apidog วันนี้
ความล้มเหลวที่สร้างความเสียหายมากที่สุดไม่ใช่โมเดลเข้าใจผิดหรือ workflow ล่ม เพราะปัญหาเหล่านั้นมักเห็นได้ชัดและตรวจจับง่ายกว่า ปัญหาที่อันตรายคือเอเจนต์ทำตามคำสั่งได้อย่างแม่นยำ แต่ผลลัพธ์ยังไม่ดี เพราะมันส่งอีเมล ลบข้อมูล หรือสั่งซื้อไปแล้ว โดยไม่มีชั้นควบคุมระหว่างการตัดสินใจของโมเดลกับการดำเนินการจริง
Guardrail คือชั้นที่ตรวจสอบการกระทำก่อนเกิดผลข้างเคียง แล้วเลือกว่าจะอนุญาต บล็อก หรือขอให้มนุษย์อนุมัติ บทความนี้อธิบาย Guardrail 4 ประเภทที่นำไปใช้ได้จริง:
รายการที่อนุญาตให้ทำงานอัตโนมัติ (allowlist)
