Model Risk ในยุค AI Agent: 3 ความเสี่ยงที่คนชอบมองข้าม
เมื่อองค์กรเอา LLM และ AI agent มาใช้ตัดสินใจ ความเสี่ยงของโมเดลไม่ได้หายไป แต่เปลี่ยนรูป — มุมมองจากคนทำ model risk สายธนาคาร
งานหลักของผมคือ model risk ในสายธนาคาร — หน้าที่คือคอยตั้งคำถามกับโมเดลที่องค์กรใช้ตัดสินใจ ว่ามันถูกต้องแค่ไหน ใช้ถูกที่ถูกทางหรือเปล่า และจะพังเงียบ ๆ ตรงไหนได้บ้าง พอ LLM และ AI agent เข้ามาแทนที่โมเดลสถิติแบบเดิม คนจำนวนมากเข้าใจว่าความเสี่ยงของโมเดลจะลดลงเพราะ AI ฉลาดขึ้น แต่ในมุมคนทำงานสายนี้ มันไม่ได้หายไปไหน — มันแค่เปลี่ยนรูปจนตรวจจับยากขึ้น บทความนี้คือ 3 ความเสี่ยงที่ผมเห็นว่าคนชอบมองข้ามที่สุด
Model risk คืออะไรกันแน่
พูดสั้นที่สุด model risk คือความเสี่ยงที่เกิดจากสองเรื่อง — โมเดล ผิด เอง หรือโมเดลถูกต้องแต่ถูก ใช้ผิด บริบท ทั้งสองอย่างนำไปสู่การตัดสินใจที่ผิดพลาดได้เท่ากัน และในงานที่เงินกับชีวิตคนเป็นเดิมพัน ความผิดพลาดแบบนี้ราคาแพง
หลักการนี้ไม่ได้ผูกกับเทคโนโลยีใดเทคโนโลยีหนึ่ง โมเดลถดถอยเชิงเส้นมี model risk และ LLM ก็มี model risk เหมือนกัน สิ่งที่เปลี่ยนไปคือ ยิ่งโมเดลซับซ้อนและทำงานได้กว้างขึ้นเท่าไร พื้นที่ที่มันจะ "ผิดโดยที่เราไม่รู้ตัว" ก็ยิ่งใหญ่ขึ้นเท่านั้น นี่คือเหตุผลว่าทำไม AI ที่เก่งขึ้นจึงไม่ได้แปลว่าความเสี่ยงน้อยลง
ความเสี่ยงที่ AI agent ทำให้แย่ลง
AI agent ไม่ได้สร้างความเสี่ยงชนิดใหม่ทั้งหมด แต่มันขยายของเดิมให้รุนแรงขึ้นในสามทาง ที่ผมเห็นชัดที่สุดมีดังนี้:
- กล่องดำ — อธิบายผลไม่ได้ โมเดลสถิติเดิมยังพอชี้ได้ว่าตัวแปรไหนผลักการตัดสินใจ แต่
LLMที่ตอบเป็นภาษาธรรมชาติ มักให้คำตอบที่ฟังดูมั่นใจโดยที่เราตามรอยไม่ได้ว่ามันมาจากไหน เมื่อตรวจสอบไม่ได้ ความผิดก็ซ่อนตัวได้นานขึ้น - ดริฟต์ — โลกเปลี่ยนแล้วโมเดลเพี้ยนเงียบ ๆ โมเดลถูกปรับจูนบนโลก ณ ช่วงเวลาหนึ่ง พอพฤติกรรมลูกค้า ตลาด หรือข้อมูลขาเข้าเปลี่ยนไป ผลลัพธ์จะค่อย ๆ คลาดเคลื่อนโดยไม่มีสัญญาณเตือนดัง ๆ กว่าจะรู้ตัวก็ตัดสินใจผิดไปหลายรอบแล้ว
- พึ่งเกิน — คนเชื่อ AI โดยไม่ตั้งคำถาม อันนี้อันตรายที่สุดและเป็นเรื่องของคนล้วน ๆ ยิ่งคำตอบดูเฉียบและลื่นไหล คนยิ่งหยุดตรวจสอบ พอ agent ทำงานต่อกันหลายขั้นโดยอัตโนมัติ ความผิดพลาดเล็ก ๆ ในขั้นแรกจะถูกขยายต่อไปทั้งสายโดยไม่มีใครเบรก
สามข้อนี้น่ากลัวตรงที่มันเสริมกันเอง — ระบบที่อธิบายไม่ได้ บวกกับการดริฟต์ที่มองไม่เห็น บวกกับคนที่เลิกตั้งคำถาม คือสูตรของความผิดพลาดที่ไม่มีใครจับได้จนกว่าจะสาย
วิธีคุมความเสี่ยงให้อยู่ในกรอบ
ข่าวดีคือเครื่องมือคุมความเสี่ยงที่สายธนาคารใช้กับโมเดลมาตลอด ยังใช้ได้กับ AI agent — เพียงแต่ต้องปรับให้เข้ากับธรรมชาติของมัน หัวใจไม่ใช่การห้ามใช้ AI แต่คือการสร้างกรอบให้มันทำงานได้อย่างปลอดภัย
- Validation ก่อนใช้งานจริง อย่าเชื่อว่าโมเดลทำงานได้เพราะมันตอบสวย ทดสอบกับเคสที่รู้คำตอบ ทดสอบกับเคสขอบ ๆ และมองหาจุดที่มันจะพังก่อนปล่อยเข้าสนามจริง
- Monitoring ต่อเนื่อง ดริฟต์จับได้ก็ต่อเมื่อมีคนเฝ้าดูตัวเลขเป็นรอบ ตั้งสัญญาณเตือนเมื่อผลลัพธ์เริ่มเบี่ยงจากที่คาด ไม่ใช่รอให้มีคนร้องเรียน
- Human-in-the-loop ตรงจุดสำคัญ ในการตัดสินใจที่มีผลกระทบสูง ต้องมีคนคั่นกลางที่มีอำนาจตั้งคำถามและยับยั้งได้จริง ไม่ใช่แค่กดอนุมัติตามที่ AI เสนอ
- เอกสารและ governance บันทึกว่าโมเดลถูกออกแบบมาทำอะไร มีขีดจำกัดตรงไหน ใครรับผิดชอบ เมื่อเกิดปัญหาจะได้ตามรอยและแก้ได้ ไม่ใช่ปล่อยให้เป็นกล่องดำที่ไม่มีใครเป็นเจ้าของ
ที่ผมย้ำเสมอคือ governance ไม่ใช่เอกสารกองหนึ่งที่ทำไว้ให้ผ่านการตรวจ แต่คือวินัยที่ทำให้องค์กรกล้าใช้ AI ได้อย่างมั่นใจ เพราะรู้ว่าถ้ามันพลาด เราจับได้และแก้ทัน
สรุป: ยิ่ง AI เก่ง ยิ่งต้องมีคนเข้าใจความเสี่ยง
ในยุคที่ AI agent ทำงานต่อเองได้และตัดสินใจแทนคนมากขึ้นเรื่อย ๆ governance ไม่ได้สำคัญน้อยลง — มันสำคัญขึ้น เพราะความผิดพลาดเดินทางเร็วขึ้นและซ่อนตัวเก่งขึ้น คนที่จะได้เปรียบจริงในยุคนี้ไม่ใช่คนที่เชื่อ AI มากที่สุด แต่คือคนที่เข้าใจทั้ง ความเสี่ยง ของมัน และ เครื่องมือ ที่ใช้ขับมันอย่าง Claude Code ลึกพอจะคุมมันได้ — รู้ว่ามันเก่งตรงไหน พังตรงไหน และต้องวางกรอบยังไงให้มันทำงานแทนเราได้โดยไม่พาเราตกเหว ทักษะที่เข้าใจทั้งตัว AI และความเสี่ยงของมันพร้อมกัน คือสิ่งที่ผมเห็นว่าจะมีมูลค่าขึ้นเรื่อย ๆ ในยุคนี้
ใครอยากเห็นว่าผมวางกรอบกำกับ AI agent — validation, monitoring และ human-in-the-loop — เข้าไปในงานจริงกับ Claude Code ยังไง ผมเก็บวิธีที่ใช้เองไว้ในคอร์ส Claude Code แล้ว