ธนาคารกลางอังกฤษยอมรับ: กรอบกำกับเดิมไม่ได้ออกแบบมาเพื่อ AI agent (Sintra 2026)

เวลาธนาคารกลางพูดเรื่องเทคโนโลยี ปกติจะได้ยินประโยคทำนอง "เราติดตามอย่างใกล้ชิด" แต่สุนทรพจน์ที่ Sarah Breeden รองผู้ว่าการธนาคารกลางอังกฤษ (Bank of England) ขึ้นเวที ECB Sintra Forum เมื่อ 30 มิถุนายน 2026 ไม่ได้พูดแบบนั้น เธอพูดประโยคที่คนทำงานสายกำกับความเสี่ยงอย่างผมอ่านแล้วต้องอ่านซ้ำ — ว่ากรอบกำกับที่ใช้อยู่ "ไม่ได้ถูกสร้างมาเพื่อรองรับ agent ที่ทำงานเอง" และการหวังพึ่งให้มีคนคอยกำกับทุกการกระทำของ agent นั้น "ไม่น่าจะเป็นจริงได้" นี่ไม่ใช่การเตือนแบบกว้าง ๆ แต่คือธนาคารกลางยอมรับข้อจำกัดของเครื่องมือตัวเองต่อสาธารณะ

1. ธนาคารกลางเปิดทางคิลสวิตช์ระดับตลาด

Computer Weekly รายงานประเด็นหลักไว้ตรง ๆ ว่า "The Bank of England is exploring the use of kill switches that could halt trading in the event of artificial intelligence (AI) models going astray, as it accepts existing regulatory frameworks may not be adequate" — BoE กำลังศึกษาการใช้คิลสวิตช์ที่หยุดการซื้อขายได้ ในกรณีที่โมเดล AI ทำงานเพี้ยนไปจากที่ตั้งใจ พร้อมยอมรับว่ากรอบกำกับที่มีอยู่อาจไม่เพียงพอ

ในตัวบทสุนทรพจน์ Breeden ใช้ถ้อยคำระมัดระวังกว่านั้น เธอบอกว่ากำลังพิจารณา "whether guardrails are needed, analogous to circuit breakers or kill switches that would limit or stop trading market-wide if faulty AI models cause market meltdown" — คือยังเป็นคำถามที่ต้องหาคำตอบ ไม่ใช่มาตรการที่ประกาศใช้แล้ว แต่ลำพังการที่ธนาคารกลางยกคำว่า market-wide ขึ้นมาก็มีน้ำหนักในตัวมันเอง เพราะคิลสวิตช์ที่พูดถึงกันทั่วไปคือสวิตช์ของแต่ละบริษัท ส่วนอันนี้คือสวิตช์ของทั้งตลาด

ทำไมมันสำคัญกับเรา: ถ้ามาตรการคุมความเสี่ยงต้องขยับจากระดับบริษัทไปเป็นระดับตลาด แปลว่าผู้กำกับมองว่าความเสียหายมัน กระโดดข้ามขอบเขตของบริษัท ได้ ซึ่งเป็นคนละโจทย์กับที่ทีม model risk ส่วนใหญ่ถูกฝึกมา เราเก่งเรื่องถามว่า "โมเดลของเราพังไหม" แต่โจทย์ใหม่คือ "ถ้าโมเดลของทุกคนพังพร้อมกัน เราอยู่ตรงไหนของความเสียหายนั้น"

2. ความเสี่ยงตัวจริงคือ "ตอบเหมือนกันหมด" ไม่ใช่ "โมเดลตอบผิด"

ประโยคที่ผมคิดว่าเป็นแก่นของสุนทรพจน์ทั้งชิ้นคือประโยคนี้: "If AI agents respond similarly to the same prompts or triggers, they could amplify volatility in stress" — ถ้า AI agent หลาย ๆ ตัวตอบสนองคล้ายกันต่อ prompt หรือ trigger เดียวกัน พวกมันขยายความผันผวนได้ในยามตลาดตึงเครียด และเธอเสริมว่าอันตรายจะยิ่งขึ้นถ้า objective ของ agent ค่อย ๆ เขยิบออกจากเป้าหมายเดิม

สังเกตให้ดีว่าความเสี่ยงที่พูดถึงนี้ ไม่ใช่เรื่องโมเดลแม่นหรือไม่แม่น agent แต่ละตัวอาจทำงานถูกต้องตามสเปกทุกประการ แต่ความเสียหายเกิดจากการที่พวกมันถูกฝึกมาคล้ายกัน อ่านข้อมูลชุดเดียวกัน และตอบสนองต่อสัญญาณเดียวกันในเวลาเดียวกัน BoE จึงบอกว่ากำลัง "experimenting with the BIS Innovation Hub and the Bundesbank on simulation methods to understand which aspects of agent design could drive herding behaviour" — ทดลองร่วมกับ BIS Innovation Hub และ Bundesbank เพื่อหาว่าดีไซน์ของ agent ส่วนไหนที่ผลักให้เกิดพฤติกรรมแห่ตามกัน

Breeden สรุปการเปลี่ยนโจทย์ไว้ชัดว่า "The financial stability question therefore broadens from whether firms can use models well to whether the system can also observe and contain their resulting behaviours" — คำถามด้านเสถียรภาพขยายจาก บริษัทใช้โมเดลเป็นไหม ไปเป็น ระบบทั้งระบบมองเห็นและควบคุมพฤติกรรมที่ตามมาได้หรือเปล่า

ทำไมมันสำคัญกับเรา: validation แบบเดิมทดสอบโมเดลทีละตัวในห้องแล็บ แต่ correlated behaviour วัดไม่เจอด้วยวิธีนั้นเลย เพราะมันเป็นคุณสมบัติของ ประชากรโมเดล ไม่ใช่ของโมเดลเดี่ยว ใครที่ดูแล agent ในองค์กร คำถามที่ควรเริ่มถามตั้งแต่วันนี้คือ agent ของเราใช้ prompt แม่แบบเดียวกับใครบ้าง ใช้ผู้ให้บริการโมเดลรายเดียวกับคู่แข่งหรือไม่ และถ้ามันตัดสินใจพร้อมกัน ผลลัพธ์จะไปทางเดียวกันหรือหักล้างกัน คำถามชุดนี้คือญาติสนิทของ concentration risk ที่เราคุ้นเคยอยู่แล้ว

3. "มีคนคุมอยู่" ใช้เป็นคำตอบไม่ได้อีกต่อไป

หัวใจข้อที่สองอยู่ที่กรอบกำกับ Breeden พูดไว้ว่า "Our frameworks were not built to contemplate autonomous agents, and relying on a human in the loop for all agent actions is unlikely to be realistic. More sophisticated governance and accountability frameworks may be needed." — กรอบของเราไม่ได้ถูกออกแบบมาเพื่อ agent ที่ทำงานเอง และการพึ่งพา human in the loop กับทุกการกระทำของ agent นั้นไม่น่าจะเป็นจริงได้ อาจต้องมีกรอบธรรมาภิบาลและความรับผิดที่ซับซ้อนกว่าเดิม

ผมอยากให้คนทำสาย risk ขีดเส้นใต้ประโยคนี้ เพราะ "มีคนตรวจก่อนอนุมัติ" คือคำตอบมาตรฐานที่เราใส่ในเอกสาร control ทุกฉบับเวลาผู้ตรวจถามว่าคุมโมเดลยังไง มันเคยได้ผลเพราะโมเดลเสนอ แล้วคนตัดสินใจ แต่เมื่อ agent ทำงานได้ในความเร็วและปริมาณที่คนตามไม่ทัน คำตอบนั้นกลายเป็นพิธีกรรมมากกว่าการควบคุมจริง — เป็นสิ่งที่เขียนได้สวยในเอกสาร แต่ไม่มีใครทำได้จริงในวันที่ระบบยิงคำสั่งหลายพันครั้งต่อนาที

ตรงนี้สอดคล้องกับทิศทางที่ผู้กำกับหลายแห่งเดินอยู่ ทั้งแนวปฏิบัติ AI ของ MAS สิงคโปร์ และกรอบ sound practices ของ FSB ต่างขยับน้ำหนักจาก "มีคนดูอยู่" ไปที่โครงสร้าง เช่น ทะเบียนโมเดล การตรวจสอบอิสระ และความสามารถในการหยุดระบบ ซึ่งเป็นเรื่องเดียวกับที่ผลสำรวจนายธนาคารสหรัฐชี้ว่าแบงก์พร้อมน้อยที่สุด

ทำไมมันสำคัญกับเรา: ถ้า human-in-the-loop ถูกลดบทบาทลง สิ่งที่ต้องแข็งแรงขึ้นแทนคือ accountability ที่ระบุตัวได้ — ใครเป็นเจ้าของ agent ตัวนี้ ใครอนุมัติ objective function ใครมีสิทธิ์กดหยุด และหลักฐานย้อนหลังอยู่ที่ไหน นี่คืองานที่คนทำ model risk ทำเป็นอยู่แล้ว เพียงแต่ต้องย้ายจากเอกสารมาอยู่ในระบบที่บังคับใช้ได้จริง

4. agentic payments: ใครรับผิดเมื่อ agent จ่ายเงินผิด

อีกครึ่งหนึ่งของสุนทรพจน์พูดถึงฝั่งการชำระเงิน ซึ่งถูกพูดถึงน้อยกว่าแต่ใกล้ตัวผู้บริโภคมากกว่า Breeden ชี้ว่าโจทย์ใหญ่ไม่ใช่เทคโนโลยี แต่เป็นกฎกับมาตรฐานอุตสาหกรรม โดยเฉพาะเรื่อง "how disputes are settled and liability assigned for erroneous or fraudulent transactions" — ข้อพิพาทจะยุติอย่างไร และความรับผิดจะตกที่ใครเมื่อเกิดรายการที่ผิดพลาดหรือฉ้อฉล

เมื่อ agent เป็นคนกดจ่ายแทนเรา คำถามพื้นฐานที่ระบบชำระเงินตอบมาหลายสิบปีกลับต้องเขียนใหม่ทั้งหมด ผู้ใช้ให้ความยินยอมอย่างไรจึงจะถือว่าครอบคลุมรายการที่ agent จะทำในอนาคตหลายรายการ และถ้า agent จ่ายผิด ธนาคาร ร้านค้า ผู้ให้บริการโมเดล หรือเจ้าของ agent เป็นผู้รับผิด

ทำไมมันสำคัญกับเรา: เรื่องความรับผิดคือเรื่องที่ทีม risk กับทีม legal ต้องตอบร่วมกันก่อนระบบขึ้น production ไม่ใช่หลังเกิดเคสแรก และมันแปลเป็นข้อกำหนดทางเทคนิคได้ตรง ๆ เช่น ต้องเก็บ log ระดับที่พิสูจน์ได้ว่า agent ตัดสินใจจากข้อมูลอะไร ณ วินาทีไหน — เป็นเหตุผลเดียวกับที่ผมยืนยันเสมอว่าต้องรัน AI agent ใน sandbox ที่ตรวจสอบย้อนหลังได้

5. ตัวเลขที่พาดหัวอ้างว่าอยู่ในสุนทรพจน์ แต่ค้นไม่เจอ

ส่วนนี้ผมเขียนในฐานะคนที่ตรวจตัวเลขเป็นอาชีพ ข่าวหลายสำนักที่รายงานสุนทรพจน์นี้พาดหัวทำนองว่า "ครึ่งหนึ่งของบริษัทการเงินรัน AI เทรดอัตโนมัติแล้ว" และอ้างสัดส่วนหนึ่งว่าเป็นตัวเลขที่ Breeden ยกขึ้นมาบนเวที ผมเปิดตัวบทฉบับที่ BoE เผยแพร่เองแล้วไล่หาสถิติทุกตัวในนั้น — ไม่มีตัวเลขร้อยละใดปรากฏในสุนทรพจน์นี้เลยแม้แต่ตัวเดียว

สิ่งที่เธอพูดจริงเกี่ยวกับการใช้งานปัจจุบันคือ "evidence suggests that for now, trading firms mostly use autonomous AI for lower-risk operational tasks, such as research" — หลักฐานบ่งชี้ว่าตอนนี้บริษัทเทรดส่วนใหญ่ยังใช้ AI แบบทำงานเองกับงานความเสี่ยงต่ำอย่างงานวิจัย และ Computer Weekly ก็รายงานตรงกันว่า "In trading, Breeden said firms currently use autonomous AI for lower-risk operational tasks, such as research, but added that this could change quickly."

สังเกตว่าใจความกลับด้านกับพาดหัวเลย: สุนทรพจน์บอกว่า ตอนนี้ยังไม่ถึงขั้นนั้น แต่มันเปลี่ยนได้เร็ว ส่วนพาดหัวบอกว่า มันเกิดขึ้นแล้วครึ่งอุตสาหกรรม ความต่างนี้เปลี่ยนความหมายของข่าวทั้งชิ้น จากคำเตือนล่วงหน้าเป็นการรายงานสภาพปัจจุบัน

ทำไมมันสำคัญกับเรา: ในงาน model validation กฎข้อแรกที่ผมยึดคือ ตัวเลขทุกตัวต้องตามกลับไปหาต้นทางได้ ไม่ใช่ตามไปหาคนที่อ้างต้นทางอีกที ตัวเลขที่ถูกส่งต่อผ่านข่าวสามทอดมักหลุดบริบทตั้งแต่ทอดแรก และเมื่อมันไปโผล่ในสไลด์ที่เสนอผู้บริหารหรือคณะกรรมการ ไม่มีใครย้อนกลับไปกดอ่านสุนทรพจน์ต้นทางอีกแล้ว วิธีป้องกันไม่ซับซ้อน — เปิดเอกสารต้นทาง แล้วค้นหาตัวเลขนั้นตรง ๆ ถ้าค้นไม่เจอ ก็อย่าใช้

ภาพรวม

สาระของสุนทรพจน์ที่ Sintra ไม่ใช่ "AI จะทำตลาดพัง" แต่คือธนาคารกลางประกาศต่อสาธารณะว่ากรอบกำกับที่ใช้อยู่ตั้งอยู่บนสมมติฐานที่กำลังหมดอายุ — สมมติฐานว่ามีมนุษย์คอยกำกับทุกการกระทำ และความเสียหายจะจำกัดวงอยู่ในบริษัทที่ทำพลาด ทางแก้ที่ BoE กำลังสำรวจ ทั้ง simulation หา herding behaviour ร่วมกับ BIS และ Bundesbank ไปจนถึงคิลสวิตช์ระดับตลาด ล้วนสะท้อนว่าโจทย์ขยับจาก "โมเดลของคุณดีพอไหม" เป็น "ระบบมองเห็นและหยุดพฤติกรรมรวมหมู่ได้ไหม" อย่างที่ Breeden ปิดท้ายว่า "We need policy frameworks, internal skills and institutional structures ready for more frequent technology surprises."

สำหรับคนทำ data/risk ในสถาบันการเงิน ผมคิดว่าความได้เปรียบไม่ได้อยู่ที่ใครรู้ข่าวก่อน แต่อยู่ที่ใครสร้างระบบที่ตอบคำถามเหล่านี้ได้ก่อนผู้ตรวจจะถาม — agent ตัวไหนทำอะไร ด้วย objective อะไร ใครกดหยุดได้ และหลักฐานอยู่ที่ไหน ถ้าอยากได้ระบบทำงานจริงที่เอา AI agent มาช่วยงาน data/risk การเงินแบบกำกับได้และตรวจสอบย้อนหลังได้ตั้งแต่วันแรก ผมรวบรวมวิธีวางไว้ทั้งชุดในคอร์ส Claude Code

เนื้อหานี้เพื่อการศึกษาและวิเคราะห์พร้อมอ้างอิง ไม่ใช่คำแนะนำการลงทุน

ที่มา

• Agents of change — speech by Sarah Breeden, given at ECB Sintra Forum, 30 June 2026 (Bank of England)
• Bank of England explores trading 'kill switches' to contain AI meltdowns (Computer Weekly)