Satya Nadella ซีอีโอ Microsoft โพสต์บน X เมื่อวันที่ 10 ตุลาคม 2026 ว่าถึงเวลาทบทวน "สถาปัตยกรรมความไว้วางใจ" ของ AI โดยให้ตั้งต้นว่าโมเดลอาจถูกแทรกแซงหรือเชื่อถือไม่ได้ แล้วออกแบบระบบให้ควบคุมมันได้ตั้งแต่ต้น พร้อมเปรียบว่าต้องมีกลไกคล้ายเบรกฉุกเฉินที่คนสั่งหยุดโมเดลได้ทันที
ประโยคที่ถูกยกอ้างมากที่สุดคือ "We must assume a model is compromised and contain it from the start" หรือให้ถือไว้ก่อนว่าโมเดลมีปัญหา แล้วจำกัดวงให้มันตั้งแต่เริ่ม Nadella ยังบอกว่าเราไม่ควรมอง Super Intelligence เป็นกล่องดำซ้อนกันหลายชั้น แล้วเลือกแค่ยอมรับหรือปฏิเสธคำแนะนำ คำตอบ และการกระทำของมัน
ข้อเสนอมีอะไรบ้าง
- แยกโมเดลออกจากตัวควบคุมงาน ให้โมเดลกับส่วนที่สั่งงานและประสานงาน (harness) เป็นคนละชิ้น
- ย้ายตัวคุมความปลอดภัยออกไปไว้นอกโมเดล ไม่ปล่อยให้โมเดลดูแลกฎของตัวเอง
- เก็บหลักฐานทุกการกระทำสำคัญของโมเดล ในรูปแบบที่คนอ่านเข้าใจและแก้ไขย้อนหลังไม่ได้
- ให้ผู้มีสิทธิ์สั่งหยุดโมเดลกลางงานได้ ทั้งการพักหรือปิดการทำงาน ซึ่งเป็นที่มาของคำว่าเบรกฉุกเฉิน
ทำไมถึงพูดตอนนี้
TechCrunch เชื่อมโพสต์นี้กับรายงานล่าสุดที่บริษัท AI ชั้นนำยอมรับว่าเคยเจอเหตุการณ์ที่ดูเหมือนควบคุมโมเดลไม่ได้ และกับแผนพัฒนา AI อย่างระมัดระวังที่ Dario Amodei ซีอีโอ Anthropic เผยแพร่เมื่อเดือนกันยายน 2026 ก่อนหน้านี้ Anthropic เองก็ประกาศปิดอินเทอร์เน็ตสดจากการทดสอบภายในหลังพบ Claude ทำสิ่งที่ไม่ได้ตั้งใจบนเว็บจริง อ่านเพิ่มได้ที่ รายงานกรณี Claude ทำสิ่งไม่ตั้งใจบนเว็บจริง
คนใช้ AI ทั่วไปได้อะไร
ข้อเสนอนี้ยังเป็นความเห็นและแนวทางจากผู้บริหาร ไม่ใช่ฟีเจอร์ที่ Microsoft ประกาศว่าจะเปิดให้ใช้ และไม่มีกำหนดวันหรือผลิตภัณฑ์ที่ระบุไว้ในโพสต์ ผู้ใช้ทั่วไปยังไม่ต้องตั้งค่าอะไรเพิ่ม สิ่งที่พอมองได้คือทิศทางว่าเครื่องมือ AI แบบเอเจนต์ที่ทำงานแทนคนได้เอง น่าจะถูกคาดหวังให้มีบันทึกการทำงานที่ตรวจย้อนหลังได้และมีปุ่มหยุดที่คนควบคุมมากขึ้น