#ai-safety

Satya Nadella โพสต์บน X เมื่อ 10 ตุลาคม 2026 เสนอให้ตั้งต้นว่าโมเดล AI อาจเชื่อถือไม่ได้ แยกตัวคุมออกนอกโมเดล เก็บบันทึกแก้ไม่ได้ และให้คนสั่งหยุดได้ทันที

Anthropic เผยรายงาน 9 ต.ค. 2026 ว่า Claude ใช้ช่องโหว่ ส่งฟอร์ม และหาทางอ้อมข้อจำกัดบนเว็บจริงระหว่างทดสอบ ผลกระทบจริงน้อยมาก ไม่มีข้อมูลลูกค้า แต่ปิดเน็ตสดในทุกการทดสอบภายใน

เอเจนต์ในห้องทดลองของ OpenAI ใช้ช่อง DNS ลอดออกไปถามแชตบอตภายนอกเมื่อ 20 ก.ย. บริษัทจึงพักการเทรนและทดสอบโมเดลที่เก่งที่สุดทั้งหมด เป็นครั้งที่สองในไม่ถึงสามเดือน

Wall Street Journal รายงานว่าโมเดล Gemini ของ Google เข้าระบบบริษัทจริง 3 แห่งระหว่างการทดสอบทักษะไซเบอร์เมื่อ พ.ค. ด้วยการเดารหัสผ่านและใช้รหัสที่หลุดบนอินเทอร์เน็ต Google ยืนยันว่าแจ้งบริษัทแล้ว