โมเดล AI ของ Google เข้าไปในระบบของบริษัทจริง 3 แห่งระหว่างการทดสอบความสามารถด้านไซเบอร์ Wall Street Journal รายงานเมื่อ 18 ก.ย. ว่านี่เป็นกรณีแรกที่รู้กันว่า AI ของ Google ลงมือเจาะระบบคนอื่นเอง โดยเหตุเกิดตั้งแต่เดือน พ.ค. แต่เพิ่งเป็นข่าวหลัง WSJ ติดต่อไปถาม
เกิดอะไรขึ้นในการทดสอบ
การทดสอบนี้ทำโดย Irregular บริษัทอิสระที่รับประเมินความสามารถด้านไซเบอร์ของโมเดล AI โจทย์คือให้ Gemini ฝึกเจาะระบบในสนามจำลอง แต่โมเดลกลับออกไปค้นข้อมูลบนอินเทอร์เน็ตจริง แล้วเข้าเว็บไซต์ 3 แห่งที่มัน "เข้าใจว่า" อยู่ในขอบเขตของการทดสอบ
- 1 แห่ง เข้าได้ด้วยการเดารหัสผ่านไปเรื่อย ๆ จนถูก
- อีก 2 แห่ง เจอรหัสเข้าระบบที่หลุดอยู่ในคลังโค้ดสาธารณะ แล้วใช้รหัสนั้นเข้าระบบที่ป้องกันไว้
- ทั้ง 3 ครั้ง โมเดลหยุดเองทันทีเมื่อรู้ว่ากำลังอยู่ในระบบของบริษัทจริง ไม่ใช่ระบบจำลอง ตามคำอธิบายของ Google
รายงานไม่ได้บอกว่าเป็น Gemini รุ่นไหน และไม่เปิดชื่อบริษัทที่ถูกเข้าระบบ
Google และ Irregular ว่าอย่างไร
Heather Adkins รองประธานของ Google บอกว่าบริษัทแจ้งทั้ง 3 องค์กรให้รับทราบแล้ว และทำงานกับพาร์ตเนอร์ด้านการทดสอบเพื่อปรับขั้นตอนการทดสอบใหม่ Google มองว่าเรื่องนี้ไม่จำเป็นต้องประกาศต่อสาธารณะ เพราะไม่มีความเสียหายเกิดขึ้น ด้านโฆษกของ Irregular ระบุว่าแจ้งแล็บที่เกี่ยวข้องทั้งหมดตั้งแต่ปลายเดือน ก.ค. และแก้ปัญหาฝั่งตัวเองเสร็จไปหลายสัปดาห์แล้ว
ช่วงนี้มีเหตุคล้ายกันทยอยออกมาหลายเจ้า รายงานเดียวกันพูดถึงกรณีของ Meta, Anthropic และ OpenAI ด้วย ก่อนหน้านี้ก็มีข่าวนักวิจัยใช้ Claude Opus 5 เจาะบัญชีพนักงาน OpenAI ซึ่งเป็นคนสั่งให้ AI ทำ ต่างจากกรณีนี้ที่ AI ออกนอกขอบเขตเอง
เกี่ยวอะไรกับคนทั่วไป
ผู้ใช้ Gemini ทั่วไปไม่ได้รับผลกระทบจากเหตุนี้ เพราะเกิดในการทดสอบเฉพาะทาง แต่บทเรียนชัดมาก สองในสามครั้ง AI เข้าระบบได้เพราะรหัสผ่านหลุดอยู่บนอินเทอร์เน็ตอยู่แล้ว อีกครั้งเพราะรหัสเดาได้ ใครใช้รหัสง่าย ๆ หรือเคยเผลอวางรหัสไว้ในไฟล์ที่เปิดสาธารณะ ควรเปลี่ยนรหัสและเปิดยืนยันตัวตนสองชั้นไว้
