CNN รายงานเมื่อ 18 ก.ย. ว่ากองทัพสหรัฐเกือบบุกขึ้นเรือสินค้าของจีนในตะวันออกกลาง เพราะรายงานข่าวกรองที่นักวิเคราะห์ใช้แชตบอต AI ช่วยทำ ระบุผิดว่าเรือลำนั้นขนชิ้นส่วนของโครงการอาวุธนิวเคลียร์ แหล่งข่าวรายหนึ่งบอก CNN ว่ารายงานนี้ "ผิดทั้งหมด" และ "เกือบทำให้เกิดสงคราม"
เหตุการณ์เกิดขึ้นช่วงฤดูใบไม้ผลิปีนี้ ระหว่างที่สหรัฐทำสงครามกับอิหร่าน และถูกเปิดเผยหลังผ่านไปหลายเดือน กลายเป็นตัวอย่างชัดที่สุดตอนนี้ว่า AI ที่ตอบมั่นใจแต่ผิด หรือที่เรียกว่าอาการหลอน (hallucination) อันตรายแค่ไหนเมื่อถูกใช้ในงานที่ตัดสินใจเรื่องใหญ่
เกิดอะไรขึ้นบ้างตามที่ CNN รายงาน
- ต้นเรื่อง นักวิเคราะห์ของหน่วยบัญชาการปฏิบัติการพิเศษสหรัฐ (SOCOM) ใช้แชตบอต AI วิเคราะห์ว่าเรือจีนลำหนึ่งบรรทุกอะไร แล้ว AI สรุปว่ามีชิ้นส่วนโครงการอาวุธนิวเคลียร์
- รายงานถูกส่งต่อ ข้อมูลนี้เวียนไปทั่วกองทัพ และทำให้เริ่มเตรียมปฏิบัติการสกัดเรือ แหล่งข่าว 4 รายบอกว่ากองทัพเคลื่อนกำลังไปสกัดจริง
- เกือบถึงจุดลงมือ แหล่งข่าว 2 รายระบุว่ามีกำลังพลติดอาวุธเตรียมขึ้นเรือ และเครื่องบินทหารขึ้นบินไปแล้ว
- จับได้ทันก่อนเริ่ม เจ้าหน้าที่ตรวจข่าวกรองละเอียดอีกรอบไม่นานก่อนปฏิบัติการ จึงพบว่ารายงานมาจากแชตบอตที่ระบุสินค้าบนเรือผิด
ยังไม่มีการเปิดเผยว่าแชตบอตตัวนั้นเป็นของบริษัทไหน หรือเป็นเครื่องมือที่ทำขึ้นใช้ในรัฐบาลโดยเฉพาะ และยังไม่ชัดว่าบนเรือจริง ๆ มีสินค้าอะไร ส่วนกระทรวงกลาโหมสหรัฐตอบเพียงว่าไม่แสดงความเห็นต่อรายงานข่าวกรองหรือแผนปฏิบัติการที่ถูกกล่าวถึง
เรื่องนี้เกี่ยวกับคนใช้ AI ทั่วไปยังไง
บทเรียนเดียวกันใช้กับทุกคนที่ถาม ChatGPT, Gemini หรือ Claude เรื่องที่มีผลจริง ทั้งสุขภาพ การเงิน กฎหมาย หรือข้อมูลที่จะส่งต่อให้คนอื่น เพราะ AI ตอบผิดได้ด้วยน้ำเสียงมั่นใจเท่ากับตอนตอบถูก วิธีกันพลาดแบบง่ายที่สุดคือ
- ขอให้ AI บอกแหล่งที่มา แล้วกดเปิดดูเองว่าแหล่งนั้นพูดแบบนั้นจริง
- เรื่องที่ต้องตัดสินใจใหญ่ ใช้คำตอบ AI เป็นแค่จุดเริ่มค้น ไม่ใช่ข้อสรุป
- คำตอบที่ฟังดูน่าตกใจหรือตรงกับที่เราอยากได้ยินพอดี ยิ่งต้องเช็กซ้ำ
ภาพใหญ่ของ AI ในกองทัพ
กระทรวงกลาโหมสหรัฐกำลังเร่งนำ AI เข้ามาใช้ในหลายงาน ขณะที่บริษัท AI เองก็ขีดเส้นต่างกัน เช่น Anthropic ที่เคยปฏิเสธการนำโมเดลไปใช้กับอาวุธอัตโนมัติ เหตุการณ์ครั้งนี้ทำให้คำถามเดิมกลับมาชัดขึ้น ว่าข้อมูลจาก AI ต้องผ่านการตรวจโดยคนกี่ชั้นก่อนถูกใช้สั่งการจริง
