อัยการอังกฤษยอมรับ “ความผิดพลาดร้ายแรง” หลังอ้างคดีปลอมจากการค้นด้วย AI

คดีปลอมจากการค้นด้วย AI จุดประเด็นความน่าเชื่อถือ

รายงานที่เผยแพร่ผ่าน Hacker News ระบุว่า อัยการของสำนักงานอัยการสูงสุดแห่งอังกฤษและเวลส์ (CPS) อ้างถึงคดีที่ไม่มีอยู่จริงหลังใช้ AI ช่วยค้นข้อมูล โดยเหตุการณ์นี้ถูกเรียกว่าเป็น “ความผิดพลาดร้ายแรง” อย่างไรก็ตาม ข้อมูลต้นทางที่ให้มายังไม่ได้ระบุชื่อคดี รายละเอียดกระบวนการ หรือเครื่องมือ AI ที่เกี่ยวข้อง จึงไม่ควรสรุปเกินกว่าข้อเท็จจริงที่มี

AI อาจสร้างคำตอบที่ดูน่าเชื่อถือ แต่ไม่ได้ยืนยันว่าเป็นความจริง

ระบบ AI สำหรับค้นหาและสรุปข้อมูลอาจสร้างข้อความที่ลื่นไหล พร้อมรายละเอียดหรือแหล่งอ้างอิงที่ดูสมจริง แต่ความน่าเชื่อถือของรูปแบบการตอบไม่ได้รับประกันว่าข้อมูลนั้นมีอยู่จริง โดยเฉพาะงานกฎหมายที่ต้องตรวจสอบชื่อคดี คำพิพากษา และแหล่งเผยแพร่จากฐานข้อมูลที่เชื่อถือได้ก่อนใช้อ้างอิง เหตุการณ์นี้ชี้ให้เห็นว่า AI ควรเป็นเครื่องมือช่วยค้นเบื้องต้น ไม่ใช่ผู้ตรวจสอบข้อเท็จจริงหรือผู้ตัดสินใจแทนมนุษย์

มุมมองสำหรับนักพัฒนาและผู้ประกอบการไทย

องค์กรไทยที่นำ AI มาใช้กับงานกฎหมาย การเงิน หรือการแพทย์ ควรกำหนดขั้นตอนให้ผู้เชี่ยวชาญตรวจสอบผลลัพธ์สำคัญทุกครั้ง พร้อมเก็บบันทึกแหล่งข้อมูลและวิธีตรวจทาน สำหรับนักพัฒนา อาจออกแบบระบบให้แสดงลิงก์ต้นทาง แจ้งเตือนเมื่อไม่พบหลักฐานยืนยัน และแยกข้อเท็จจริงออกจากข้อความที่โมเดลอนุมานได้ชัดเจน การทดสอบความแม่นยำในงานจริงและการกำหนดผู้รับผิดชอบต่อผลลัพธ์ยังเป็นส่วนสำคัญของการใช้งานอย่างปลอดภัย

ทดลองใช้ AI พร้อมตรวจสอบให้เหมาะกับงาน

ผู้สนใจสามารถทดลองโมเดล AI และเครื่องมือที่มีให้เลือกผ่าน Tora AI Playground หรือดูแพ็กเกจและรายละเอียดการใช้งานผ่าน Tora API ไม่ว่าจะใช้โมเดลใด ผลลัพธ์ที่มีผลต่อการตัดสินใจควรตรวจสอบกับแหล่งข้อมูลต้นทางเสมอ