เตือนภัย AI Coding Agent ถูกชักจูงผ่านไฟล์ AGENTS.md ในโฟลเดอร์ Downloads

ไฟล์คำสั่งใน Downloads อาจกลายเป็นช่องทางโจมตี AI

ประเด็นที่ถูกหยิบยกบน Hacker News คือความเป็นไปได้ที่ AI coding agent จะถูกชักจูงหรือควบคุมพฤติกรรมผ่านไฟล์ชื่อ AGENTS.md ซึ่งอยู่ในโฟลเดอร์ Downloads โดยไฟล์ลักษณะนี้มักใช้ระบุแนวทางหรือคำสั่งให้เอเจนต์ปฏิบัติตาม หากเครื่องมือค้นหาและนำไฟล์ดังกล่าวมาเป็นบริบทโดยไม่ตรวจสอบแหล่งที่มา คำสั่งที่ผู้ใช้ไม่ได้ตั้งใจรับรองก็อาจมีอิทธิพลต่อการทำงานของ AI ได้ ทั้งนี้ ข้อมูลต้นทางที่ให้มามีเพียงพาดหัวข่าว จึงยังไม่มีรายละเอียดเพียงพอที่จะยืนยันรูปแบบการโจมตีหรือผลกระทบเฉพาะกรณี

ความเสี่ยงอยู่ที่ขอบเขตความเชื่อถือ

ไฟล์คำแนะนำช่วยให้ coding agent ทำงานตามมาตรฐานของโครงการได้ แต่ก็สร้างความเสี่ยงหากระบบให้น้ำหนักกับไฟล์จากทุกตำแหน่งเท่ากัน โดยเฉพาะเมื่อไฟล์อาจมีคำสั่งให้เปิดเผยข้อมูล เรียกใช้เครื่องมือ หรือแก้ไขไฟล์เกินขอบเขตงาน ปัญหานี้สะท้อนความท้าทายด้าน prompt injection และการจัดการสิทธิ์ของเอเจนต์ มากกว่าจะเป็นเพียงเรื่องคุณภาพของโมเดล แนวทางลดความเสี่ยง ได้แก่ จำกัดโฟลเดอร์ที่เอเจนต์อ่านได้ ตรวจสอบคำสั่งก่อนดำเนินการ และกำหนดให้การกระทำที่กระทบข้อมูลหรือระบบต้องได้รับการยืนยันจากผู้ใช้

มุมมองสำหรับนักพัฒนาและผู้ประกอบการไทย

องค์กรไทยที่นำ AI coding agent มาใช้ควรจัดทำนโยบายว่าเอเจนต์เชื่อถือไฟล์คำแนะนำจากแหล่งใดได้บ้าง แยกพื้นที่ดาวน์โหลดออกจากโครงการทำงาน และหลีกเลี่ยงการให้สิทธิ์เข้าถึงรหัสผ่าน คีย์ API หรือระบบใช้งานจริงโดยไม่จำเป็น ทีมพัฒนาควรทดสอบกรณีคำสั่งไม่พึงประสงค์ในไฟล์และเอกสารที่เอเจนต์อาจอ่าน พร้อมเก็บบันทึกการใช้เครื่องมือเพื่อให้ตรวจสอบย้อนหลังได้

ทดลองใช้ AI ผ่าน Tora API

ผู้พัฒนาและธุรกิจสามารถทดลองโมเดล AI และเครื่องมือที่เหมาะกับงานผ่าน Tora API Playground หรือดูตัวเลือกและรายละเอียดบริการได้ที่ หน้าราคา Tora API ควรประเมินสิทธิ์การเข้าถึงและตรวจสอบผลลัพธ์จากเอเจนต์ก่อนนำไปใช้กับข้อมูลหรือระบบสำคัญ