Cisco เปิดซอร์ส Project Quarry ภาษาตรวจจับพฤติกรรม AI Agent

Cisco เปิด Project Quarry ให้ใช้งานแบบโอเพนซอร์ส

Cisco เปิดซอร์ส Project Quarry เครื่องมือที่อธิบายว่าเป็นภาษาสำหรับตรวจจับพฤติกรรมของ AI Agent ความเคลื่อนไหวนี้เกิดขึ้นในช่วงที่เอเจนต์ AI เริ่มถูกนำไปใช้ทำงานหลายขั้นตอนและเชื่อมต่อกับเครื่องมือหรือระบบภายนอกมากขึ้น จึงมีความจำเป็นที่จะต้องติดตามว่าเอเจนต์ทำอะไร และทำงานสอดคล้องกับข้อกำหนดที่วางไว้หรือไม่

ภาษาสำหรับสังเกตพฤติกรรมเอเจนต์

แนวคิดของ Project Quarry คือการมีภาษาที่ใช้ระบุหรือค้นหารูปแบบพฤติกรรมของ AI Agent โดยเฉพาะ อย่างไรก็ตาม ข้อมูลที่เปิดเผยในแหล่งข่าวต้นทางยังมีรายละเอียดจำกัด จึงยังไม่ควรสรุปถึงความสามารถเฉพาะ รูปแบบการติดตั้ง หรือระบบที่รองรับ สิ่งที่น่าจับตาคือการเปิดซอร์สอาจเปิดโอกาสให้ชุมชนนักพัฒนาศึกษา ทดลอง และต่อยอดแนวทางตรวจสอบเอเจนต์ได้

สำหรับองค์กร เครื่องมือในกลุ่มนี้มีความสำคัญต่อการกำกับดูแลและความปลอดภัย เพราะเอเจนต์ที่ทำงานแทนผู้ใช้อาจเข้าถึงข้อมูลหรือดำเนินการหลายขั้นตอน การตรวจจับพฤติกรรมจึงเป็นส่วนหนึ่งของการมองเห็นความเสี่ยงและการตรวจสอบระบบ แต่ต้องประเมินเอกสารและความสามารถจริงของโครงการก่อนนำไปใช้ในงานสำคัญ

มุมมองสำหรับนักพัฒนาและผู้ประกอบการไทย

ทีมไทยที่กำลังพัฒนา AI Agent ควรวางแผนเรื่องการบันทึกเหตุการณ์ การกำหนดสิทธิ์ และการตรวจสอบการกระทำของเอเจนต์ตั้งแต่ต้น ไม่ควรพึ่งเพียงการทดสอบคำตอบของโมเดล แต่ควรพิจารณาพฤติกรรมตลอดกระบวนการทำงานด้วย การติดตาม Project Quarry และตรวจสอบโค้ดหรือเอกสารจากโครงการโดยตรง อาจช่วยให้ทีมประเมินได้ว่าแนวทางดังกล่าวเหมาะกับสถาปัตยกรรมและข้อกำหนดด้านข้อมูลขององค์กรหรือไม่

ทดลองใช้ AI ผ่าน Tora API

ผู้ที่ต้องการทดลองโมเดลและเครื่องมือ AI เพื่อประกอบการพัฒนา สามารถดูแพ็กเกจและตัวเลือกการใช้งานได้ที่ Tora API หรือทดลองผ่าน AI Playground