Wisteria แชตบอต AI แบบ BYOK เก็บความทรงจำไว้ในเครื่อง เน้นจำบริบทระยะยาว

นักพัฒนารายหนึ่งเปิดตัว Wisteria แชตบอตสำหรับเดสก์ท็อปที่เน้นการสนทนาต่อเนื่องและความทรงจำระยะยาว โดยใช้แนวทาง BYOK (Bring Your Own Key) ให้ผู้ใช้นำ API key ของผู้ให้บริการโมเดล AI มาเชื่อมต่อเอง ข้อมูลอย่างบันทึกบทสนทนาดิบ ความทรงจำของ persona และข้อความประกอบการประมวลผล จะถูกจัดเก็บเป็นไฟล์ในไดเรกทอรีบนอุปกรณ์ของผู้ใช้

ผู้พัฒนาสร้างระบบความทรงจำที่เรียกว่า “Anchoring” เพื่อย่อและจัดระเบียบข้อมูลผ่านระดับนามธรรมหลายชั้น โดยมุ่งรักษาบริบทด้านเวลาและมุมมองว่าใครเป็นผู้พูด ซึ่งเป็นจุดที่มักสูญหายเมื่อสรุปบทสนทนาจำนวนมาก ผู้พัฒนาระบุว่าในการทดสอบของตน ระบบยังอาจสับสนว่าใครพูดข้อความใด แต่ไม่พบว่ามันสร้างเหตุการณ์ในอดีตที่ไม่เคยเกิดขึ้น ทั้งนี้ผลดังกล่าวยังเป็นเพียงประสบการณ์จากการใช้งานของผู้พัฒนา

ในเชิงเทคนิค Wisteria ใช้ schema การตอบกลับที่กำหนดเองเพื่อสร้างหน่วยความทรงจำระยะยาว และให้โมเดลส่งเนื้อหาการให้เหตุผลในคำตอบเดียวกัน แทนการพึ่งระบบ reasoning แบบ native ของผู้ให้บริการ วิธีนี้ช่วยให้ตรวจสอบข้อความ reasoning และข้อมูลที่บันทึกไว้ได้ แต่ก็มีข้อจำกัด เพราะโมเดลแนวหน้าหลายรุ่นไม่ได้รองรับการใช้งานลักษณะดังกล่าว และบางผู้ให้บริการอาจปฏิเสธคำขอเมื่อเปิดใช้ native reasoning ผู้พัฒนาจึงแนะนำโมเดลที่เหมาะสมไว้ในคำอธิบายโครงการ

ระบบยังเสริมความทรงจำที่ถูกบีบอัดด้วยหน้าข้อมูลสำคัญซึ่งคงอยู่ในบริบทของเซสชัน และเอกสารแบบต้นไม้ที่โมเดลสามารถเรียกดูเป็นลำดับเมื่อจำเป็น ขนาดความทรงจำจึงไม่ได้เพิ่มขึ้นไม่สิ้นสุด แต่ขยายก่อนจะถูกบีบอัดอีกครั้ง อย่างไรก็ตาม การบีบอัดเป็นระยะทำให้ต้องรอระหว่างตอบ ตั้งแต่ไม่กี่วินาทีไปจนถึงหลายนาที ขึ้นอยู่กับโมเดล เซสชัน และระดับข้อมูลที่ประมวลผล ผู้พัฒนาระบุว่ายอมคงช่วงรอนี้ไว้เพื่อรักษาความสมบูรณ์ของข้อมูล

มุมมองสำหรับนักพัฒนาและผู้ประกอบการไทย

Wisteria สะท้อนโจทย์สำคัญของผลิตภัณฑ์ AI ที่ต้องสนทนากับผู้ใช้ในระยะยาว นั่นคือการออกแบบความทรงจำให้มีประโยชน์โดยไม่ละเลยที่มา บริบท และสิทธิในการควบคุมข้อมูล นักพัฒนาไทยที่ทำผู้ช่วย AI เฉพาะทางอาจนำแนวคิดการแยกข้อมูลเป็นความทรงจำสรุป เอกสารอ้างอิง และบันทึกต้นฉบับไปทดลองใช้ พร้อมเพิ่มเครื่องมือให้ผู้ใช้ตรวจสอบ แก้ไข หรือลบข้อมูลได้ อย่างไรก็ดี ควรทดสอบการระบุผู้พูดและการเรียกคืนเหตุการณ์อย่างเป็นระบบ ไม่ถือว่าการไม่พบข้อมูลผิดพลาดในการทดลองส่วนบุคคลเป็นหลักประกันความแม่นยำ

สำหรับผู้ประกอบการ การเก็บข้อมูลไว้ในเครื่องและการเลือกผู้ให้บริการโมเดลเองอาจตอบโจทย์ด้านความเป็นส่วนตัวและความยืดหยุ่น แต่ต้องชั่งน้ำหนักกับประสบการณ์ใช้งาน ความเข้ากันได้ของโมเดล และเวลาที่ใช้ประมวลผล Wisteria ระบุว่าเริ่มพัฒนาเวอร์ชันอัลฟาราวเดือนพฤษภาคม 2025 และเปิดให้ดูรายละเอียดโครงการกับบันทึกทางเทคนิคบน Zenodo รวมถึงซื้อไคลเอนต์ผ่าน itch.io ซึ่งมาพร้อมบทแนะนำการใช้งาน

ทดลองใช้ AI ผ่าน Tora API

ผู้ที่กำลังพัฒนาแอปสนทนาและระบบความทรงจำ สามารถทดลองเปรียบเทียบความสามารถของโมเดลและเลือกแนวทางให้เหมาะกับงานได้ผ่าน Tora API Playground หรือดูตัวเลือกการใช้งานได้ที่ หน้าราคา Tora API ส่วนผู้ที่สนใจสร้างวิดีโอด้วย AI สามารถเริ่มต้นได้ที่ เครื่องมือแปลงข้อความเป็นวิดีโอ