Devon Thomas ซึ่งเติบโตมากับการใช้คอมพิวเตอร์และเคยทำงานด้าน AI ที่ Apple พบว่าโมเดล AI ที่ให้บริการโดยบริษัทใหญ่มีข้อจำกัดมากเกินไป ทำให้การใช้งานถูกบล็อก เมื่อเขาพยายามใช้โมเดลวิเคราะห์บันทึกการโจมตีทางไซเบอร์ หรือระบุผู้ใช้ที่มีแนวโน้มจะจ่ายค่าฟีเจอร์ใหม่
ทั้ง ChatGPT และ Claude ต่างก็มีหัวข้อที่หลีกเลี่ยง เช่น คำขอด้านความปลอดภัยทางไซเบอร์ที่โมเดลตัดสินว่าอาจเป็นอันตราย หรือหัวข้อที่อ่อนไหวทางการเมือง แม้แต่กรณีที่ OpenAI และ Anthropic มีพฤติกรรมผิดปกติก็เกี่ยวข้องกับโมเดลที่มีการควบคุมด้านความปลอดภัยน้อยกว่า
Thomas ได้สร้าง Heretic ขึ้นมาเพื่อทำความเข้าใจว่า AI ทำงานอย่างไร และทำให้การปรับแต่ง AI ให้เข้ากับวัตถุประสงค์ของตนเองนั้นง่ายขึ้น โดยสามารถสร้างโมเดลขนาดเล็กแต่มีประโยชน์โดยปราศจากข้อจำกัดปกติ
Christopher Canal ผู้เชี่ยวชาญด้านความปลอดภัย AI กล่าวว่า หากคุณเป็นผู้ที่เชื่อในเสรีภาพในการพูดอย่างถึงที่สุด การไม่มีข้อจำกัดเหล่านี้ถือเป็นเรื่องที่ดี
ศัพท์ที่ควรรู้
- Netscape Navigator – โปรแกรมเว็บเบราว์เซอร์ยุคแรกที่ Thomas ใช้สำรวจอินเทอร์เน็ต
- guardrails – ข้อจำกัดหรือมาตรการป้องกันที่ใส่ไว้ในโมเดล AI เพื่อควบคุมการใช้งาน
- Heretic – โมเดล AI ที่ถูกสร้างขึ้นโดย Thomas เพื่อทำความเข้าใจและปรับแต่ง AI ให้ตรงตามความต้องการเฉพาะ
- ChatGPT และ Claude – โมเดลภาษาขนาดใหญ่ (LLM) ที่ถูกกล่าวถึงว่ามีข้อจำกัดในการใช้งาน
ที่มา: Wired