ตั้งแต่เริ่มต้น โครงการนี้ได้ให้การสนับสนุนโครงการที่หลากหลาย และเราขอเน้นย้ำถึงบางส่วนดังนี้
Wagner Lab จาก UC Berkeley นำเสนอเทคนิคในการป้องกันการโจมตีแบบ prompt-injection ใน LLMs ส่วน Mithril Security ได้พัฒนาแนวคิดต้นแบบเพื่อเสริมความแข็งแกร่งให้กับโครงสร้างพื้นฐานการอนุมานของ LLMs โดยใช้ Trusted Platform Modules (TPMs) สำหรับการติดตั้งโมเดล AI บน GPU
Gabriel Bernadett-Shapiro ได้สร้าง AI OSINT workshop และ AI Security Starter Kit เพื่อฝึกอบรมด้านเทคนิคเกี่ยวกับ LLMs และเครื่องมือฟรีสำหรับนักศึกษา นักข่าว และผู้เชี่ยวชาญด้านความปลอดภัย โดยเฉพาะอย่างยิ่งสำหรับนักสืบอาชญากรรมระหว่างประเทศ
CY-PHY Security Lab จาก UCSC กำลังศึกษาการใช้ foundation models เพื่อออกแบบเอเจนต์ที่ตอบสนองต่อผู้บุกรุกเครือข่ายคอมพิวเตอร์โดยอัตโนมัติ ขณะที่ MIT CSAIL กำลังสำรวจการใช้ prompt engineering เพื่อทำให้กระบวนการตัดสินใจเป็นอัตโนมัติสำหรับการทดสอบแบบ red-teaming และการใช้ LLM-Agent ใน CTF challenges
ศัพท์ที่ควรรู้
- LLMs – โมเดลภาษาขนาดใหญ่ (Large Language Models) คือ AI ที่ถูกฝึกมาเพื่อทำความเข้าใจและสร้างข้อความของมนุษย์
- Prompt-injection attacks – คือการโจมตีโดยการป้อนคำสั่งที่ไม่พึงประสงค์เข้าไปในโมเดล AI เพื่อให้ทำงานผิดพลาด
- TPMs – Trusted Platform Modules คือชิปที่ใช้ในการรักษาความปลอดภัยของระบบและช่วยให้การทำงานของ AI มีความปลอดภัย
- AI OSINT workshop – คือการจัดอบรมเชิงปฏิบัติการเกี่ยวกับ Open Source Intelligence โดยใช้ AI
ศัพท์ที่ควรรู้
- LLMs – โมเดลภาษาขนาดใหญ่ (Large Language Models) คือ AI ที่ถูกฝึกมาเพื่อทำความเข้าใจและสร้างข้อความของมนุษย์
- Prompt-injection attacks – คือการโจมตีโดยการป้อนคำสั่งที่ไม่พึงประสงค์เข้าไปในโมเดล AI เพื่อให้ทำงานผิดพลาด
- TPMs – Trusted Platform Modules คือชิปที่ใช้ในการรักษาความปลอดภัยของระบบและช่วยให้การทำงานของ AI มีความปลอดภัย
- AI OSINT workshop – คือการจัดอบรมเชิงปฏิบัติการเกี่ยวกับ Open Source Intelligence โดยใช้ AI
ที่มา: OpenAI