OpenAI เปิดตัว GPT-Red ระบบ red teaming อัตโนมัติเพื่อความปลอดภัยของ AI

OpenAI เปิดตัว GPT-Red ระบบ red teaming อัตโนมัติที่ใช้ self-play เพื่อยกระดับความปลอดภัย ความสอดคล้อง (alignment) และความทนทานต่อ prompt injection ของโมเดล AI

ที่มา: OpenAI News