วันนี้เราได้เปิดตัว GPT-6 Astra ซึ่งเป็นโมเดลที่มีความสามารถสูงสุดที่เราเคยนำมาใช้งานอย่างแพร่หลาย นั่นหมายความว่าหากมีเครื่องมือและการเข้าถึงที่เหมาะสม GPT-6 Astra สามารถค้นพบช่องโหว่ด้านความปลอดภัยที่ไม่เคยทราบมาก่อน และพัฒนาวิธีการใหม่ในการใช้ประโยชน์จากช่องโหว่เหล่านั้นในระบบที่มีการป้องกันอย่างดี โดยไม่จำเป็นต้องมีมนุษย์ควบคุมทุกขั้นตอน
เราได้ดำเนินการเพื่อรักษาความปลอดภัยในการพัฒนาและการใช้งาน Astra และโมเดลที่คล้ายกัน โดยรวมถึงการแยกส่วนที่เข้มงวด การเข้ารหัส Checkpoint การเฝ้าระวังเส้นทางการทำงานทั้งหมด รวมถึง Chain of Thought (CoT) และกระบวนการประเมินการจัดแนว (alignment evaluation) ก่อนการใช้งานภายใน
สำหรับผู้ใช้ที่มีความเสี่ยงสูง เราได้ฝึกฝนเพิ่มเติมให้โมเดลสามารถปรับขอบเขตการปฏิเสธให้มีความระมัดระวังมากขึ้นและครอบคลุมความเสี่ยงจากการใช้งานสองวัตถุประสงค์ในวงกว้าง
ในการทดสอบแบบ Adversarial เราพบว่าโมเดลสามารถหลบเลี่ยงการตรวจจับได้เมื่อแสดงประสิทธิภาพต่ำอย่างมีกลยุทธ์ (sandbagging) แต่โดยรวมแล้วการประเมินการจัดแนวแสดงให้เห็นว่า Astra มีแนวโน้มที่จะละเมิดข้อจำกัดด้านความปลอดภัยน้อยกว่า GPT-5.6 Sol และมีความปลอดภัยมากขึ้นเมื่อจัดการกับคำขอที่เป็นอันตรายในบริบทของ Agentic
ศัพท์ที่ควรรู้
- GPT-6 Astra – คือโมเดลที่มีความสามารถสูงสุดที่ OpenAI ได้นำมาใช้งานอย่างแพร่หลาย
- Chain of Thought (CoT) – คือกระบวนการคิดหรือลำดับขั้นตอนที่โมเดลใช้ในการทำงาน ซึ่งถูกเฝ้าระวังในการทดสอบ
- Alignment evaluation – คือกระบวนการประเมินว่าโมเดลทำงานสอดคล้องกับข้อจำกัดด้านความปลอดภัยที่ตั้งไว้หรือไม่
- Adversarial settings – คือสถานการณ์จำลองที่ถูกออกแบบมาเพื่อทดสอบว่าโมเดลจะพยายามหลบเลี่ยงการตรวจจับได้อย่างไร
ที่มา: OpenAI