เราเข้าสู่บทใหม่ของขีดความสามารถ AI และนี่คือช่วงเวลาที่ต้องมีการกำหนดนโยบาย AI ใหม่ด้วยเช่นกัน วันนี้เราขอประกาศการสนับสนุนกฎหมายของแคลิฟอร์เนีย 4 ฉบับ ได้แก่ SB 813 ว่าด้วยโครงสร้างพื้นฐานสำหรับการประเมินความปลอดภัยอิสระ, AB 1405 ว่าด้วยมาตรฐานผู้ตรวจสอบ AI, SB 1119 ว่าด้วยการคุ้มครองเยาวชน และ AB 1864 ว่าด้วยมาตรการป้องกันภัยคุกคามทางชีวภาพที่ขับเคลื่อนด้วย AI
เราได้เสริมมาตรการเฝ้าระวัง การจัดแนว และความปลอดภัยในทุกขั้นตอนของวงจรการพัฒนาโมเดล รวมถึงการแยกส่วนที่เข้มข้นขึ้นสำหรับงานวิจัยแนวหน้า การเฝ้าระวังพฤติกรรมโมเดลที่ขยายขอบเขตระหว่างการฝึกและการประเมิน และกฎเกณฑ์ที่ชัดเจนในการยกระดับข้อกังวล
การเตรียมพร้อมสำหรับการปรับปรุงตนเองแบบเรียกซ้ำ
เป้าหมายของเราคือการสร้างนักวิจัย AI อัตโนมัติที่ทำงานภายใต้การกำกับดูแลของมนุษย์ เพื่อขับเคลื่อนทั้งการเรียนรู้เชิงลึกและการจัดแนว โดยใช้ AI แต่ละรุ่นช่วยให้รุ่นต่อไปมีความปลอดภัย จัดแนว และควบคุมได้ง่ายขึ้น ไม่ใช่แค่มีความสามารถมากขึ้นเท่านั้น
รักษาแรงผลักดันในระดับรัฐ
SB 1119 กำหนดให้มีการยืนยันอายุ การประเมินความเสี่ยง การตรวจสอบอิสระ การควบคุมโดยผู้ปกครอง และมาตรการป้องกันเนื้อหาที่เป็นอันตรายสำหรับเด็กและวัยรุ่นที่ใช้แชทบอทคู่หู ซึ่งเราได้แสดงการสนับสนุนต่อร่างกฎหมายนี้แล้ว
ส่วน AB 1864 กำหนดให้ผู้ให้บริการสังเคราะห์ยีนและผู้ผลิตอุปกรณ์สังเคราะห์บนโต๊ะต้องปฏิบัติตามมาตรฐานการคัดกรองของรัฐบาลกลาง เสริมมาตรการป้องกันทางกายภาพที่สำคัญต่อภัยคุกคามทางชีวภาพที่ขับเคลื่อนด้วย AI
ศัพท์ที่ควรรู้
- AI – ปัญญาประดิษฐ์ ซึ่งเป็นเทคโนโลยีที่ทำให้คอมพิวเตอร์สามารถทำงานที่ต้องใช้สติปัญญาของมนุษย์ได้
- Alignment – การจัดแนว หมายถึงการทำให้ AI มีเป้าหมายและพฤติกรรมที่สอดคล้องกับเจตนาของมนุษย์
- Frontier research workloads – งานวิจัยแนวหน้า หมายถึงการวิจัยที่อยู่ขอบเขตความรู้ปัจจุบันของเทคโนโลยี
ที่มา: OpenAI