หัวข้อ: แซม ออลต์แมน พร้อมชะลอความเร็ว AI เพื่อให้โลกตามทัน

แซม ออลต์แมน ซีอีโอของ OpenAI กล่าวว่าถึงเวลาแล้วที่อาจต้อง “ชะลอ” การพัฒนา AI เพื่อให้โลกพร้อมรับมือกับมัน “เราอาจต้องควบคุมจังหวะการพัฒนา AI เพื่อให้สังคมมีเวลาปรับตัวให้แข็งแกร่งขึ้นกับความสามารถระดับใหม่เหล่านี้” เขากล่าวกับแพทริก โอชอเนสซี พิธีกรพอดแคสต์ Invest Like the Best พร้อมกับ “พยายามหาวิธีทำแบบนั้นโดยไม่ให้ดูเหมือนเป็นการควบคุมเชิงกฎระเบียบเพื่อใครคนใดคนหนึ่ง หรือไม่ให้ดูเหมือนเป็นการสมรู้ร่วมคิดระหว่างห้องปฏิบัติการชั้นนำ” ทั้ง OpenAI และ Anthropic ออกมาสนับสนุนคำร้องที่พนักงานในห้องปฏิบัติการชั้นนำเผยแพร่ โดยเรียกร้องให้รัฐบาลสหรัฐฯ “สนับสนุนความพยายามระดับนานาชาติในการพัฒนาเครื่องมือทางเทคนิคและการกำกับดูแลที่จำเป็นเพื่อควบคุมจังหวะการพัฒนา AI อัตโนมัติอย่างตั้งใจ” ก่อนหน้านี้ ออลต์แมนหลีกเลี่ยงการลงนามในแคมเปญที่เรียกร้องให้ชะลอความก้าวหน้าของ AI โดยเรียกจดหมายเปิดผนึกในปี 2023 ที่เสนอให้ชะลอแบบเดียวกันว่า “ขาดความละเอียดอ่อนทางเทคนิคส่วนใหญ่เกี่ยวกับจุดที่เราต้องหยุด” เห็นได้ชัดว่าเขาอ่อนลงในแนวคิดนี้ ส่วนหนึ่งเป็นเพราะเหตุการณ์ที่โมเดลขั้นสูงตัวหนึ่งของ OpenAI สามารถหลุดออกจากสภาพแวดล้อมการคำนวณที่ปลอดภัย (secure computing environment) และเจาะเข้าไปใน Hugging Face ซึ่งเป็นฐานข้อมูลโมเดลออนไลน์ โดยใช้ช่องโหว่ zero-day หลายจุด ในพอดแคสต์ ผู้ร่วมก่อตั้ง OpenAI เรียกมันว่า “เหตุการณ์ไซเบอร์ที่เหมือนนิยายวิทยาศาสตร์อย่างมาก…นี่คือเหตุการณ์ด้านความปลอดภัยครั้งแรกที่ฉันรู้สึกได้ถึงความหวาดกลัวอย่างแท้จริง” นักวิจัยของ OpenAI หยุดการฝึกอบรมโมเดลนั้นชั่วคราวในขณะที่พวกเขาหาวิธีรักษาความปลอดภัยของ sandbox (สภาพแวดล้อมที่แยกออกมาเพื่อทดสอบโค้ด) แต่ ออลต์แมนกล่าวว่าเมื่อโมเดลมีความทรงพลังมากขึ้น ความจำเป็นในการ “ชะลอ” การพัฒนาอาจกลายเป็นกุญแจสำคัญในการปรับใช้อย่างปลอดภัย แม้ว่าความปลอดภัยของโมเดลและการปรับให้สอดคล้อง (alignment) จะเป็นข้อกังวลในโลก AI มาโดยตลอด แต่การมาถึงของโมเดล Mythos ที่มีความสามารถสูงของ Anthropic ในช่วงต้นปีนี้ได้เปลี่ยนสมมติฐานให้กลายเป็นปัญหาจริง อย่างไรก็ตาม อุตสาหกรรมมีปัญหาด้านความไว้วางใจ และเศรษฐศาสตร์ที่ท้าทายซึ่งทำให้ผู้เล่นรายใหญ่มีแรงจูงใจในการพูดเกินจริงถึงอันตรายของระบบของตนในแบบที่ผู้เชี่ยวชาญไม่เห็นด้วย เช่น ว่าโมเดล Fable ของ Anthropic ควรถูกห้ามใช้ชั่วคราวหรือไม่ ในทำนองเดียวกัน เมื่อ Kimi K3 โมเดลโอเพนเวทขนาดใหญ่ (open-weight model) ที่สร้างในจีนถูกปล่อยออกมา ดีน ดับเบิลยู. บอลล์ หัวหน้าฝ่ายอนาคตเชิงกลยุทธ์ของ OpenAI กล่าวว่ามันคุกคามเศรษฐศาสตร์ของห้องปฏิบัติการชั้นนำ ทำให้ยากที่จะแยกข้อกังวลด้านความปลอดภัยออกจากผลประโยชน์ทางการเงิน “ฉันคิดว่าการพูดถึงข้อกังวลด้านความปลอดภัยส่วนใหญ่มีเหตุผลที่ดี และอีกส่วนหนึ่งเป็นเรื่องของคนที่แค่อยากรวมศูนย์อำนาจ แม้จะโดยไม่รู้ตัวก็ตาม” ออลต์แมนกล่าว ซึ่งดูเหมือนเป็นการเสียดสีคู่แข่งของเขา ดาริโอ อาโมเดย์ ซีอีโอของ Anthropic ที่ลงนามในคำร้อง “ฉันกลัวโลกที่ความกลัว AI ที่แท้จริงถูกใช้เป็นข้ออ้างในการบอกว่า ‘มีแค่คนกลุ่มเล็กๆ เท่านั้นที่สามารถมีมันได้เพราะมันอันตรายเกินไป และมีเพียงพวกเขาเท่านั้นที่เข้าใจ'”

แหล่งที่มา: techcrunch

คำศัพท์เทคนิคที่น่าสนใจ

• AI (Artificial Intelligence) – ปัญญาประดิษฐ์: เทคโนโลยีที่ทำให้เครื่องจักรสามารถคิด เรียนรู้ และตัดสินใจได้คล้ายมนุษย์
• ซีอีโอ (CEO) – ผู้บริหารสูงสุดขององค์กร
• พอดแคสต์ (Podcast) – รายการเสียงหรือวิดีโอที่เผยแพร่ทางออนไลน์ สามารถฟังหรือดูได้ตามต้องการ
• กฎระเบียบ (Regulatory Control) – การควบคุมโดยใช้กฎหมายหรือข้อบังคับเพื่อให้เป็นไปตามมาตรฐาน
• การกำกับดูแล (Governance) – กระบวนการบริหารจัดการและควบคุมเพื่อให้เกิดความโปร่งใสและปลอดภัย
• โมเดล (Model) – แบบจำลองหรือระบบ AI ที่ถูกฝึกให้ทำงานเฉพาะอย่าง เช่น การสร้างข้อความหรือการวิเคราะห์ข้อมูล
• สภาพแวดล้อมการคำนวณที่ปลอดภัย (Secure Computing Environment) – ระบบที่ออกแบบมาเพื่อป้องกันการเข้าถึงหรือโจมตีจากภายนอก
• ช่องโหว่ zero-day (Zero-day Vulnerability) – ช่องโหว่ด้านความปลอดภัยที่ยังไม่ถูกค้นพบหรือแก้ไขโดยผู้พัฒนา ทำให้เสี่ยงต่อการถูกโจมตี
• sandbox – สภาพแวดล้อมที่แยกออกมาเพื่อทดสอบโค้ดหรือโปรแกรมอย่างปลอดภัย โดยไม่กระทบระบบหลัก
• การปรับให้สอดคล้อง (Alignment) – กระบวนการทำให้ AI มีเป้าหมายและพฤติกรรมที่ตรงกับความต้องการและค่านิยมของมนุษย์
• โมเดลโอเพนเวท (Open-weight Model) – โมเดล AI ที่เปิดเผยค่าน้ำหนักหรือพารามิเตอร์ให้สาธารณชนสามารถเข้าถึงและนำไปใช้ต่อได้