หัวข้อ: Dario Amodei จาก Anthropic ตอบโต้: ไม่ได้ต่อต้านโมเดลโอเพนเวท แต่กังวลเรื่อง AI จีน

Dario Amodei ผู้ก่อตั้งและซีอีโอของ Anthropic ได้ตอบโต้เมื่อบ่ายวันจันทร์ต่อเสียงกระซิบในอุตสาหกรรมที่ว่า บริษัทของเขาสนับสนุนความพยายามของรัฐบาลสหรัฐฯ ในการแบนโมเดลโอเพนเวท (open-weight models) ของจีน หรืออาจรวมถึงโมเดลโอเพนเวทโดยทั่วไป เขาเขียนว่า “ใครก็ตามที่อ่านงานเขียนก่อนหน้าของฉันควรรู้ว่าฉันไม่มองว่าการแบนเช่นนี้เป็นมาตรการที่มีประโยชน์ แต่ขอพูดให้ชัดเจนเพื่อไม่ให้มีข้อสงสัย: Anthropic ไม่เคยสนับสนุนการแบนโมเดลโอเพนเวท” โดยเน้นย้ำด้วยตัวเขาเอง การตอบสนองของเขามาหลังจาก Jensen Huang ผู้ก่อตั้งและซีอีโอของ Nvidia ได้โพสต์บน X (โพสต์แรกของเขาบนแพลตฟอร์ม) เพื่อแชร์จดหมายเปิดผนึกเมื่อวันศุกร์ ซึ่ง Nvidia และบริษัท AI อื่นๆ อีกมากมาย รวมถึง Hugging Face, Meta, Microsoft, Mistral และ Nvidia เรียกร้องให้ผู้กำหนดนโยบายไม่กำหนด “ข้อจำกัดก่อนเวลาอันควร” อย่างกว้างขวางต่อโมเดล AI โอเพนเวท แม้ว่าจดหมายนั้นจะไม่ได้กล่าวถึงจีนโดยเฉพาะ แต่การถกเถียงในอุตสาหกรรมได้มุ่งเน้นไปที่ข้อกล่าวหาที่ว่าห้องปฏิบัติการ AI ของจีนกำลังเติบโตในด้านความสามารถ โดยมักจะขโมยทรัพย์สินทางปัญญาจากคู่แข่งในสหรัฐฯ วิธีการหนึ่งคือการกลั่น (distillation) ซึ่ง AI จะโจมตีโมเดลอื่นด้วยพรอมต์ (prompts) เพื่อเรียนรู้วิธีการทำงาน Amodei กล่าวในบล็อกโพสต์ที่เผยแพร่เมื่อวันจันทร์ว่า เขามองว่าโมเดลโอเพนเวทอยู่ในหมวดหมู่ที่แตกต่างจากภัยคุกคามที่จีนก่อขึ้น “โมเดลโอเพนเวทที่ไม่มีความสามารถอันตรายเป็นสาธารณประโยชน์: พวกมันไม่เสียค่าใช้จ่ายใดๆ นอกเหนือจากการคำนวณที่จำเป็นในการรัน และให้คุณค่าแก่ธุรกิจ นักพัฒนา และนักวิจัย” Amodei กล่าวในโพสต์ของเขาว่า เขามีความกังวลเกี่ยวกับ AI มาอย่างยาวนาน แต่ธุรกิจที่ใช้โมเดลโอเพนเวท แม้แต่จากจีน ก็ไม่ใช่หนึ่งในนั้น ความกลัวของเขาคือ “รัฐบาลเผด็จการ” จะสร้างโมเดลที่ทรงพลังกว่าในสหรัฐฯ เพื่อบรรลุ “ความเหนือกว่าทางทหารอย่างถาวร” และ/หรือใช้ AI เพื่อกดขี่ประชาชนของตนเอง เขากล่าวว่าพรรคคอมมิวนิสต์จีน (CCP) ไม่ใช่รัฐบาลเผด็จการเดียวที่เขากังวล แต่เป็น “รัฐบาลที่มีความสามารถมากที่สุด” Amodei ยังกล่าวอีกว่า เขากลัวว่า AI จะทำให้เกิด “การโจมตีทางชีวภาพ” ไม่ใช่แค่การโจมตีทางไซเบอร์เท่านั้น และในมุมมองของเขา โมเดลโอเพนเวทเป็นอันตรายมากกว่าในสถานการณ์เหล่านั้น เนื่องจากยากที่จะใช้การ์ดป้องกัน (guardrails) กับพวกมันหรือตรวจสอบการใช้งานของพวกมัน เขายังตั้งข้อสังเกต โดยอ้างอิงรายงานจาก U.K. AI Security Institute ว่าเมื่อโอเพนเวทถูกปล่อยออกมาแล้ว จะไม่สามารถถอนกลับได้ ซึ่งขัดแย้งกับสิ่งที่ผู้สนับสนุนโอเพนซอร์ส (open source) โต้แย้ง: การเข้าถึงโมเดลโอเพนที่ทรงพลังซึ่งไม่ได้ถูกควบคุมโดยหน่วยงานเดียวช่วยให้ผู้ป้องกันสามารถป้องกันตนเองได้ Amodei ระบุการกระทำที่เขาเชื่อว่าจะขัดขวางจีน รวมถึงการจำกัดการเข้าถึงชิปที่ทรงพลัง (ซึ่งเป็นนโยบายที่สหรัฐฯ ดำเนินมาอย่างยาวนาน) และเรียกร้องให้มีการปราบปรามการกลั่นอย่างเป็นทางการ สหรัฐฯ ได้ขู่คว่ำบาตรจีนหากพบว่ามีการขโมยทรัพย์สินทางปัญญาที่เกี่ยวข้องกับโมเดลของสหรัฐฯ ที่น่าสนใจคือ Amodei ยังกล่าวอีกว่าเขาสนับสนุนความพยายามที่เพิ่มขึ้น ซึ่งบางส่วนนำโดยสหรัฐฯ ในการ

แหล่งที่มา: techcrunch

คำศัพท์เทคนิคที่น่าสนใจ

• ซีอีโอ (CEO) – Chief Executive Officer หรือผู้บริหารสูงสุดของบริษัท
• โมเดลโอเพนเวท (open-weight models) – โมเดล AI ที่เปิดเผยน้ำหนักหรือค่าพารามิเตอร์ให้สาธารณชนเข้าถึงและปรับแต่งได้
• ทรัพย์สินทางปัญญา (Intellectual Property) – สิ่งที่สร้างขึ้นจากความคิดสร้างสรรค์ เช่น ซอฟต์แวร์ สิทธิบัตร หรือลิขสิทธิ์
• การกลั่น (distillation) – เทคนิคที่ใช้โมเดล AI ขนาดใหญ่สอนโมเดลขนาดเล็กให้ทำงานคล้ายกัน โดยอาจละเมิดลิขสิทธิ์
• พรอมต์ (prompts) – คำสั่งหรือคำถามที่ป้อนให้ AI เพื่อให้สร้างผลลัพธ์
• การโจมตีทางชีวภาพ (biological attacks) – การใช้อาวุธชีวภาพ เช่น เชื้อโรค หรือสารพิษ เพื่อทำร้ายมนุษย์
• การโจมตีทางไซเบอร์ (cyber attacks) – การโจมตีระบบคอมพิวเตอร์หรือเครือข่ายเพื่อขโมยข้อมูลหรือก่อกวน
• การ์ดป้องกัน (guardrails) – มาตรการหรือกฎที่ใช้ควบคุมพฤติกรรมของ AI เพื่อป้องกันการใช้งานในทางที่ผิด
• โอเพนซอร์ส (open source) – ซอฟต์แวร์ที่เปิดเผยโค้ดให้สาธารณชนเข้าถึง แก้ไข และแจกจ่ายได้