บริษัทระบุว่าข้อจำกัดที่เข้มงวดขึ้นนี้จะถูกนำมาใช้แม้ว่าคำถามที่ถามเข้ามาจะดูเหมือนไม่มีอันตรายก็ตาม
OpenAI ระบุว่าตนมีนโยบายอยู่แล้วที่ป้องกันไม่ให้ ChatGPT ช่วยเหลือผู้ใช้ในการก่อเหตุรุนแรง หรือช่วยให้วัยรุ่นเข้าถึงอาวุธได้
เพื่อจำกัดสถานการณ์ดังกล่าวให้มากขึ้น OpenAI จะจำกัดข้อมูลเชิงปฏิบัติเกี่ยวกับอาวุธและระบบรักษาความปลอดภัยที่อาจถูกนำไปใช้ในทางที่ผิดเพื่ออำนวยความสะดวกให้เกิดความรุนแรง แม้ว่าจะไม่มีสัญญาณเจตนาใช้ความรุนแรงก็ตาม
อย่างไรก็ตาม วัยรุ่นยังคงสามารถใช้ ChatGPT เพื่อป้องกันหรือลดความรุนแรง ขอการสนับสนุน หรือติดต่อผู้ใหญ่ที่ไว้ใจได้
นอกจากนี้ OpenAI ยังเสริมขอบเขตของนโยบายสำหรับผู้ใช้ทุกคน โดยเฉพาะเมื่อมีการสอบถามเกี่ยวกับการจำลองการโจมตีครั้งใหญ่ในอดีต รวมถึงรายละเอียดอาวุธที่ใช้และวิธีการได้มา ซึ่งอาจขยายชื่อเสียงของผู้โจมตี
ข้อจำกัดเพิ่มเติมเหล่านี้เกิดขึ้นหลังจากการถูกฟ้องร้องในคดีการเสียชีวิตโดยมิชอบเมื่อปีที่แล้ว และหลังจากที่ Sam Altman ซีอีโอของบริษัทออกมาขออภัยต่อสาธารณะเรื่องการไม่แจ้งตำรวจเกี่ยวกับบันทึกการสนทนาที่น่ากังวลที่เกี่ยวข้องกับการยิงที่ Tumbler Ridge ในช่วงต้นปีนี้
ศัพท์ที่ควรรู้
- OpenAI – บริษัทผู้พัฒนา ChatGPT ที่ให้บริการ AI นี้
- ChatGPT – โมเดลภาษา AI ที่ให้บริการโดย OpenAI
- Sam Altman – ซีอีโอของ OpenAI ที่ออกมาขออภัยต่อสาธารณะ
- Tumbler Ridge shooting – เหตุการณ์ยิงที่ถูกกล่าวถึงในบันทึกการสนทนา
ที่มา: Engadget