เมื่อคุณป้อนคำถามเข้าไป โมเดลจะใช้ Prompt และรูปแบบที่เรียนรู้เพื่อทำนายข้อความถัดไปทีละส่วน ซึ่งเป็นกระบวนการพื้นฐานของโมเดลภาษา
Pierre Stock จาก Mistral อธิบายว่า เมื่อมีการเปิดน้ำหนักของโมเดลนั้น ๆ จะมีการเผยแพร่ไปทั่วอินเทอร์เน็ต เช่น บน Hugging Face และเซิร์ฟเวอร์อื่น ๆ แอปพลิเคชันบนเดสก์ท็อปอย่าง LM Studio, Ollama และ Jan ช่วยให้ผู้ใช้สามารถดาวน์โหลดและรันโมเดลเหล่านี้ได้ทันทีบน Mac หรือ PC โดยมีอินเทอร์เฟซคล้าย ChatGPT
โมเดลที่มีน้ำหนักเปิดในปัจจุบัน ได้แก่ Muse Glimmer และ Muse Spark Open ของ Meta ควบคู่ไปกับตระกูล Llama และ Nemotron ของ Nvidia
Stock ระบุว่า แม้จะสามารถสร้างการป้องกันบางส่วนขึ้นมาใหม่ได้ แต่ก็ต้องใช้ความพยายามอย่างมากในการเอาชนะการป้องกันเดิมของโมเดล
สำหรับผู้ใช้งาน หากต้องการใช้งานโมเดลขนาดใหญ่ ควรใช้คอมพิวเตอร์ที่มีหน่วยความจำมากหรือมี GPU ที่ทรงพลัง เช่น Mac ที่มี RAM 16GB หรือ 36GB แต่โมเดลขนาดเล็กอาจทำงานได้บน Mac ที่มี 8GB ก็ตาม
ที่มา: CNET