การฝึกอบรม LLM ล่วงหน้า: ข้อมูล วัตถุประสงค์ และงบประมาณในการคำนวณ
เมื่อคุณพูดคุยกับ Claude หรือ GPT-4 คุณกำลังโต้ตอบกับโมเดลที่ผ่านสองระยะที่แตกต่างกัน สิ่งแรกและมีราคาแพงที่สุดก็คือ การฝึกอบรมล่วงหน้า: การเปิดเผยโมเดลต่อโทเค็นข้อความหลายล้านล้านรายการ และสอนงานง่ายๆ เพียงหนึ่งงาน ระยะที่สอง (การจัดแนว ซึ่งจะกล่าวถึงในบทเรียนถัดไป) จะเปลี่ยนความสามารถดิบนั้นให้กลายเป็นผู้ช่วยที่เป็นประโยชน์