กฎหมายมาตราส่วน: พารามิเตอร์ ข้อมูล และการคำนวณ

เหตุใด GPT-4 จึงรู้มากกว่า GPT-2 เหตุใด Llama 3 8B จึงมีประสิทธิภาพเหนือกว่ารุ่นที่มีพารามิเตอร์มากกว่า 10 เท่าจากเมื่อสองปีที่แล้ว คำตอบอยู่ใน กฎการปรับขนาด — สูตรเชิงประจักษ์ที่คาดการณ์ว่าคุณภาพของแบบจำลองจะขึ้นอยู่กับตัวเลข 3 ตัว ได้แก่ จำนวนพารามิเตอร์ที่แบบจำลองมี จำนวนข้อมูลที่ฝึกฝน และจำนวนการประมวลผลที่ถูกใช้ไป

Full content is available with a subscription.
Get full access to all courses on the platform for one year with a single payment.
Unlike other platforms that charge per course, here you get everything for one price, and after one year of use there will be no automatic charge for the following year.