การเสิร์ฟ LLM: vLLM, TGI, KV-cache, การแบทช์
การฝึกอบรมจะสอนแบบจำลองในการทำนายโทเค็นถัดไป การให้บริการ คือทุกสิ่งทุกอย่างที่เกิดขึ้นเมื่อผู้ใช้เรียกใช้งานจริง เช่น การตั้งเวลาคำขอหลายพันรายการพร้อมกัน การเพิ่ม KV-cache tensors เมื่อลำดับยาวขึ้น การจัดกลุ่มรูปร่างที่เข้ากันไม่ได้โดยไม่ทำให้ GPU RAM เสียเปล่า และทำให้เทนเซอร์คอร์อิ่มตัวภายใต้ SLO เวลาในการตอบสนองจริง เฟรมเวิร์กเช่น vLLM (PagedAttention) และ Text Generation Inference (TGI) มีอยู่เนื่องจากลูป PyTorch ไร้เดียงสาไม่สามารถรองรับโหลดที่ใช้งานจริงได้