Tag vLLM

จดๆจาก Ray Summit 2026 Recap

สำหรับ Blog นี้ขอบคุณทาง vLLM Bangkok ที่แจกบัตรเข้าร่วมงานครับ เลยได้มาจด และเขียน blog recap ไว้ครับ เพราะส่วนตัวมี ลอง vLLM ยัง Windows + Docker นะ ยังตกลงกับน้องไม่ได้เรื่องเกมครับ 555 เลยไม่ได้ลงแบบ Bare สถานที่จัดงานตึก MS Siam Tower ชั้น 31 เป็น บ SVOA สมัยเด็กเคยซื้อ PC มาเล่นอยู่ ตอนนี้ไปเน้นสายองค์กร กับ Dealer และ ไกลนิดนึง…

จดๆจาก vLLM by mood @OpenCraft

Recap จาก Live vLLM by mood @OpenCraft พูดถึงเหตุผลที่องค์กรควรทำ Local LLM (Security, Privacy, Full Control) รวมถึง Secret Sauce ของ vLLM อย่าง PagedAttention, Fusion Passes, Speculative Decoding, Quantization และแนวทางเลือก Model/Hardware ให้เหมาะสม ปิดท้ายด้วย Q&A เรื่อง Fine-tuning vs RAG และการประเมินคุณภาพ Local LLM ภาษาไทย