For today’s blog, I just want to jot down a quick note. I set up a local LLM server, managed it through LiteLLM, and exposed it to the outside world via a domain on a Cloudflare Tunnel. Then I noticed…
Recap จาก Live vLLM by mood @OpenCraft พูดถึงเหตุผลที่องค์กรควรทำ Local LLM (Security, Privacy, Full Control) รวมถึง Secret Sauce ของ vLLM อย่าง PagedAttention, Fusion Passes, Speculative Decoding, Quantization และแนวทางเลือก Model/Hardware ให้เหมาะสม ปิดท้ายด้วย Q&A เรื่อง Fine-tuning vs RAG และการประเมินคุณภาพ Local LLM ภาษาไทย
สำหรับวันนี้เป็นงาน meetup ที่ข้ามสายนิดนึง เราสาย Dev แอบมาฟังของ QA บ้าง เหมือนรอบล่าสุดน่าจะงานนี้นะ และก็วันนี้น้องมาช่วยดูแม่ เลยแวะมางานได้ครับ หัวข้อที่จดๆมาก็ประมาณนี้ครับ First job mentoring Speaker ทีมงาน QA Meetup อันนี้เป็น Section มาแนะนำสำหรับใครที่เตรียมหางาน ลองมาดู Check List ได้ตามนี้ครับ 📌Resume 📌Interview 📌Assignment ของที่ให้ทำมา เช่น เขียน Test Case / Code สุดท้าย เป็นตัวเอง จะได้ไม่เจอ Culture…
วันนี้ผมมาใน 2 บทบาท จากเป็นคนมาฟังมาจด มาวันนี้มาเป็นคนลองแชร์บางด้วย สำหรับหัวข้อมีอะไรนั้นลองตามอ่านกันได้ครับ Back to Basic: Fundamental Data Structure in C# Speaker Chatri Ngambenchawong สำหรับ Session นี้ ผมลองออกมาพูดเองครับ เป็นภาษาอังกฤษแบบงูๆปลาๆ มาเล่าว่า ส่วนนึงที่ระบบมันช้า มาจากการที่เราเลือก Data Structure ผิด Use-Case ของมันก็ได้ครับ โดยผมได้สรุปลง Blog แล้ว และ Feedback ต่างๆ เช่น ลองใช้ Benchmark.NET ผมปรับใน…
