วันนี้เป็นงานที่แวะมาแบบปุ๊บปับ เพราะตอนแรกวางแผนว่าอยู่ดูแลแม่ แต่น้องมาขอสลับ ระหว่างกลับให้ลองหารถเมล์กลับบ้าน ลองถามเส้นทางกับ Gemini ดู มันบอกเคยดู Event นี้ไว้ ลองไปฟังดู เลยเป็นทีมาของการมางานครับ นั่งสาย 4-68 ยาวๆมาเลยเพิ่งรู้ว่ามันผ่านจุฬาด้วย
สำหรับงานวันนี้จัดที่ SCBNexTech ครับ ซึ่งจัดงานดีสำหรับ Community มา 3 ปีแล้วครับ รวม 1500 Event โดย 3 เดือนสุดท้ายจะจัดเป็น 3 Theme ได้แก่ OCT (Grow Forward) / NOV (Power Possibility) / DEC (UNLOCK YOU NEXT สำหรับงานนี้เป็นส่วนนึงเช่นกันครับ โดยผมได้จดๆมา หัวข้อตามนี้
แนะนำงาน National Coding Day 2027
Speaker Nadtanan Praphansiri (นายกสมาคมโปรแกรมเมอร์ไทย)
📙งานที่รวม Dev ตัวตึงมาแชร์ในเรื่องต่างๆ บางคนอาจจะเจอได้ในงานนี้ ทั้งในส่วนทั่งไป และ Serious Dissussion โดยมีภาพรวม และ Theme งาน ดังนี้ครับ
📙สำหรับใครที่อยากรู้เนื่อหาคร่าวๆ ลองดูจาก Blog ผมได้ มีจดเนื่อหาไว้ครับ >> National Coding Day
📙ส่วนปี 2027 มาใน Theme The Hype Fades, The Craft Remains (27-MAR-2027) Track 1: Deep Expertise / Track 2: Production Stories / Track 3: Serious Discussion
ถ้าใครสนใจสามารถจองตั๋วกันก่อนได้ที่นี้ครับ หรือ ถ้าสนใจ Sponser ไปตืดต่อได้ที่ Page สมาคมโปรแกรมเมอร์ไทย
The Developer Who Hired AI Agents: What's Next ?
Speaker Teerasej Jiraphatchandej

ทุกวันนี้ AI Agent เข้าอยู่ในชีวิตประจำวันของ Developer มาขึ้น ทั้งการ Delegate งานให้เขียน หรือ งานเดิมๆ อย่างการช่วยเขียน Code ทำให้งานที่ยาก และดูเป็นไปไม่ได้อย่างวันนี้ ถ้าเปิด promo code สำหรับ Black Friday ช่วง Week หน้าทำได้สะดวกขึ้น ซึ่งจากผลสำหรับของ GitHub Octoverse พบว่าสถติการเปิด PR โดย AI Agent เพิ่มจาก 17% (Mar 2026) > 40% (Sep 2026)
ด้วยความไวที่มากขึ้นมีปัญหาในเรื่องของความถูกต้อง ว่าตรงตาม Business Rule ไหม โดยมี Tools GitHub + MS Ignite 2026



📌 Copilot Projects - รองรับการทำงานแบบ Agent และ Code / เอกสารของเรา จะเป็น Context ให้ Agent ใช้งาน
📌 Copilot Fusion - ให้ Fusion มาเลือกว่างานนั้นควรใช้ Model อันไหนทำแทน เราเลือก Effort โดยมี Level
- Standard - งานง่าย Model ทั่วไป
- High / Max ตรงนี้มีการวางแผน หรือ Spon Agent มาช่วยจัดการ ตัวนึงเขียน อีกตัวมาทำหน้าที่วิจารณ์ (Critic) เอา Model ที่เก่งอย่าง Astra / Opus เข้ามาทำแทน
📌Microsoft IQ เครื่องมือที่มาช่วยจัดการ Context ในรูปแบบต่างๆ doc / ppt / pdf / ใน Database หรือ แม่แต่ใน Chat ของ Slack/Team เอาสรุป Recap ตาม Domain ต่างๆได้ชัดขึ่้น มีการแนะนำ และยังมี Human In Loop อยู่นะและข้อมูลถูกมีประสิทธิภาพ และถูกต้อง
📌Microsoft Foundary เปิดตัว Agent Service
งานของ Developer จากเดิมที่มาเขียน Code คราวนี้มาขยับมาลองเตรียม Context ตรวจสอบ Knowledge Business Rule มากขึ้น More Code Is Not the Goal. Better Software Is. - AI ช่วยเขียน Code ไว นอกจากความถูกต้องแล้ว ต้องเน้นให้ถูกตาม Business Rule + ไม่ละเลยเรื่อง Security
Agentic Security on AWS: From code to deploy to operate
Speaker Tanisorn Jansamret

📌งานการเขียน Code Cost มันถูกลง สิ่งที่อยากเรารู้ได้อย่างไรว่าถูกต้อง อย่างข้างใน Google เอง 75% ของ Code ถูกเขียนจาก AI แล้วนะ แต่ทว่ากว่า 55% จะเจอปัญหาด้าน Security โดย
- ถ้าช่วง 2018-2019 เวลา Release Code ออกไป กว่าจะเจอช่องโหว่ ประมาณ 63 วัน
- แต่ทว่าตอนนี้ ปี 2025 -7 วัน อ่านไม่ผิดครับ -7 วันจรืงๆ อารมณ์แบบสั่งวันนี้ แต่ Attacker เจอช่องโหว่ตั้งแต่สัปดาห์ก่อนแล้ว
📌อย่างปีนี้เจอไปหลายดอกเลย CVE
📌แม้ว่าเราจะจ้างคนด้าน Security ที่เก่งๆ มันยังไม่ขยับตามทันขนาดนั้นนะ ของ AWS จะมีทำ Frontier Agent ใส่เข้าไปในทุก SDLC โดยมีการ On Board มาระดับนึงแล้ว + เราที่มาตรวจสอบ Approve งานจริง (Prescribed) อย่าง Kiro / AWS Continumn / AWS DevOps Agent ทำงานเป็น Feedback Loop โดยมีรายละเอียด ดังนี้


- Kiro เป็น Spec Based IDE
- เรื่มจาก requirement.md > desigin.md > task.md
- ระหว่างที่เรา Dev ตัว Kiro จะตรวจเบื้องต้นแล้ว เช่น ห้าม curl ไป url แปลก ให้ Approve และทำงานใน Sandbox รวมถึงเชื่อมกับ AWS Continumn ตรวจสอบ ก่อนทำ PR ได้ด้วย
- นอกจากนี้ เราสามารถ Steering เอาข้อกำหนดขององค์กรใส่เข้าไปใน Agent รวมถึงมี Life Cycle Hook ต่างๆ ให้ตรวจสอบได้
- รองรับตาม Permission ขององค์กร และทำงานบน Sandbox - AWS Continumn - ตัวที่ใช้ AI ดังๆ อย่าง Mythos มาตรวจสอบ ว่าเจอ Issue อะไรไหม ช่วยตั้งแต่ Dev รวมถึงตรวจสอบ Deploy ก็ได้ โดยมีความสามารถเหมือนกัน
- มันช่วยหา Issue ที่มี พอมี AI มาช่วยมัน Issue เยอะ ตัวนี้มันช่วยกรอง Finding ให้เหมาะสม
- รองรับการทำ Pen Test ในตัวได้ เช่น Trigger จาก GitHub Action / GitLab / Azure DevOps และเข้าไปหาช่องโหว่ รวมถึง Impact ที่อาจจะเป็นไปได้ด้วยนะ เค้าเคลมว่า เอาช่องโหว่ใหม่ๆ AI ยังไม่รู้ มาให้ลองตรวจ 37 อันสามารถเจอ 33 ตัวและ Fixed ได้ - AWS DevOps Agent - ช่วยดูงานบน Production โดยตัว Agent ช่วย Monitor ว่ามีเหตุการณ์ผิดปกติไหม ถ้ามีจะ Alarm ขึ้นมา จากนั้นจะเอาข้อมูลในอดีต + ความรู้ที่มีมาหาสาเหตุ และเขียน Journal สรุปปัญหา จากนั้นให้ Human มาตรวจสอบ และ Approval การแก้ไข โดยที่การทำงานทุกอย่างมี Log บันทึกลงใน CloudTrail
🛡️Guardrail สำหรับเอา AI Agent ขึ้นมาใช้ใน Prod
- Least Privillledge / Short Live credential โดย Default ของ AWS Agent จะเป็น Read Only + Short Live คุมจาก IAM
- Start in Report / Learn Model ค่อยๆ Build Trust ก่อนใช้จริง
- Every Change is Pull Request + Approval
- Log Every Change ลงใน CloudTrail ซึ่งการ Design แยก Account สำหรับ Log ออกมา ถ้าป้องกันไม่ให้ Attacker / Agent ไปทำลายหลักฐานได้
- Mesaure Outcomes วัดและประเมินผล
Build your own agent harness with Microsoft Agent Framework
Speaker Surasuk Oakkharaamonphong

📌เรากำลังเข้าสู่ยุค Alway On Agents อย่าง Hermse / OpenClaw รวมถึงหลายเจ้าอย่าง Muse / GrokBot / Duet ข้ามาทำแบบ Commerial แล้วถ้าอยากสร้างเองหละ สามารถทำได้ด้วยนะ โดยเราทำหน้าที่เป็นคนคุมอานม้า Harness ซึ่งมีองค์ประกอบหลายตัว อย่าง เช่น Context Management / Agent Loop / Sub Agent / Skill / Human In The Loop เป็นต้น โดยมีรายละเอียดตามนี้
- Agent Loop: เป็นส่วนการทำงานหลักที่รับ Context/ Tools) ที่มีอยู่ จากนนั้นเป็นหน้าทีตัว LLM ที่คิดเอง หรือตัดสินเลือก Tools ให้งานสำเร็จได้
- Context Management: เวลาเราคุยนานๆ หรือ มี Tools เต็มไปหมด มันทดไว้ใน Context Window จะบวมขึ้นเรื่อยๆ ทำให้เปลือง Token และคิดนานขึ้น ตัว Harness ใช้เทคนิคอย่าง Context Compaction เพื่อสรุปที่ และทดไว้
- Skills and Tools: จะเพิ่มความสามารถให้ Agent ผ่าน
- Skills - Prompt ที่ดี ที่จะถูกเพิ่มเข้าไป + Script เล็ก
- Tools - เชื่อมต่อผ่าน Open API / MCP / Shell / Script เพื่อให้ Agent สามารถโต้ตอบกับระบบภายนอกได้ - Sub-Agents: ในระบบที่ซับซ้อน Harness ทำหน้าที่เป็นผู้ควบคุม (Orchestrator) เพื่อจัดการ Agent เฉพาะทางหลายๆ ตัวให้ทำงานร่วมกัน เช่น ตัวหนึ่งเก่งเรื่องค้นหาเว็บ อีกตัวเก่งเรื่องสรุปเอกสาร
- Computer Tools: เป็นการยก Env ให้ Agent ใช้งานจริง เช่น การอนุญาตให้เข้าถึง File System เพื่ออ่าน/เขียนไฟล์ หรือ Code Execution(เขียน Code และให้ Run เอาผลลัพธ์) เพื่อแก้ปัญหาทางคณิตศาสตร์ หรือจัดการข้อมูล
- Memory and Session Persistence: ช่วยให้ Agent "จำ" สิ่งที่เคยเรียนรู้หรือความชอบของผู้ใช้ข้ามเซสชันได้ และที่สำคัญระบบเป็น Stateless เราสามารถเอาที่ทดจำไว้ ไปยัง Env ใหม่ได้ง่าย
- Lifecycle Hooks: เป็นจุดที่ Software Dev สามารถแทรก Logic หรือ Policy ของตัวเองเข้าไปได้ในแต่ละช่วงเวลา เช่น ก่อน/หลัง Agent ทำงาน หรือ ก่อน/หลังเรียกใช้ LLM และเครื่องมือ เพื่อควบคุมความปลอดภัยหรือปรับแต่งการทำงาน
- Permissions and HITL: เนื่องจาก Agent เริ่มทำงานที่มันเข้าถึง + มีสิทธิ์เยอะ ทำให้
- มีความเสี่ยงสูงขึ้น เช่น การลบไฟล์ หรือ Run Code อันตราย
- จึงต้องมีระบบ Human in the Loop (HITL) เพื่อหยุดรอการอนุมัติจากคนก่อน
- รวมถึงการกำหนดสิทธิ์ (Permissions) ว่า Agent ตัวไหนทำอะไรได้บ้าง


ทุกๆ Harness มี Agentic Loop ตามนี้เลย โดยใน Loop นั้น ตัว LLM จะมีเกิดช่องให้เข้าไปจัดการได้ระดับนึง ถ้าใน Claude จะเรียกว่า Hook สำหรับของ Microsoft เอาจะมี Microsoft Agent Framework ที่มาช่วยเขียนเราทำ App สร้าง Agentic App โดยที่มี Harness ในตัว ซึ่งใน Demo เป็นสร้าง Agent ที่มีการ
- แสดงการใช้ sub agent จาก BackgroundAgents
- เปลี่ยนจาก Agent ทั่วไป จุดเดียวจาก AsIChatClient > AsHarnessAgent
- จัดการ Session ผ่าน FileMemoryStore
- เข้าถึงไฟล์ตาม Path FileAccessStore ใน Demo มีลองให้อ่าน csv
- AgentSkillsSource เพื่อ load skill ใช้ LocalShellExecutor ถ้าอยากรู้เรื่อง Skill ใน MAF ผมมีเขียน Blog นะ
- นอกจากนี้่เรายังสามารถสร้าง Shell สวยๆ TUI แบบ Open Claw / Hermes Agent จากส่วน BuildYourOwnClaw ซึ่งอันนี้มีเตรียม Component ConsoleReactiveFramework มาช่วยอยู่แล้ว
Code ประมาณนี้
#pragma warning disable OPENAI001, MAAI001, IDE0059, CS0219
using Azure.AI.Projects;
using Harness.Shared.Console;
using Microsoft.Agents.AI;
using Microsoft.Agents.AI.Tools.Shell;
using Microsoft.Extensions.Extensions.AI;
var endpoint = Environment.GetEnvironmentVariable("ENDPOINT") ?? "";
var apiKey = Environment.GetEnvironmentVariable("API_KEY") ?? "";
var deploymentName = "gpt-5.4-mini";
await using var shell = new LocalShellExecutor(new()
{
WorkingDirectory = "working",
Timeout = LocalShellExecutor.DefaultTimeout,
});
var agent = new AIProjectClient(
new Uri(endpoint),
new ApiKeyTokenProvider(apiKey)
).GetProjectOpenAIClient()
.GetResponsesClient()
.AsIChatClient(deploymentName)
.AsHarnessAgent(
new()
{
Name = "BondClaw",
FileMemoryStore = new FilesystemAgentFileStore("memory"),
FileAccessStore = new FilesystemAgentFileStore("working"),
AgentSkillsSource = new AgentFileSkillsSource(".agents/skills"),
ChatOptions = new()
{
Tools = [
shell.AsAIFunction(requireApproval: true)
]
},
BackgroundAgents = [webSearchAgent],
DisableWebSearch = true,
}
);
ApiKeyTokenProvider - เป็น Custom Class นะ เอาช่วยเชื่อมกับย Foundary ได้ง่าย
using System.ClientModel;
using System.ClientModel.Primitives;
using System.Collections.Generic;
using System.Threading;
using System.Threading.Tasks;
public class ApiKeyTokenProvider(string apiKey) : AuthenticationTokenProvider
{
public override GetTokenOptions? CreateTokenOptions(IReadOnlyDictionary<string, object?> options)
{
return base.CreateTokenOptions(options);
}
public override AuthenticationToken GetToken(GetTokenOptions options, CancellationToken cancellationToken)
{
return new AuthenticationToken(apiKey, "Bearer", DateTimeOffset.MaxValue);
}
public override ValueTask<AuthenticationToken> GetTokenAsync(GetTokenOptions options, CancellationToken cancellationToken)
{
return new ValueTask<AuthenticationToken>(GetToken(options, cancellationToken));
}
}
ถ้าสนใจเรื่อง Harness บน MAF เพิ่มเติมดูได้จาก https://github.com/microsoft/Agent-Framework-Samples
AI Agents in the Wild: Why Isolation Matters
Speaker Sirasit Boonklang

📌 Why Isolation Matters - App Production สร้างรายได้ให้เราอยู่ นอกจากปัญหา Cyber Security ที่เกิดขึ้นถี่แล้ว ยังมี Agent ของเราเองวางยา Production ตัวเองได้ยังไง อาจจะด้วยความซื่อเลยโดยวางยา
- Agent ไปมโน package แล้วมี Attacker ไปดักชื่อ Package ชื่อผิด (Package hallucination) แล้วหลอกให้ Agent ไปดึงมาลงมา แล้ว Execute ขึ้นมา
- Agent ทำงานไม่ได้ ลบทิ้งทำใหม่ดีกว่า สรุป Prod หายไปด้วยพวกลบ DB App อย่างเคสของ Railway / Replit
แล้วทำไมพวก Chat Bot ถึงไม่สร้างความเสียหายขนาดนี้ได้ เพราะ Chat Bot มันแค่ตอบ ไม้ได้เข้าไปยุ่ง Enviroment ต่างๆ แบบที่ AI Agent //แต่สิ่งที่ตอบเราต้องเอ๊ะนะ
📌สิ่งที่เราต้องทำ แยกพื้นที่เฉพาะของ Agent ให้ขาดจากส่วนอื่นๆ ISOLATION เข้าไปใน SDLC โดยต้องมีการติดตาม ดังนี้
- Plan - เพิ่ม Guard Rail หรือ Rule เข้าไป
- Tools - ตรวจว่า Tools เลือกได้ตรงตามสถานการณ์
- Execute - เอาอะไรมา Run ต้องคุมด้วย ถ้า README.md มันแผงคำสั่งที่หลอก Agent ได้หละ ? ถ้าเราโยนให้ Agent ทำก็หวานเจี๊ยบบ (README Posing) ตรงนี้แก้โยนแยกพื้นที่ Sandbox ให้มันทำงาน และคุมสิทธิ์
- Observe - ตรวจ Log พฤติกรรมของมัน
- Iterate - เอาผลที่ได้มาปรับ เช่น การเพิ่ม Tools เฉพาะให้ AI เรียก หรือ เพิ่ม Rule
📌นอกจากนี้ต้องมาดูเรือง Threat Model โดย OWASP มีทำไว้สองส่วนอย่าง Model LLM และ Agentic AI โดยส่วนของ Agentic มี 10 ข้อ
| Code | Name | Threat | Mitigation |
|---|---|---|---|
| ASI01 | Agent Goal Hijack | Agent ถูกยึด และถูกล่อลองคำสั่งที่ไม่ได้รับอนุญาต | กำหนด Steering Files/ Least Privillege / Command / Sandbox |
| ASI02 | Tools Misuse / Exploitation | เลือกใช้ Tool ผิดประเภท หรือใช้ Tool ภายนอกที่มีช่องโหว่ | ตรวจสอบการเลือก Tool และอนุญาตเฉพาะ Tool ที่กำหนด |
| ASI03 | Identity / Privilege Abuse | ได้รับสิทธิ์สูงเกินไป | ยึดหลัก Least Privilege / Sandbox |
| ASI04 | Agentic Supply Chain | ถูกหลอกให้ติดตั้ง Package ปลอมหรือสอดไส้ Malware (Package Hallucination) | ควบคุม Egress Network และสแกน Dependency ทุกครั้ง |
| ASI05 | Unexpected Code Execution | Run Script อันตราย (เช่น setup.sh ใน README) จน Credential หลุด | แยกใน Sandbox / Isolation |
| ASI06 | Memory / Context Poisoning | ข้อมูลอันตรายถูกฝังใน Memory และถูกนำกลับมาใช้ซ้ำ | Clear Memory/Context และใช้ Ephemeral Sandbox |
| ASI07 | Insecure Inter-Agent Comm. | การสื่อสารระหว่าง Agent ไม่ปลอดภัย เสี่ยงโดนปลอมตัวหรือ Man-in-the-Middle | Authenticate และใช้ช่องทางที่ปลอดภัยระหว่าง Sub-agents |
| ASI08 | Cascading Failures | พังเป็น Domino จากที่ AI Agent มันพยายามแก้ปัญหาจน Resource หมด | กำหนด Resource Limits และ Timeout |
| ASI09 | Human-Agent Trust Exploitation | คนเชื่อ Agent เกินไปจนปล่อยจอย | ใช้ Human-in-the-Loop อนุมัติงานสำคัญ |
| ASI10 | Rogue Agents | Agent แหกข้อบังคับ เมื่อทำงานล้มเหลว เช่น ลบ Code / DB | จำกัดการเข้าถึง DB/Backup ด้วย Sandbox และทำ Audit Log |
Sandbox ช่วย ASI01 / ASI02 / ASI03 / ASI05 นอกจากนี้เอาแนวคิดดั่งเดิมมาใช้ได้ อย่าง Least Privillege / Zero Trust / Defense in Depth โดยการทำ Sandbox เป็นวิธีการหนึ่งของ Defense in Depth / Auditability การตรวจ Log และ Human In the loop - ตรวจสอบได้ และอนุมัติตามความสำคัญ
Isolation แยก ENV ออกจากกัน Agent แต่ละตัวไม่เห็นข้อมูลกันและกัน
Sandboxing คุมขอบเขต แต่ Agent ทำงานร่วมกันได้ คุม File System, Network, Resource, Process แบบมีกะบะทราย แล้วเราให้ Agent เข้าไปทำงานร่วมกัน โดยที่เกิดเฉพาะช่วงเวลาที่จำเป็น และทำลายทิ้งไป
📌ของ Azure มี Azure Container App Sandboxes ที่ต่อยอดมาจาก Dynamic Session (งานสั่น จบไว) / Sandboxes (Long Task / Agentic Task) ซึ่งมีจุดเด่น
- สร้างได้ง่าย สะดวก สั่งจาก cli ก็ได้ มี MCP
- มี Sandboxes เพียว หรือแบบ Build-in Copilot / Claude ให้
- ทำ snapshot เตรียมไว้ใช้ต่อได้ - มี Official Image ให้เลือกหลากหลาย
- start stop ไว
- คุม Network Egress Policy
- Life Cycle Policy เช่น ถ้าไม่ใช้ปิดทิ้งได้คุม Cost

📌Demo Azure Container App Sandboxes มาตรวจ README Poisoning เยอะไปไม่อ่าน เลยโยนให้ Agent มันทำ จะมีการหลอกให้ Agent ไปขโมย Crentail เราส่งออกไป ถ้ามี Sandboxes จะป้องกันไว้ได้


Get your skills recognized with GitHub Copilot verified proficiency
Speaker Phantip Kokilanon
📌เดิมการสอบ Cert ของ Microsoft / AWS / GitHub มีทั้งแบบ Onsite / Online ซึ่งมีทั้งข้อกา และทำ Lab โดยของ Microsoft มีส่วน
- Certification วัดความสามารถตามตำแหน่งงาน เช่น DEV / BA / Infra
- Applied Skills วัดเป็น Scenario Based

📌ตอนนี้ GitHub Proficiency Level วัดจาก Signal ดูจากการใช้งาน โดยไปที่ https://learn.github.com/ > GitHub Proficiencies > Enroll รอระบบ Assign Cert หรือ คำแนะนำ
How to maintain Open Source Software in the age of AI
Speaker Kongkeit Khunpanitchote (saltyAom)

📌Speaker ซึ่งเป็น Elysia Maintainer ได้ไปงาน vuefes ที่ญี่ปุ่น เลยได้ไปคุยกับ Maintainer ของ Open Source Project ต่างๆ แล้ว AI ยุคนี้ต่างกับเมื่อก่อนยังไง
- Slop PRs - การล่า Bounty เพือหาเงิน หรือเอาเข้า Portfolio สมัครงาน ทำให้มีการใช้ AI สร้างและส่ง Pull Request (PR) คุณภาพต่ำจำนวนมาก
- การที่ AI เลือกวิธีการปัญหาแบบเฉพาะหน้า แต่ไม่แก้ Root Cause เช่น เจอปัญหา DDOS ไปคุมที่จุดนั้น แต่ไม่เข้าไปลึกว่าจริงๆ Code มันใช้ Resource สูงไป ต้องไป Optimize Algorithm แก้ RegEx
- Security Review - การที่ AI สแกนพบ CVE ได้ง่าย มันทำให้ Maintainer ต้องเสียเวลามาตรวจสอบ ว่าจริงไหม ถ้าจริงมีงานอีกต้องเขียน Report
📌วิธีการรับผิดมือปัญหา Slop PRs
- ใช้ AI คัด: ใช้เครื่องมืออย่าง CodeRabbit หรือ Background Agents (Cron ของ Claude / Codex) ช่วยสรุปภาพรวม Code ที่ถูกแก้ไข และ scan PRs เบื่องต้นก่อน เช่น ตัวอย่าง Elysia #1997 Issue มีทั้งแก้ตรง และไม่ตรงจุด
- เพิ่มคำสั่งใน AGENTS.md / CLAUDE.md ให้ AI ใส่ Tag หรือข้อความเฉพาะใน PR หากเจอ PR ที่ส่งเข้ามาลวกๆ โดยไม่ได้ลบออก จะสามารถ Close ได้ทันที
- ดูจาก Contributor
- Human มักจะเข้ามาเปิด Discussion พูดคุยสอบถามพฤติกรรมของระบบ ก่อนลงมือเขียน Code
- Bots: มักจะส่ง PRs เข้ามาทันทีโดยไม่มีการพูดคุย และไม่ตอบคำถามของ Maintainer - Codebase Heatmap เวลาที่เราบอกให้คนอื่นแก้ เราจะต้องคุ้นๆว่า มันอยู่จุดแถวไหนๆนะ เราต้องเข้าใจ Codebase ระดับนึง นอกจากนี้ เอา Idea นี้มาดูกรองอีกที ตัดการแก้ที่ไม่จำเป็น
- บังคับรูปแบบการเขียน PR - การเขียน PR ชัดเจน Problem + Root Cause + Steps to reproduce
Vibe Coding ใช้ได้ไหม - ได้ แต่เราต้องเข้าใจ สามารถสร้าง Heatmap เพื่อให้มี Context Map ในหัว ก่อนส่ง ควรเข้าใจ ว่ามันทำอะไร แล้วคิดตามว่ามันอาจจะพังในส่วนไหนเพิ่ม รวมถึง Exercise Muscle สมองตัวเองด้วย
📌ถ้าอยาก Contribute Open Source จริงเอาไปใช้ตอนทำงานได้ด้วย
- Real Problem with Small Reproduction เขียนปัญหามา และ Step ที่ชัดเจน
- บอก Why ว่าปรับ เพราะ อะไร
- Test เพื่อยืนยันว่าปัญหานั้นๆถูกแก้ไข และมีพฤติกรรมที่ไม่ถูกเปลี่ยน
📌ถ้าเอา AI มาใช้งานใน Codebase ต้องเริ่มยังไง ?
- Guideline ให้ชัดเจนก่อนว่าตรงไหน ที่ทำได้ไม่ได้่ AGENTS.md / CLAUDE.md
- Test เสมอ และมีวิธีการที่ทดสอบได้ง่านย Feedback ไว
- Learn - เรียนรู้จาก Code ที่ AI สร้างอยู่เสมอ
- Fast Experiment ลอง Algorithm Idea หลายๆแบบ และ Benchmark แนะนำ
- เก่งเรื่อง Security Fixed CVE ระดับมังกรได้ 9-10 ช่วงนี้ maintainer เจอ CVE เยอะมาก ปกติอาจจะ 1-2 อัน ล่าสุด 20-30 เรื่อง เราลองใช้งานมัน
- นอกจากนี้มีงานอื่นๆ - แก้ไขคำผิดในเอกสาร (Documentation), การอัปเดต Dependency หรือการจัดการ Boilerplate API
📌Does AI help with OSS - ทั้งสองมุม แบบที่เล่าไปข้างต้น แต่เราต้องการหาวิธีช่วยลดภาระรวมถึงที่เจอจาก AI
Serving Local Model with vLLM
Speaker Kanin Kearpimy

📌Should we go for Local Model or Close (Cloud) Model ?
ก่อนตอบตรงนี้ลองมาดู Artificial Analysis Intelligence Index v4.1 Intellienge vs Cost Per Intellienge เราอยากใช้เงินน้อย แต่ฉลาด โดยระหว่าง Open Model vs. Closed Model ไล่ๆกันแล้วโดย
- งานระดับง่าย-กลาง มีความสามารถใก้ลเคียงกับ Close Model แล้ว
- งานที่ซับซ้อน Close Model ยังชนะ แต่ Gap นี้จะแคบลงเรื่อยๆ
📌คำถามต่อมา HW แต่ไหน ถึงจะพอดี แล้วเราควร Host เองไหม หรือ ไปจ่าย VM Cloud แล้ว Host หรือ ใช้ API นี่แหละ ต้องตอบให้ได้ก่อนว่าทำอะไร
- งานสรุป ตอบคำถามในองค์กร - อันนี้ Speaker มี Demo Qwen ตัวเล็กปรับมาสำหรับภาษาไทยด้วย
- Coding Agent เป็นต้น
เพราะ การมี HW ที่ดีเราสามารถ Host Model ได้ แต่มันจ่ายเท่าไหร่หละ เพราะตัว DGX เล็กๆ 1 ตัว มันทำ Session Coding 10 คนพร้อมกันไม่ไหว ได้ 1 คน 1 เครื่อง งบบานแล้ว ?
📌กว่าจะ Run LLM ต้องมีอะไรบ้าง

- API Gateway
- Distributed Inference Server - llm-d / kserve
- Inference Engine - vLLM / SGLang/ Ollama / TensoprRT
- Storage - DB ปกติ / Vector DB
- และสุดท้าย Hardware (CUDA / ROCm / Cerabras
แล้วต้องมาคิดใช้ HW ระดับไหน H100 ในนึง 2-3 ล้าน หรือ เราใช้ GPU คุ้มค่ายัง เต็ม 100% แต่รอนาน อาจจะเกิดปัญหา Inference Engine ที่ไม่เหมาะ ในนี้ใช้ตัว vLLM
📌เลือก HW ต้องมาเข้าใจก่อนว่า LLM มันใช้ GPU ข้างในแต่แบ่ง 2 ส่วน

- VRAM
- Model Weights: น้ำหนักและขนาดของตัวโมเดล
- KV Cache: ข้อมูล Context เพื่อใช้ในการคำนวณและทาย Token ถัดไป - GPU - ทำงานแบบ SIMD (Single Instruction, Multiple Data)
📌vLLM ซึ่งเป็น Production Grade / Community Active แก้ปัญหายังไง ? มีหลายท่า แต่เสนอ 4 ตัว


- Continuous Batching (การจัด Queue Dynamic):
- ปกติคำสั่ง (Request) แต่ละอันมีความยาวไม่เท่ากัน ทำให้เกิดช่องว่าง (Idle Slots) บน GPU
- Scheduler ของ vLLM จะแทรก Request ใหม่เข้าไปใน Slot ที่ว่าง โดยไม่ต้องรอ ทำให้ใช้ GPU ได้เต็ม - PagedAttention (การจัดการ KV Cache ส่วน Query / key / value / output):
- ปัญหา การจอง memory สำหรับ KV Cache จะจองเป็น Block ใหญ่ ก้อนเดียว ทำให้เกิดการ Memory Fragmentation จองไว้ คนอื่นใช้ไม่ได้ด้่วย
- Idea - Virtual Memory Management ในระบบปฏิบัติการ (OS)
- PagedAttention - ซอยแบ่ง memory เป็น ฺBlock เล็กๆ แล้วค่อยจัดสรร ลด VRAM ที่ไม่จำเป็น และป้องกัน Out of Memory


- Prefix Caching (Prompt Caching):
- ต้องให้เราไม่ prompt ตัว model มันมี system prompt ของตัว model เอง ตรงนี้ทำ Caching ได้นะ โดยทำเป็น Hash แล้วมาช่น ลดการจอง System Prompt เวลามีคำสั่งใหม่ที่มี System Prompt เดียวกันเข้ามา ระบบสามารถดึงผลลัพธ์เดิมจาก Cache มาใช้ได้ทันที - Quantization (การลดขนาดโมเดล):
- การแปลงความละเอียดของตัวเลขในน้ำหนักโมเดล (Weight) เช่น จาก Floating Point ไปเป็น Integer (INT8 / INT4 / INT6)
- ช่วยลดขนาดโมเดลและพื้นที่การใช้ VRAM ลงอย่างมาก ทำให้สามารถรันโมเดลบน GPU ขนาดเล็กได้ โดยยอมแลกกับระดับความฉลาดที่ลดลง
เลือกงานให้เหมาะกับความฉลาด เอา model ที่เล็กลงมาจับ เช่น
Generic Chat FP4 FP8 ถามข้อมูลเล็กในองค์กร
- Generic Chat INT / FP4 / FP8 ถามข้อมูลเล็กในองค์กร
- Long Running Agents BF16
เข้าใจด้วยว่าไม่มีอะไรดีสุดต้องมา Trade Off กัน
Resource: https://www.deeplearning.ai/courses/fast-and-efficient-llm-inference-with-vllm










