สรุป Microsoft Ignite After Party Thailand 2024

Blog นี้มาจดเล็กน้อยๆจากงาน Microsoft Ignite After Party ของในไทยครับ สำหรับงานในปีนี้จะที่ 9Expert Training ครับ

Simplify Operations with Azure Arc and Microsoft Security Ecosystem

Speaker: Wisit Thongphoo (ITGeist)

-Azure Arc

Azure Arc = Tools ช่วยจัดการ Adaptive Cloud พวก Multi Cloud + On Premise + Edge + IOT ทั้งในแง่ของ Operation + Govern และในส่วน Security ได้

• พวก Edge ง่ายๆ งานประมาณผลทั่วไปในองค์กร ใกล้ตัวอาจจะเครื่อง POS
• มอง Service ของค่ายอื่นๆมาในรูป Resource แบบ Azure เอา Policy ครอบทำ RBAC
• Azure Arc
  - Enable Infra เอา Infra Server มาให้ Arc ดู
  - Enable Service เอา Service ของ Azure มา Deploy ที่ไหนก็ได้

• Azure Local (เดิม Azure Stack HCI) เอามาเชื่อมได้

-Azure Arc | Enabled Servers

• เอา VM / Server เข้าไปใน Azure แล้วจัดการเหมือนได้ยินว่าฟรีนะ โดยจะช่วยด้วย Governance (RBAC / Policy) / Security (Monitor / Threat Protection etc.)
• ต้องลง Azure Connected Machine agent แล้วใน Azure จะแสดงเป็น Service ICON สีม่วงๆนะ
• เหมือนได้ยินคนถาม Proxmox ลอง Search ดูมีคนทำด้วย Upgrade Time! - New Home Lab - samcogan.com

-Azure Arc | Security Operation

พวก Security มีหลายมุมให้ศึกษานะ ตามวงแหวนนี้เลย โดยมี Azure เค้าจัดประมาณนี้

• Identity & Management พวก
  - Microsoft Entra xxx จัดการ Identity เช่น Entra Id (Azure AD เดิม)
  - Microsoft Intune - จัดการ Device พวก Microsoft Configuration Manager (SCCM เดิม)
• Cloud Security
  - Microsoft Sentinel ทำ SIEM SOAR
  - Microsoft Defender มีหลายตัวนะ อย่างตัว Antivirus > MS Defender AV / MS Defender XDR / แต่ละ Workload ของ Azure มี MS Defender for xxx
• Data Security & Privacy & Compliance
  - Microsoft Pureview ทำ DLP / Information Protection
  - Microsoft Viva - Data Privacy PDPA

ใน Azure Arc | Security ที่ใช้ได้ เช่น

• Azure Update Manager เอามาแทน WSUS ซึ่งจะมี Windows Server 2025 เป็นตัวสุดท้ายแล้ว
• Microsoft Defender / Microsoft Sentinel

Exposure Management: Security Initiatives - Sexy Reports for Your Sexy Boss

Speaker: Saran Hansakul (Sarah)

IT เป็น Business Enable ให้เกิดรายได้ กำไร หรือ คุม Cost หรือแม้แต่การคุมความเสี่ยง ความเสียหาย แล้วที่นี้ โดยที่พวกเราเป็นกลไกเล็กที่ช่วน Drive ในส่วนนี้

ถ้ามามองในมุมของ Security สำคัญเหมือนกันนะ มาดูว่า

• ถ้าเราไม่รู้ ต้องมี Report บอกไปว่า เราโดนอะไรไปแล้ว หรือ เราเสี่ยงอะไร หรือ เราต้องตามกฏ อะไร เช่น พวก PDPA
• ถ้ารู้แล้ว ต้องควรทำอะไรบ้าง มาทำ Risk > จัดลำดับ ความสำคัญ > จุดได้ที่ยอมรับได้ Acceptance และจุดไหนเราต้องเตรียมกันอะไรบ้างอย่าง เพื่อไม่ให้มันหลุดไป และทำไปแล้วคุ้มค่าไหม ทำ ROI เช่น
  - PDPA ถ้าหลุดไปทางกฏหมาย เราจะเสียเงินเท่าไหร่ มูลค่า Brand / ค่าปรับ และอื่นๆ
  - Ransomware ถ้าไม่ซื้อ Antivirus แล้วปรากฏว่า โดนจริงๆ เรายอมรับได้ไหม ที่หลุด SLA กับลูกค้า / มูลค่า Brand / การทำ Infra ใหม่ บราๆ

NIST V2 มีส่วน Governance นะ

MS Defender XDR (365 Defender เดิม) เป็น Solution เสริม MS Defender EDR / MS Defender Antivirus ให้ภาพรวม ทำให้เห็นข้อมูลที่เชื่อมโยงกับเห็น Lateral Movement จากเมล์ เข้าไป VPN พยายามยิง AD เป็นต้น ถ้ามี EDR หรือ AV อย่างเดียว มันจะเตือนที่จุดนั้นๆ

- จาก XPSM - Security Exposure Management

• Security Exposure Management เป็นตัวใหม่ที่เปิดในงาน Ignite ทำให้เห็นภาพรวมจาก Data Source ของ MS Familiy MDE / MDF / MDCA บราๆ

Dashboard / Report สำหรับ Sexy Boss รวมที่เดียวทั้ง SAAS / Azure

• ในนี้คุณซาร่า จะมานำเสนอตัว Initiative ให้เราตั้ง Baseline ตามมาตรฐานต่างๆ (CUS / Azure Zero Trust) และมาดู State ณ เวลานั้นๆ ว่าเราตรงตามไหม

• Exposure Management Dashboard ที่ฟังมาฟังมาเหมือนฟรีนะ เข้าใจว่าต้องไป Service ต่างๆที่เป็น Data Source แทน
  - ถ้าตกลงมา สามารถดูได้ว่ามี Resource อะไรที่หลุดไปนะ และ remediation ยังไง

• จากข้อมูลตรงนี้ เราสามารถเอา metric มา Apply และ Take Action ในองค์กรได้นะ หรือเอามาตอบในส่วนของ Risk แล้วมาดูว่าอะไรที่เกิน Acceptance แล้วก็มาหา Solution มาเพิ่ม

Resource: What is Microsoft Security Exposure Management? - Microsoft Security Exposure Management | Microsoft Learn

AI Customization: Optimize Phi and SLMs Performance

Speaker: Charunthon Limseelo (Boat)

Recap เกี่ยวกับ Small Language Model (SLM) จากงาน National Coding Day 2024 สำหรับรายละเอียดเต็มๆได้จาก Blog สรุปครับ NCD24: Open-source Small AI Models for a Greener Future

สำหรับวันที่ 12-Dec-2024 หลายคนอาจจะเจอปัญหา เพราะเราใช้ LLM อย่าง ChatGPT จนคุ้นเคยแล้ว มันล่มไปไม่ถูกหันเลย ถ้าเราไม่อยากเจอปัญหานั้น ตัว SLM จะเป็นอีกทางเลือกมาช่วย Offline Models / Data Privacy / Limit Resources

Phi-3.x models เป็น SLM อีกตัวที่ MS ได้พัฒนาขึ้นมา โดยน้องโบ๊ทได้ลองสรุป use-case ที่ใช้งานตามนี้เลย

นอกจากนี้มีอีกหลายตัว เช่น Phi-4 เน้น Math / LLaVA Model / Typhoon2 Model ของ SCBX เป็นต้น

ก่อนเอามา AI มาใช้ ต้องมาเพิ่ม Quality กันก่อน โดยมีวิธีการเด่นๆ

1. Prompt Engineering
2. Fine Tune
3. RAG

โดยจุดแข็งแต่ละแบบน้องโบ๊ท สรุปมาตามรูป

ส่วนการใช้ AI Service ต้องมาเลือกตามความสามารถในการดู ตั้ง SLM เอง หรือ ใช้ Manage Service อย่าง Azure AI Foundry มาช่วย มีเลือก Model > ปรับ Result (Prompt / Fine Tune / RAG) > เอา End Point ไปใช้ต่อใน App

Dell and Microsoft AI Solutions from Device to Datacenter and Cloud

Speaker: Nopparat Tangseang

Dell เป็น Partners ของ Microsoft พอยุคนี้ขยับจาก Big Data Cloud ทาง Dell มี Product ที่รองรับในส่วน On-Premise / Edge ดังนี้

• สาย Data Dell ก็มี Data fabrics มองข้อมูลเป็นผืนเดียวกันตามตัว APEX Block/File Storage มันจะช่วยจัดการ Data ควรอยู่จุดไหน ตาม policy อะไร จะได้ช่วยลด Data Movement ตรงนี้ Cost เยอะ
• APEX Protection Services
• APEX Cloud Platform
  - ส่วน MC Node มาจัดการส่วน Local จะเปิด Hyper-V / ทำ HCI / ดู HW / Update Firmware และเชื่อมกับ Azure ARC ได้ด้วย
  - APEX Cloud Platform ตัวมันเองมองเป็น Azure Local (Verify HW น่าจะนับได้นะ) ได้ด้วยนะโดยมี Service ที่ใช้ได้ทั้ง Infra / AI ตามรูป //เบื่องหลังมันทำงานหมด AKS
  - Live Optics/Power Sizer
  >> เอามาบอกตอนนี้ใช้ไปเท่าไร่ Health Check DC ประจำปี
  >> นอกจากนี้ อารมณ์แบบ Azure Migrate บอกว่าตอนนี้ใช้เท่าไหร่ และย้ายไปยัง Resource
  - AIOps Dashboard เอา AI มาช่วยทำ Observability / Chatbot Support เป็นต้น

HW ที่ใช้กับ Azure Local มันมี GPU มันมีแยกนะ GPU (Train) / GPU(Inferencing ใช้ Model + แบ่งให้ Resource เช่น VM ใช้งาน เค้าเรียกว่า GPU Partitioning)

Windows Server 2025 ออกมาแล้ว เน้น Zero Trust / Edge Process with Cloud / Operational

มี HW เยอะดี มีทางเลือกด้วย ตามการ Workload ที่คาดว่าจะใช้

Design and Build Resilient Workloads on Azure

Speaker: FukiAT Julnual / Wannuwat Pornnuam

ระบบ IT มัน Fact จากทาง MS ว่า มันล่มได้ แต่จากที่ล่มๆกันมาเนี่ย 74% เราสามารถป้องกันได้ ตามแนวทาง Well Architecture Framework ที่ช่วยให้ระบบมัน Resilient

Recap Cloud Adaption Framework - เป็นคำแนะนำที่ช่วยให้เราเอา Resource ขึ้น Azure ได้ แบบไม่สะดุด พวกการเตรียมคน ยันส่วน Technical โดยมี Recap Step คร่าวๆ ดังนี้

• Define Strategy บอกก่อนว่าขึ้น Cloud แบบไหน แล้วตรงตาม Business Strategy ยังไง
• Plan วางแผนคน / Tech
• Ready เตรียมพื้นที่เอาขอมาขึ้น ตรงนี้จะเรียกว่า Landing Zone โดยลองเอาตัวที่ไม่ซับซ้อนขึ้นมาก่อน
• Adopt เอาข้ึนไปแล้ว จะปรับยังไง Migrate ยกไปปรับนิดหน่อย / Innovate ทำใหม่เลย
• Secure เน้นห้ปลอดภัย ตามมาตรฐาน หรือ รูปแบบ Workload ยังไง
• Manage ตามพวก SLA
• Govern จัดการให้มีวคามพร้อมใช้

การทำให้ระบบ Resilient มีแนวทางตามนี้ - Start Resilient > Get Resilient > Stay

Start Resilient

• Azure Landing Zone วางโครงสร้างพื้นฐาน เหมือนพวกการสร้างบ้าน นำไฟ ช่อง MA พวกแบ่ง Subscription ยังไง แยกพื้นที่ตาม Workload แบบไหน เช่น Prod / Sandbox
• Application Landing Zone มองลองไป App วางใน Zone ไหน และใช้ SKU อะไร มี Profile แบบไหน
• Azure Verified Module - ทำ Infra as a Code อย่างพวก ARM / Bi-Cep / Terraform ทำให้ทุกอย่างอยู่ใน Code และทำซ้ำได้ง่าย และตรงตาม Well Architecture Framework อย่าง เช่น เราไปกำหนด SLA 99.99 ต้องไปหา Region DC ที่เข้าข่าย หรือ งาน AI ใช่ HW ตรงตามกำหนดได้ เช่น
  - ตรวจ VM ว่าที่ Deploy ได้ SLA ไหม
  - พอมันเป็น Code เราสามารถเขียน Unit Test ได้ด้วยนะ

Get Resilient ถ้ามีของเก่า หรือใช้มานานแล้ว

• Azure Proactive Resiliency Library (APRL) - เป็น Check List แนวทางที่ดี อารมณ์เหมือน Policy ว่าทุกอย่างมันตรงตามกฏที่ตั้งไว้ไหม แล้วถ้ามันไม่ต้องมีทางแก้ไขยังไง มีวิธีการบอก หรือ Generate Script มา Remediation และสามารถทำ Dashboard / Report สรุป / Excel เป็นต้น
• Azure Monitor Baseline Alerts (AMBA) - เอาข้อมูล Observability พวก Metric ต่างๆ มาตรวจ และให้คำแนะนำ

Tools ที่บอก Azure Advisor มันบอกจะ Resource ที่ตั้งไปแล้ว มันอยู่ที่ไหน แล้วมี Recommend อะไร

Stay Resilient

• Azure Zone Resiliency Policy - เป็นตัว Infra as A Code ดูว่าทำตาม policy ไหม เหมือนเป็น Gate มาตรวจ ถ้ามัน OK เราสามารถ Deploy ได้เลย รวมถึงเคสหลังจากนี้ด้วย ถ้ามีการ Deploy Resource ใหม่ ถ้าไม่ตามกฏมันจะ Deny ไว้

ถ้าจะเริ่มต้นมีตัว https://aka.ms/AzureEssentials

Reference Architecture

1. Landing Zone (Cloud + On Premise)

นอกจาก Cloud เรา ต้องวางแผนให้ล้อกับ On-Premise เดิมต้อง ต้องมาวางแผนภาพรวม การเชือมต่อ Requirement ต่างๆ เช่น Capacity / Security หรือ การวางแผน Subscription มีแนะนำให้แยก Landing Zone ของตัว Connectivity Hub ด้วย

2 AI Chat App

ภาพแรก POC ลองระบบ ใน Sandbox ให้เห็นภาพรวม ว่าต้องใช้อะไร

แล้ว ถ้าอยากใช้ Production Grade แล้ว อาจจะมีทำ private endpoint เข้ามา

พอลองไปดูในส่วน Landing Zone อันนี้ Azure มีแนะนำนะ เค้าแยก App Layer / Platform Layer อ่อตอนที่อ่านสอบ AZ305 ก็งงๆ เค้ามาทำแบบนี้นี่เอง

What's New with Copilot Studio and Agents

Speaker: Boonthawee Tangsoonthornthum (Thor)

Copilot Studio (Power Virtual Agent เดิม) เป็นตัวที่ช่วยสร้าง Agents มาช่วยงานเฉพาะเจาะจงมากขึ้น เช่น ระหว่างทีม หรือ มาเสริมตัว Copilot (ของส่วนบุคคลเดิม) / Customs Channel (Web / MS Team / Facebook) หรือ เอาไปใช้ในตัว App ได้นะ

-ภาพรวม Copilot Studio กับ Azure AI Foundry (Azure AI Studio)

-Step การสร้าง App โดยใช้ Copilot Studio

- สำหรับของมาใหม่งาน Ignite 2024

• M365 Extension
• AI & Answer Quality ทำให้คำตอบฉลาดขึ้น จาก Model GPT4 / GPT4o และข้อมูลจาก Share Point มาช่วย รวมถึงการทำ Knowledge Curation แนะนำบอก Domain ที่ควรดึงจากคำถาม จากพวก Exchange / One-drive / Share Point / Calendar หรือ แม่แต่พวก 3rd อื่นที่รองรับ
• Analytic - Dashboard สรุป เช่น Error Rate ไว้ให้ปรับปรุง ข้อมูล Knowledge Source ที่มี
• Security & Governance การจัดการ App / Network Isolation
• Agentic นอกจาก Chat แล้ว เราทำ Automate workflow ไว้ support ได้ด้วย ตาม trigger ที่กำหนด
• Azure AI Integration - ใช้ Service อื่นๆของ Azure ได้ หรือ ทำ Model มาใช้เอง
• Copilot SDK - มี SDK ให้ไปเขียน Code ที่ทำขึ้นมาเอง
• Generative IVRs - จาก Chat เอาไปเชือมโทรศัพท์ ทำเป็น Voice Agent

Resource: aka.ms/CopilotStudioAtIgnite

Reinvent Employee Helpdesk Experiences with Generative AI

Speaker: Kumton Suttiraksiri (Bird)

สำหรับอันนี้มาแสดง use-case ที่ต่อจาก Session ที่แล้วครับ Generative AI สำหรับ Help Desk มี 3 แบบ

• Self Service
• Assisted Service - มาจาก Self Service > คนมาจัดการ Case ต่อ
• Automation เป็นขั้นสูงแล้วนะ เป็นระบบอัตโนมัติ แต่ความยากแต่ละเจ้ามี Ticket / DB / Agent ของตัวเอง

Fragmented Help Desk เรื่องเดียวกัน แต่การสื่อสารหลายทาง หรือ เปลี่ยนคนย้ายกะ / ลาออกไป

พอเกิดแบบนี้ ทำให้ Context ตกหล่นไป โดยในงานนี้มี Tools มาช่วย Dynamic 365 Contact Center รวมแหล่งข้อมูลจาก Source ต่างๆ มาเป็นแหล่งเดียว ให้มันไม่หลุด Context และเอา Generative AI มาช่วยให้สรุป ให้ตำแนะนำลื่นไหล กระชับ แต่ต้อง

• บอก Knowledge Source ให้ถูกต้องก่อน
• กำหนด Topic ให้มันรู้ ควรเอาจากไหน มองเหมือนสารบัญ และตรง Topic รองรับเรืองภาษาได้ด้วย ถ้า บ Global จะได้ให้การตอบมันตรงใจ user ด้วย
• เคส Unknown Intent เอา Generative AI มาช่วยสรุป หรือ ประกบแนะนำ หรือ ทำ System Prompt บอกให้สั่นๆ แบบไม่เกิด 50 คำ หรือ ให้มันพยายามแก้ปัญหาก่อน มันเป็น Helpdesk ก่อนจะส่งต่อให้คนมาดู
• กำหนด Trigger word เช่น user อาจจะอยู่ไป Onsite ข้างนอก ส่งต่อให้คนน่าจะดีกว่า
• สุดท้าย ถ้าเปลี่ยนคนจะมี Summary บอก ให้คนถัดไป รู้ปัญหาและต่อได้
• ถ้าแก้ได้มาสรุปว่า Knowledge ตัวมัน Work ไหม

นอกจากนี้ Speaker มีแชร์ Kyndry ว่ามีแก้ปัญหาที่เจอ Common แบ่งได้ 4 กลุ่ม Ticket กลุ่ม Personalize แก้ปัญหาส่วนทั่วไป / Proactive - พวก Update Patch / Recommendation / Accurate ถามตอบปัญหา และขอทดแทน รวมถึง Action Automate task แบบติดตั้งเลย รูปแบบของ Bot

1. IT Virtual Assistant - ไปอ่านจาก KM/ FAQ
2. Enterpise Assistant - LLM Generative Answer
3. Executive Enterpise Assistant - แบบ 2 + Automation เช่น การลง Patch หรือ Clear MS Team

ลองดู Demo Chat ถาม แล้วมันค่อยบีบ Scope และ Action ต่อไป รวมถึงตอบเรื่องทั่วไปได้นะ แบบถามสภาพอากาศ เขื่อมระบบ Power App / Ticket มันต่อได้ขนาดนี้เลย + Use Case อื่นๆ

Resource

The New Plan Designer in Power Apps

Speaker: Sathid Chinangkoonpiwat (Toey)

ตอนนี้ตัว Low Code ของ Power Apps เติบโตขึ้น เยอะมาก คนทั่วไปก็ทำได้นะ เพื่อช่วย Task งานทั่วไปที่ทำซ้ำให้เป็น App

- จากงาน MS Ignite ตัว Power App (Required Power App Premium License)

• New Plan Designer
  - Generate App จาก Prompt เลย รองรับภาษาอังกฤษนะตอนนี้
  - แล้วมี Integrated with Power Automate แต่ตอนนี้ยังไม่สมบรูณ์นะ
  - ถ้ามีต้องใช้ Data มันจะไปสร้าง Data Diagram (ER-Diagram) ได้เลย แต่ตอนนี้มันจะ Generate ใหม่เสมอ ยังเชื่อมกับ Dataverse ที่มีอยู่แล้วไม่ได้ AI อาจจะไม่เหมือนกันทุกรอบ แต่คล้ายๆกัน
• Data Entry Agent ลากไฟล์เข้าไป / Copy Paste แล้วมัน Fill ใน Field ที่ AI คิดว่าใช้ ทำได้เฉพาะใน Modern Driven App พอมาฟังอันนี้ PowerApp ทำได้แล้ว ถ้า High Code ก็มีนะ เช่น DevExpress Smart Component ลองเล่นอยู่เหมือนกัน

- การนำไปใช้

• เอาไปสร้าง App จริง หรือ เอา Requirement จาก User ให้มัน Generate Design / Data แล้วไปคุยกับ user ได้ วึ่งมันจะลดเวลาได้ระดับนึง

Resource: Intelligent apps: Now created with a plan, optimized with agents, and scaled on a fully managed platform - Microsoft Power Platform Blog

Power BI in Microsoft Fabric: Unveiling the Latest Innovations

Speaker: Chalaivate Pipatpannawong (อ.เวท)

- Feature Power BI เด่นๆ

• report authoring
  - เขียน prompt มาสร้าง report หรือ เอามาช่วยหา Insight ออกมา
  - narrative สรุปข้อมูล จาก report dashboard

• Semantic model model ของเรามี metadata เพิ่ม พอมีข้อมูลพวกนี้ AI ทำงานได้ดีขึ้นด้วย
• TMDL View - มอง PowerBI เราเป็น Code ทีนี้ก็ลากวาง Copy Paste ได้ ถ้ามี Pattern รวมถึงการ Prompt เรา Comment บอก แล้ว AI ช่วย Gen ให้นะ

- Fabric AI Capacities

• ตอนนี้ PowerBI เอา ดึงข้อมูลจากพวก Office + Fabric มาแสดงผล วิเคราะห์ได้เลยนะ
• Open Data Format ทำงานด้านใน แต่ใน One Lake เก็บในรูปแบบ Delta-Parquet
• ใช้ Copilot มาช่วย Generate Power Query / DAG ได้

สำหรับ Feature อื่นๆ จากงาน Ignite 2024 ตามรูปเลย

Review AI Insights with SQL Database in Microsoft Fabric

Speaker: Phakkhaphong Krittawat (อ.เอก

จากภาพเห็นว่าตอนนี้ SQL Server มีหมดแล้ว ทั้งในมุม High Code และ Low Code เลย ตอนนี้ SQL Server Integrate เข้าไปใน Fabric Family แล้วนะ แล้วถ้าได้ความสามารถของ SQL Server 2025 เช่น Vector สำหรับเก็บข้อมูลในส่วนงาน AI ครบเครื่อง

- SQL Server in Fabric มี 2 แบบนะ

• แบบใหม่ สร้าง SQL Server ในนั้น ใน Fabric
• หรือ Mirror SQL Server จาก DB ของเราเข้าตัว Fabric

- สร้าง SQL Server ในนั้น มาใหม่ ใน Fabric

Simple

• สร้างง่าย และมี Copilot ช่วย Generate T-SQL จาก Prompt
• ตัว DB จะเป็นแบบ Partially Contained Databases (Metadata รวมกับ DB เลย) การ Connect ต้องใส่ “initial catalog=YourDBName”
• รองรับ Entra Id Login เท่านั้น
• มี Endpoint 2 แบบ SQL / SQL Analytic (Column Base) เหมือนแอบ Sync จาก SQL Server มาไม่ต้องทำ ETL มัน Replication ไป One Lake

• ทำ Semantic Model ให้เลย เอาไปใช้ใน Power BI ต่อได้
• Control SQL Version ได้ด้วย
• SqlPackage (Data Tier) App เวลา Backup ได้ไฟล์ BACPAC ที่ผมเองเคยลองใช้มันรวมพวก user เข้าไปใน DB ด้วย เมื่อหลายปีก่อน ผมต้องเตรียม Script ประมาณนี้
• จัดการ Compute (Scale Up / Down) / Storage (Shared กับ On Lake)

Autonomous & Secure

• ถ้าสร้าง DB บน Fabric เราสามารถจัดการพวกนี้ได้จากตัว Fabric มี Encrypt ให้เลย / Data Encryptions with your own key / Audit
• เรื่อง HA / Patching มันทำให้แล้ว
• Auto Index แบบ Azure SQL

Optimized for AI

• Vector + RAG
• Model with REST API
• Integrate with Azure AI Service
• เอื้อกับนักพัฒนา LLM อย่าง Sematic Kernel / Lang Chain

Resource

Start Your AI Initiative with Azure AI Foundry

Speaker: Teerasej Jiraphatchandej (Pon)

-ทำไม AI App ถึงไม่ปัง เริ่มต้นลำบาก

เราสร้าง App AI ต้องมีอะไรบ้าง success story เอามาเป็นกำลังใจ สร้างความเชื่อมั่นให้ผู้บริหาร

Fact: Project AI หว่า 80 % fail เพราะไม่รู้ว่าจะเอา AI แต่ละ Service มาใช่กับ Idea ตัวเองยังไง

เพราะ Trend มันเปลี่ยน จากเดิมเราทำ Model เอง ให้ Model เดียว ตอนนี้มันเเป็น Multi-Model หลายหัวมาคิด / Workflow รวมถึง Update Improve

- Azure AI Foundry (Azure AI Studio เดิม) แต่รวมบริการ ให้เราเชื่อมใช้งานได้ง่าย

1) Model

• มี Catalog ให้เลือกทั้งของ Azure หรือ เจ้าอื่นๆ เช่น Open AI / Databricks / Open Source ก็ได้นะ
• หรือในงาน Ignite เปิดตัว Azure AI Inference Service เอา Model AI ของเราไป Host บริการบน Infra Azure

ถ้าเราจะทดสอบ Model แอบมาใช้ GitHub Model มาเทสก่อนได้นะ ตอนนี้มันฟรี และเอาผลมา Compare ได้นะ จะได้ดูคำตอบ ความเร็ว เป็นต้น

• จากนั้นมี Demo Azure OpenAI Service - Realtime Audio
• ตอนเรา Deploy Model ได้ Resource แยกนะไม่แชร์ ได้ ถ้าเราจะเปลี่ยน Model ก็แค่ Deploy ใหม่ เอาของเดิมออก และแก้ Endpoint ให้เรียบร้อย
• Model Customization หลายเทคนิต อย่าง Session เมื่อเช้าแนะนำ prompt / rag / fine tunes
  หรือในงาน Ignite เปิดตัว Generative Query Engine ทำ RAG ได้เลยนะ กับ Azure AI Search และอนาคตมีให้ลองฟรีบน GitHub Model

2) Agent

ตัว Azure AI Foundry แนวคิดแบบ Agents มีทีมงานมาช่วยจัดการในแต่ะเรื่องที่ถนัด แล้วตอบปัญหาที่เรากำลงสัย ตอนนี้ใน Azure AI Foundry เล่นได้ใน Assistants Playground แต่คาดว่าเดี๋ยวน่าจะเปลี่ยนชื่อ ในนี้เราสามารถให้มันเรียนรู้ได้ จาก File Search / Code Interpreter (เอามาให้ AI มันคำนวณได้) เป็นต้น

ขั้นตอน หรือ แนวทางพัฒนา AI App เป็น Guideline tranform ระบบเดิม เอามา match Agents ตาม use-case ที่เหมาะกับงานเดิมที่ทำ

Azure AI Assistants Playground ที่มี Demo ไป จากงาน Ignite จะเปลี่ยนตัว Azure AI Agent Service

3) Security

AI มันคำตอบมันไม่เหมือนเดิม 100% ทำได้แค่คล้าย การจะกันคนทำไม่ดีมีหลายแบบ เสริมจาก RBAC เดิม โดยมี Service ตามนี้

• Grounding with bing search - เอามา Filter คำตอบ ว่ามันนอกเหนือจาก Search เห็นจากที่คนทั่วไปทำได้ นอกจากนี้ยังเชื่อมจากพวก Share Point / Fabric / Azure AI Search
• นอกจากนี้ยังมี API กลางให้เชื่อมระบบอื่นๆ ผ่าน Open API / Azure Function

• Trustworthy AI - AI มันเอ๊ะเตือนการถามแปลก ตามหลัก Security / Safety / Privacy ในงานจะ Demo Content Safety
  - Risk & safety image
  - block-list คำที่ไม่ต้องการให้

สำหรับงานนี้มาเล่าเยอะมากครับ ส่วนตัวก็ไม่ได้ฟังด้วย ฟังแต่ dotnetconf overload แล้วครับ 555
และ ของแจกก็เยอะครับ และของว่างอร่อยครับ

Live

• เช้า

• บ่าย

Blog ท่านอื่นๆ

• รวมสรุปสั้นๆ กับแต่ละ Session ในงาน Microsoft Ignite After Party ของน้อง Charunthon Limseelo

Reference

• Microsoft Ignite – After Party Thailand (In-person + Online)