Operationalizing - Go live ติดตั้งใช้จริง แล้วที่นี้ มันจะมี Feedback Loop กลับไป อาจจะเอา Lession Learn หรือ Pain มาปรับในช่วง Building > Ideating
ในช่วงปลายปี 2024 มาจนถึงตอนนี้แนวทางทำ App ด้วย AI เปลี่ยนจาก
เดิมใช้ 1 Model
ตอนนี้ใช้หลาย Model มาช่วงงานในแต่ละ use case นั้นเอง
โดยทาง Microsoft เตรียม Infra รองรับด้วย ไม่ต้องไปหาที่ Deploy Model กันเอง มีให้เลือกแบบ Market Place ก็ คือ ตัว Azure AI Foundry และทำเองใช้เองด้วย ตัว Backend ของ MS Copilot / GitHub Model ใช้ตัวนี้เหมือนกันครับ จากภาพข้างล่างมีผลสำรวจมายืนยันแล้วว่าการทำงานจริงใช้หลาย Model ร่วมกันครับ
สำหรับ Demo น้องโบ๊ทจะเอามาลองเชื่อมกับ GitHub Model เพื่อเอามาเชื่อม Pydantic AI โดยมีขั้นตอนประมาณนี้
การเชื่อมต่อ OpenAI
การทดสอบ Prompt
ลองเชื่อม OpenAI Model ผ่าน Azure Open AI
จากนั้นเป็นการ Demo โดยเอา GitHub Model / Azure AI Foundary มาเป็น Backend Model ให้กับตัว pydantic ai โดยตัว GitHub Model เหมาะกับการลอง ส่วน Azure AI Foundary เอาไปใช้ Production เนื่องจากมี Model หลากหลาย / Finetune ได้ง่าย / Agent Ready และ รองรับการ Scale ด้วย
Develop an Multi-AI agent with Azure AI Agent Service and Semantic Kernel
Speaker Surasuk Oakkharaamonphong
Session นี้จะล้อกับงาน Season of AI ที่ใช้ตัว AutoGen คราวนี้ลองมาใช้ตัว Semantic Kernel ครับ จาก Demo Session แรกจะสร้าง Agent จากบน web คราวนี้จะเป็นแบบ Code First
อันนี้พี่ป้องกันจะใช้แนวคิด function calling (Open AI เสนอคำนี้ขึ้นมา) เตรียม API เอาไว้ แล้วให้ AI ตัดสินใจว่าสิ่งที่ Prompt เข้ามา ควรไปใช้ Function ไหนที่เราเตรียมมาให้ ในตัว Semantic Kernel คล้ายกัน function calling จะเป็นตัว Semantic Kernel Plugin ครับ เอาพวก plugin ไป register ไว้ ให้ AI ลองมาหา ส่วนตัวเคยใช้งานแล้วสะดวกดีเหมือนกัน
จากนั้นเป็น Demo ครับ ข้อควรระวัง
การใช้ function calling มีการใช้ token มากกว่าปกติ Call ทั้งในส่วนการตีความ / trigger function และการสรุปผลครับ
อีกตัวอย่างลอง Call External Service ที่นี้ Weather forecast AI มันเดาสภาพอากาศไม่ได้ ไปขอข้อมูลมาครับ แต่มีจุดที่ระวัง ผลลัพธ์ที่ได้กับมา มีค่าใช้จ่ายส่วน Token
📌Deployment
พี่ป้องกันใช้ตัว Azure App Service ซึ่งการ Set auto deployment ถ้่าเรา Link Git ไว้ + กำหนด Branch ไว้ + Dockerfile ตัว App Service มันจะ Gen Code Pipeline (GitHub Action) ขึ้นมาให้ ซึ่งสะดวกมาก
นอกจากนี้ในตัว App Service ยังมีส่วนที่ช่วยการ Monitoring (App insight) / Auto Scaling ด้วย สำหรับ Compute ส่วนอื่นๆ ทาง Azure มี Guide Line ด้วย
Performance Metrics เอา Idea เคยใช้กับ On-Premise มาใช้กับ Cloud ได้ด้วยนะ โดยตัว
📌Tools สำหรับ monitor vm มีหลายตัว
🛠️ PerfMon - เป็น Tools ที่มีมาตั้งแต่สมัย Windows เดิมๆแล้ว โดยเราสามารถดู Metric ต่างๆได้หลายตัว เช่น % Processor time ดูว่าใช้ CPU ไหม / Disk และ Memory แต่จะดูได้ Real Time
ปิดท้ายด้วย Azure Lotto ถ้าสนใจ Scan QR ลองส่งข้อมูลดู เค้าจะสุ่มแจกสิทธิสอบ Cert
Meet Copilot, Your AI Assistant for Work & Security Best Practices
Speaker Chonlatit Rujitphut
🧰 การจะเอา AI หรือ ของใหม่มาใช้ ต้องดูว่ามันลด Cost / เพิ่ม Value ไหมแต่ปัญหาตอนนี้ทุกคนรู้ว่ามันจำเป็น แต่ไม่รู้ว่ามันจะเอามาสร้าง Value ให้ Product / Business อย่างไร
🧰 การเอา AI มาใช้ตามหน่วยงานต่างๆ จะวัดผลด้วย KPI ซึ่งการนำ AI มาใช้เสริมใน 3 มุม ดังนี้
Business Process (Copilot Platform + Power Platform) ให้เราทำงานดีขึ้น Automate มาชึ้น โดยการเอา Agent มาเสริมเข้าไป ซึ่งทั้งในส่วน Pre Build Agent หรือ จะเอาจาก Market Place ก็ได้
Line Of Business (Business App / Dynamics 365)
ถ้าใครมี Copilot PC ที่มีปุ่ม Copilot อย่าลืม Switch ไปใช้ตัว Copilot Enterprise ขององต์กร Default มันจะไปตัวฟรี มันจะไม่มีการคุมเรื่องของ Data
🧰Copilot จริงมันเป็นหน้ากากของ Agent ต่างๆ นะ โดยมี Tools Low Code อย่างตัว Copilot Studio ช่วย Define Process แล้ว นอกจากมี Pre-Built Agents เข้ามาช่วยงานให้แล้ว ถ้าไม่เพียงพอมี Store ให้เลือกใช้งาน
ของ Microsoft มีตัวที่คุม Microsoft 365 Copilot มีแล้วระดับนึง และมีตัว Defender for Cloud Apps + Purview DSPM for AI และ Zero Trust Model มาช่วยในการวางแผนได้
นอกจากนี้ยังมีตัว Copilot Dashboard
Readiness - บอกว่ามีคนใช้ Copilot เท่าไหร่ แต่ถ้า AI มัน Well know อาจจะหายไป
Identity - ตอนนี้เป็นอีกมุมของและเป็นก้าวแรกของการทำ Digital Transformation ด้วยนะ
📌 Explore Active Directory Base Solution
Active Directory Domain Service (AD DS) ยุค On-Premise เลย ทีเราทำ LDAP / Group Policy
Microsoft Entra Domain Service เหมือน AD DS เดิม Upgrade บน Azure เป็น Paas
Microsoft Entra Id - Cloud Base Service
Active Directory Base Solution ต้องรู้ก่อนว่าของเดิมมีอะไร แล้วจะไป Cloud โดยใช้ Identify Landing Zone รูปแบบไหน ปกติแล้วส่วนใหญ่จะมี AD DS เดิม ซึ่งกำหนด Logical Model
พวก forest เป็นแบบไหน single / multiple
domain แบบไหน single / multiple
รูปแบบ OU
account จำนวนเท่าไหร่
ตอนนี้ตัว Active Directory Base Solution จะฝากไว้บน Azure ทั้งหมดเลยก็ได้นะ
ปกติแล้วตัว Microsoft Entra Id เป็น Cloud Base Service โดยดูส่วน 3A+A (Authentication / Authorization / Admiistration / Auditing) โดย
To provide the best experiences, we use technologies like cookies to store and/or access device information. Consenting to these technologies will allow us to process data such as browsing behavior or unique IDs on this site. Not consenting or withdrawing consent, may adversely affect certain features and functions.
Functional
Always active
The technical storage or access is strictly necessary for the legitimate purpose of enabling the use of a specific service explicitly requested by the subscriber or user, or for the sole purpose of carrying out the transmission of a communication over an electronic communications network.
Preferences
The technical storage or access is necessary for the legitimate purpose of storing preferences that are not requested by the subscriber or user.
Statistics
The technical storage or access that is used exclusively for statistical purposes.The technical storage or access that is used exclusively for anonymous statistical purposes. Without a subpoena, voluntary compliance on the part of your Internet Service Provider, or additional records from a third party, information stored or retrieved for this purpose alone cannot usually be used to identify you.
Marketing
The technical storage or access is required to create user profiles to send advertising, or to track the user on a website or across several websites for similar marketing purposes.