[ML] Decision Surface ของ Decision Tree และ Neural Network ต่างกันอย่างไร

ฺBlog นี้เป็นคำถามที่อยู่ดีๆก็นึกขึ้นมาได้ น่าจะเป็นตอนสมัยที่เรียน Machine Learning ตอน ป โท ก็เลยลองหาคำตอบเลยลองเขียนดูครับ ซึ่งผมของเอาภาพมาอธิบายดีกว่า โดยภาพผมเอามาจาก https://www.kdnuggets.com/2015/06/decision-boundaries-deep-learning-machine-learning-classifiers.html โดยภาพนี้

ถ้าสังเกตุดีๆ พบว่า

• Decision Tree - มี Decision Surface ที่ขนานไปกับแกนเลย มองว่าเป็น Linear ก็ได้นะ ซึ่งถ้าลงลึกไปในตัวการทำงานของ Decision Tree มันมีลักษณะไปได้ 2 ทาง True / False ตาม Feature ที่สนใจ
• Neural Network - มี Decision Surface ที่มันจะลัดเลาะไปตามแกน และพบว่ามีคำตอบบางอัน ตอบไม่เหมือน Decision Tree ด้วยนะ แสดงว่ามันมี Error ซึ่งมันเป็นไปได้นะ ถ้าลองไปใช้ข้อมูล Sample Data ในตัว Rapidminer ดูพบว่า มันใช้ Hidden Layer ไม่ครับนะ

สบายใจแล้ว ไม่รู้ว่าคำตอบจะถูกไหมหว่า งานระลึกชาติ