2110743 Machine Learning (2/2021)

Zoom link: https://chula.zoom.us/j/92553973325?pwd=VHVacFBwUzc2d2M4TG1LelFZY2pRZz09

Schedule:

1. 16 Jan 22 - Course Introduction, Intro to Machine Learning (VDO Playlist)

2. 23 Jan 22 - Concept Learning (Version Space, VDO Playlist, Slides from Tom Mitchell Textbook, Self Evaluation Exercise)

3. 30 Jan 22 - Review Concept Learning, Decision Tree Learning+XGBoosting (VDO Playlist, Slides from Tom Mitchell Textbook, Self Evaluation Exercise, Recorded Zoom)

4. 6 Feb 22 - Neural Network(VDO Playlist ดูถึง More Area of Perceptrons, Slides from Tom Mitchell Textbook, Self Evaluation Exercise)

5. 13 Feb 22 - Neural Network(VDO Playlist ดูจนจบ Training a Perceptron, Slides from Tom Mitchell Textbook, Self Evaluation Exercise, Recorded Zoom)

6. 20 Feb 22 - Backpropagation Neural Network (Week 6) (VDO Playlist)

7. 27 Feb 22 - Review of BNN, Midterm Discussion

8. Midterm (Exam Release 18:00 Saturday 5 Mar 22; Submission 18:00 Tuesday 8 Mar 22; Q&A Session: Sunday 10:00 ) Please download from this link: https://docs.google.com/document/d/1Ez1lYGtqwN1TwA39bc-Zxww5rOZ78kis/edit?usp=sharing&ouid=117480694475238210687&rtpof=true&sd=true

   1. Concept Learning

      1. Hypothesis Representation (Example: COVID19) ให้ระบุปัญหาพร้อมกับระบุ Representation

      2. Version Space (Candidate Elimination Algorithm, S, G)

         1. เลือกตัวอย่างเอง เช่น มี 5 ตัวอย่าง บวก ลบ 75%

         2. ให้มีตัวอย่างที่มีเงื่อนไขบางอย่าง เช่น ปรับเซต s พร้อมกัน 2 attribute เป็นต้น

   2. Decision Tree

      1. ให้กำหนดเซตตัวอย่าง หา Gain, Gain Ratio กำหนดเงื่อนไขบางอย่าง

      2. XGBoost ให้สร้างต้นไม้ Regression

   3. Neural Networks

      1. ให้ Space ที่อยากได้ ตอบโครงสร้างเน็ตเวิร์กกับค่าน้ำหนัก

      2. Train (ปรับ weight ให้ดูด้วยอย่างน้อย 5 iteration)

         1. TLN or Linear or Sigmoid

         2. BNN

   4. Q&A

      1. ข้อ 1

         1. ใช้ Representation เป็น sigmoid ก็ได้ครับ

         2. ขอเป็นข้อมูลจริงหรือเป็นข้อมูลที่สร้างขึ้นเองได้

         3. แสดงชุดข้อมูลด้วยครับ

      2. ข้อ 2 แสดงแต่ G กับ S ไม่ต้องแสดงระหว่างกลาง

      3. ข้อ 3 Decision Tree

         1. ค่า Entropy ขอเป็นค่า entropy ใน leaf node ที่เป็นไปตามเงื่อนไขที่กำหนด

      4. ข้อ 4 XGBoost

         1. ขอต้นไม้สองต้นเป็นอย่างน้อย

         2. ค่า lambda กำหนดให้เป็นค่าใดก็ได้ครับ

         3. input เป็นหนึ่งมิติเป็นอย่างน้อย

         4. กำหนดตัวอย่างได้เอง

         5. ค่า gamma ขอให้พอเหมาะ ให้สามารถแตก level ใหม่ได้บ้าง

      5. แสดงการ Train Neural Network

         1. การแสดง Expression ใน Excel ขอแสดงให้รู้ที่มา

         2. ส่วนของ python ขอให้แสดงค่าที่ได้แต่ละค่าด้วย เช่น ค่า delta ของแต่ละ w เป็นเท่าใด

      6. ข้อ 6 และ 7 ให้แสดง iteration ที่ปรับ weight อย่างน้อย 3 iteration

9. 20 Mar 22: Evaluating Hypothesis (VDO Clips, Self Evaluation Exercise)

10. 27 Mar 22: SVM (VDO Clips, Colab, Recorded Review on Apr 3)

11. 3 Apr 22: CNN (VDO Clips)

12. 10 Apr 22: LSTM (VDO Clips)

13. 17 Apr 22: Songkran Day

14. 24 Apr 22: Naive Bayes Learning (VDO Clips), Colab Link of LSTM for Text Classification (Recorded Zoom: May 1,2022)

15. Project Detail (13-15 May 2022) (จองเวลาที่นี่)

    1. กลุ่มละ 1-3 คน

    2. ใช้เทคนิคการเรียนรู้ของเครื่องที่เรียนไปแก้ปัญหาในโลกจริง (ของตนเองหรือสมาชิกในทีม)

       1. Data เป็น Data ใหม่ที่ไม่เคยมีคนทำมาก่อน หรือมีก็น้อย ๆ ไม่ควรเอา data ที่มี code สำเร็จเรียบร้อยมาทำ

       2. ใช้เทคนิคอย่างน้อย 2 เทคนิคขึ้นไปมาเปรียบเทียบกัน (แน่นอนว่าควรทำ k-fold Cross Validation)

       3. เข้าใจผลลัพธ์

          1. เข้าใจ Precision, Recall ของแต่ละคลาส

          2. เข้าใจว่าทำไม Model จึงให้ผลลัพธ์เป็นเช่นนั้น

16. Clustering (VDO Clips)

17. Reinforcement Learning (VDO Clips)

18. Recorded Zoom for Clustering and Reinforcement Learning (May 8, 2022)

19. Project Presentation

20. Issues in ML (Imbalanced Data)

21. Final Exam (Take Home 84 Hrs. 15-18 May, Exam Paper will be released at 21:30 PM, 14 May 2022) <= Download from HERE.

    1. Q&A for EXAM: 9:00-9:30, 15 May 2022

22. Q&A Session for Project and Exam: 20:30, 10 May 2022

Grading

1. Midterm (online) 30%

2. Final (online) 40%

3. Project (2-3 Students/group) 30%

Text book:

1. Tom Mitchell, "Machine Learning", McGraw Hill, 1997.