Neural Network (2/2021)

1. Zoom Link: https://chula.zoom.us/j/91037649181?pwd=RXpiYlJSNDgvVFZsMmZLSy9sNXpqUT09

2. Discord Invitation: https://discord.gg/7qgA4YnzqQ

3. Shared Drive: https://drive.google.com/drive/folders/158hhw0J95e5eHnrhN_rgwmt9jr9_7X3Y?usp=sharing

4. Course Schedule:

   1. 10 Jan 22: Course Introduction (Brain System, Artificial Neuron)

   2. 17 Jan 22: Artificial Neuron Architecture (VDO Playlist, แบบฝึกหัดประเมินตนเอง, Recorded Zoom)

เฉลยคำถามประเมินตนเองตอน 14:20 น.

4. 3. 24 Jan 22: TLN Architecture (VDO Playlist, แบบฝึกหัดประเมินตนเอง, Recorded Zoom)

เฉลยคำถามประเมินตนเองตอน 15:00 น.

4. 4. 31 Jan, 7 Feb 22: TLN Training+Supervised Learning (VDO Playlist, แบบฝึกหัดประเมินตนเอง, Recorded Zoom)

เฉลยคำถามประเมินตนเองตอน 15:00 น. ของวันที่ 7 Feb 22

4. 5. 14 Feb 22: Review Perceptron Training

เฉลยคำถามประเมินตนเองเรื่อง Weiner Solution และ Sigmoid Training ตอน 13:15 น. ของวันที่ 14 Feb 22

• https://docs.google.com/spreadsheets/d/1czqDEzOuQUjK7vwd1RVYkxH7PQosCsvfMT2CU4rGAmg/edit?usp=sharing (Spreadsheet: Training a Sigmoid)

• https://colab.research.google.com/drive/1-PI_XQ4I1uHRv3Q2uxWanJHwSgna7aDg?usp=sharing (Colab: Coding for Weiner Solution)

• Lecture Note (PDF)

• Recorded Zoom

4. 6. 21 Feb 22: Backpropagation Neural Network (VDO Clips) (An Example of Quiz)

   7. 28 Feb 22: 13:00 Online Meeting for Midterm Exam

   8. 7 Mar 22: Midterm Break

   9. 14 Mar 22: Midterm (three hours online exam)

      1. ข้อสอบ https://drive.google.com/file/d/1CaHoaLiJnf_ckrT21Z97EXAhE1VXdYxt/view?usp=sharing

      2. ส่งก่อนเวลา 17:00 น. (ในข้อสอบเขียนว่าส่ง 16:00 น.) ส่งที่ฟอร์มนี้ https://docs.google.com/forms/d/e/1FAIpQLSfH41Au4hJfo0sWlKIKGljuxedHXZEO_TgW45oodG7kA26mGw/viewform?usp=sf_link

      3. Q&A

         1. ข้อ 1

            1. Bias เป็น 0 ได้ไหม

               1. คำตอบคือ ไม่ได้ครับ BIas นับเป็น w0 ครับ

            2. ให้เขียน weight ทุกค่า

            3. ถ้าแก้สมการมา เขียนสมการก็ได้ครับ โดยไม่ต้องมี weight

         2. ข้อ 2

            1. ให้แสดงจำนวน dichotomies ทั้งหมด "และ" dichotomies ที่แยกได้ด้วยเส้นตรง (Linearly Separable)

            2. ให้วาดรูปแสดงตัวอย่างและแสดงการแบ่งด้วย

         3. ข้อ 3

            1. ไม่ต้องวาดรูป คำนวณอย่างเดียว

         4. ข้อ 4

            1. วาดภาพเอง กำหนดจุดเอง ขีด decision surface เอง เพื่อภาพที่เราวาด ไปสร้างเป็น MLP

            2. ไม่ต้องวาดจุดก็ได้ แต่ขอให้แสดงพื้นที่สำหรับตัวอย่างบวกและลบให้ชัดเจน

            3. วาดเน็ตเวิร์กให้ด้วย แต่ละชั้นมีกี่ node และมี weight เป็นอย่างไร

         5. ข้อ 5 (ข้อ 6 อันแรก)

            1. ไฟล์หลุดไป ไม่มีข้อ 5 คือ ข้อ 6 ข้อที่ 1

            2. กำหนดแค่ 1 node เท่านั้น

            3. ไม่กำหนดว่าหาอย่างไร (spreadsheet, เขียน code) แต่ขอ 1) Output 2) Delta W 3) Weight ที่ปรับแล้ว

         6. ข้อ 6

            1. กำหนดแค่ 1 node เท่านั้น

            2. ไม่กำหนดว่าหาอย่างไร (spreadsheet, เขียน code) แต่ขอ 1) Output 2) Delta W 3) Weight ที่ปรับแล้ว

         7. ข้อ 7

            1. Copy Screenshot ของค่า P และ R มาได้

4. 10. (21 Mar 22) Support Vector Machine (VDO Clips)

       1. Watch VDO Clips

       2. Live Session Starts at 15:00, 21 Mar 22 (จะเล่าเรื่องสอบ BNN ครั้งหน้าด้วยครับ)

       3. Colab Link

   11. (28 Mar 22) BNN Quiz (Link to File) ส่งก่อน 15:30 น. ที่นี่

   12. (4 Apr 22) Review SVM+Watch Self Organizing Feature Map (VDO Clips)

   13. (11 Apr 22) Associative Memory (VDO Clips)

   14. (18 Apr 22) Review of Associative Memory and Watch Convolution Neural Network (VDO Clips)

   15. LSTM (VDO Clips)

   16. Class Review

   17. Project Presentation:

       1. งานกลุ่ม กลุ่มละ 2-3 คน

       2. ให้เลือกข้อมูล (ถ้าเป็นข้อมูลของตัวเอง ที่ต้องสกัดมาจากแหล่งอื่น จะดีมาก) ที่ตัวเองสนใจ ที่ยังไม่มีใครลองทำด้วย Neural Networks มา 1 ชุดข้อมูล (A - Scrap มาเอง หรือ เป็น CSV มาจากที่อื่น ที่แสดงถึงความใหม่ ยังไม่ค่อยหรือไม่เคยมีคนทำมาก่อน (10) ; B+ Kaggle หรือข้อมูล Well-known (8))

       3. ประยุกต์ใช้เทคนิคที่เล่าให้ฟังในชั้นเรียนเพื่อแก้ปัญหานั้น (ให้ใช้เทคนิคในชั้นเรียนก่อน จากนั้นจึงปรับปรุงด้วยเทคนิคภายนอก)​ (A - ใช้เทคนิคในชั้นเรียน (20), B+ - เทคนิคอื่น ๆ จากแหล่งเรียนรู้ข้างนอก (16))

       4. นำเสนอเป็นเวลา 10 นาที

          1. อธิบายข้อมูล

          2. อธิบายการ "เตรียม" ข้อมูล

          3. อธิบาย "โครงสร้าง" เน็ตเวิร์กที่ใช้

          4. อธิบายผลลัพธ์ในเชิงความถูกต้องที่ได้

          5. "อภิปราย" ผลลัพธ์ ผิดตรงไหน ตรงไหนดีแล้ว ได้ลองแก้ไขอะไรอย่างไร หรืออยากแก้ไขอะไรในอนาคต *** (เข้าใจและปรับปรุงได้ A (20) อธิบายไม่ได้ ไม่เข้าใจ B+ (16))

          6. จุดมุ่งหมายของการ Present คือ นำเสนอว่าตัวเอง "เข้าใจ" และ "ประยุกต์" ใช้นิวรอลเน็ตเวิร์กกับข้อมูลจริงได้ และ "แบ่งปัน" ความรู้และเทคนิคกับเพื่อน

          7. ลงชื่อและเวลาได้ที่นี่ https://docs.google.com/spreadsheets/d/19oFr6mxErnpVYBTQA51JcZElqz5559dGvFv4oaRQ3cE/edit?usp=sharing

   18. Final Exam (Scheduled on 9th May 2022) (4hr Online Exam 13:00-17:00) Download ได้ที่นี่ https://drive.google.com/file/d/148M1rJ2ZAjRDl0aUhfhZaf9gLDJnzFCE/view?usp=sharing (นิสิตสามารถเข้าดูรหัสผ่านของไฟล์ได้ที่ link นี้ เวลา 13:00 น.) ** สำคัญมาก เนื่องจากผมจะอยู่บนเครื่องบินในเวลา 13:00 ทำให้ไม่สามารถช่วยพวกเราได้ หากเกิดปัญหาใด ๆ ใน link รหัสผ่านจะมี Zoom Link ของพี่ TA ที่คอยช่วยตอบคำถามด้านเทคนิคให้นะครับ ผมจะเปิด Zoom Link ของวิชาตอน 14:30 น. เพื่อตอบข้อสงสัยเกี่ยวกับข้อสอบ

       1. SVM, SOM, Associative Memory (Theory)

       2. CNN, LSTM (Apply)

5. Grading System

   1. Midterm (Online) 25%

   2. Final (Online) 25%

   3. Project 50%

6. References:

   1. Kumar, S. (2013). Neural Networks: A Classroom Approach. India: McGraw-Hill.

   2. Russell, S. J., & Norvig, P. (2021). Artificial intelligence: A modern approach. Hoboken, NJ: Pearson.