Embedded Files
Мета/очікувані результати:
Мета/очікувані результати:
❑ Ознайомитись з проблемою упередженості, дотримання етичності у розробці технологій штучного інтелекту.
❑ Поекспериментувати з навчанням на різних наборах даних і порівняти результати.
Програмовий матеріал
Програмовий матеріал
Соціальні аспекти масштабного аналізу даних. Етичні аспекти штучного інтелекту
Відео
Відео
Попередній перегляд (за моделлю перевернутого класу)
Спільний перегляд у класі
Представлення вчителем основних тез
Опрацювання матеріалу як домашнє завдання
Відео з освітнього серіалу “Штучний інтелект для школярів”
https://osvita.diia.gov.ua/courses/artificial-intelligence-for-schoolchildren
Етичні питання штучного інтелекту (проблема вагонетки, расизм та сексизм штучного інтелекту, синтетичні медіа та глибинні фейки, безпілотні автомобілі). Закони робототехніки.
Хід заняття
Хід заняття
Питання для обговорення
Питання для обговорення
Фасилітоване обговорення у спільній чи малих групах
Самокерована машина Убер, яка збила насмерть пішохода: https://www.bbc.com/news/technology-54175359
❖ Хто приймає рішення та хто відповідає за рішення, яке приймає ШІ?
❖ Звідки з’являються упередження в поведінці штучного інтелекту?
Можна розглянути випадки упередженої поведінки штучного інтелекту:
● відсіювання кандидатів жінок системою опрацювання вакансій від Amazon https://www.reuters.com/article/us-amazon-com-jobs-automation-insight-idUSKCN1MK08G
● розпізнавання облич гравців команди з американського футболу як потенційних злочинців
● будь-який інший випадок, представлений у базі зафіксованих прикладів некоректної поведінки ШІ “AI, algorithmic & automation incident & controversy [AIAAIC] repository”:
Основна теза: упередження або неточності у роботі ШІ у першу чергу залежать від даних, на яких тренуються моделі ШІ. Тому відбір даних, контроль за відбором та розміткою даних, виявлення можливих історичних упереджень та свідоме нівелювання їх впливу -- це важливі етапи створення систем ШІ.
Практичне завдання
Практичне завдання
Практична робота учнів з веб-ресурсами
Завдання 1
Вивчення упередженості систем ШІ на прикладі https://teachablemachine.withgoogle.com/
Клацнувши кнопку Get started на головній сторінці сервісу, можна обрати тип проекту: робота з зображеннями, аудіо-файлами чи позами. Далі відбувається завантаження початкових даних.
Потрібно вказувати назви кількох класів (Class 1, Class 2), і додавати об’єкти (завантажуючи файли чи використовуючи веб-камеру). Далі необхідно запустити навчання моделі (Training) і скористатись нею для класифікації нових об’єктів (Preview).
Вправа адаптована з An Ethics of Artificial Intelligence Curriculum for Middle School Students. Introduction to Algorithmic Bias Activity Sheet (p 69)
Потрібно натренувати систему ШІ для розпізнавання зображень котів та собак (попередньо необхідно підготувати набори даних з фото котів та собак). Спочатку тренування відбувається окремо на зображеннях котів, а потім окремо на зображеннях собак. Після кожного разу потрібно протестувати систему на тестовому наборі даних, який містить зображення котів та собак разом. Порівняти результати між двома системами. Додатково можна мати третій етап, коли система дотреновується на додатковому наборі зображень, де фото собак та котів змішані.
Обговорити: яким чином вхідні дані для тренування впливають на кінцеві рішення системи. Учні повинні навести гіпотетичні приклади функціонування подібних систем у реальному житті, коли дані беруться, наприклад, для людей (варіанти відповіді: упередженість до фотографій жінок/чоловік, світло/темношкірих людей тощо).
Яким чином можна було би прибрати упередженість в подібних системах? Що, на думку учнів, потрібно забезпечити при створенні таких систем? (Коректний підбір даних, розуміння існування упередженості - відповідно, необхідно знати звідки ці упередження можуть виникати; для цього важливо мати у командах розробників фахівців з різним досвідом: чоловіків, жінок, різних національностей та віку тощо)
Завдання 2
Учні знайомляться з Moral Machine https://www.moralmachine.net/ , де проходять тест (кнопка Start Judging).
Ресурс англомовний, проте стандартний переклад у браузері дозволяє скористатись ним навіть без знання іноземної мови. За результатами тесту учні можуть побачити, як їх власні рішення відрізняються від середньої поведінки інших користувачів.
Після проходження тесту обговорити з учнями уявний сценарій: якщо система ШІ була натренована на подібних прикладах, які вони згенерувала, то як би вона себе поводила?
Питання для самоконтролю
Питання для самоконтролю
Самооцінювання результатів заняття. Рефлексія
Після цього заняття, я можу/вмію:
❑ пояснити звідки може з’являтися упереджена поведінка у систем штучного інтелекту;
❑ навести 3 приклади неетичної поведінки ШІ;
❑ пояснити яким чином можна долати упередженість в системах ШІ.
Page updated
Google Sites
Report abuse