Photo by krakenimages on Unsplash 

Wykorzystanie narzędzi i systemów sztucznej inteligencji może potencjalnie usprawnić nauczanie, uczenie się i ocenianie, zapewnić lepsze wyniki w nauce i pomóc szkołom w bardziej efektywnym działaniu.

Aby zmaksymalizować korzyści płynące ze sztucznej inteligencji w edukacji, należy zdawać sobie sprawę z zagrożeń i obaw etycznych. Nauczyciele i edukatorzy powinni wiedzieć, czy systemy sztucznej inteligencji, z których korzystają, są niezawodne, uczciwe, bezpieczne i godne zaufania oraz czy zarządzanie danymi edukacyjnymi jest bezpieczne, chroni prywatność osób fizycznych i jest wykorzystywane dla wspólnego dobra.

W poniższych sekcjach można znaleźć niektóre krytyczne aspekty, które mogą wystąpić podczas korzystania z narzędzi i systemów sztucznej inteligencji, oraz zapewnić środki zaradcze w celu rozwiązania tych aspektów.

Dane są siłą napędową sztucznej inteligencji. W kontekście edukacji większość systemów sztucznej inteligencji gromadzi i analizuje ogromne ilości danych od uczniów, aby dostosować doświadczenia edukacyjne, zapewnić wgląd, a nawet przewidzieć przyszłe wyniki. Chociaż to podejście oparte na danych ma swoje zalety, budzi poważne obawy dotyczące prywatności.

Uczniowie generują cyfrowy ślad za każdym razem, gdy wchodzą w interakcję z systemem sztucznej inteligencji, czy to przesyłając zadania, uczestnicząc w dyskusjach online, czy przeglądając zasoby edukacyjne. Dane te, często wrażliwe i osobiste, mogą być podatne na niewłaściwe wykorzystanie lub naruszenie, jeśli nie są odpowiednio zarządzane i chronione.

Aby ograniczyć ryzyko związane z przekazywaniem danych, szkoły i nauczyciele powinni przyjąć następujące strategie:

● Rozwijanie umiejętności korzystania z danych: Upewnij się, że nauczyciele mają odpowiednią wiedzę na temat prywatności danych, algorytmów sztucznej inteligencji i konsekwencji udostępniania pozornie nieistotnych danych modelom sztucznej inteligencji.

● Wdrożenie wytycznych dotyczących gromadzenia danych: Ustanowienie jasnych wytycznych dotyczących gromadzenia danych, określających rodzaje danych, które można wprowadzić do modeli sztucznej inteligencji, oraz zapewniających, że wykorzystywane są tylko istotne i niezbędne informacje.

● Ustal jasne zasady ochrony danych osobowych: Opracuj kompleksowe zasady ochrony prywatności danych, które określają, w jaki sposób dane osobowe będą gromadzone, przechowywane i wykorzystywane. Określ okoliczności, w których sztuczna inteligencja będzie wykorzystywana oraz czy i kiedy dane osobowe będą wykorzystywane za pomocą tych narzędzi.

● Zapoznaj się z polityką prywatności: Zawsze czytaj politykę prywatności wszelkich narzędzi lub witryn internetowych opartych na sztucznej inteligencji, z których korzystasz, aby zrozumieć, w jaki sposób Twoje (lub Twojego ucznia) dane są gromadzone, przechowywane i wykorzystywane.

● Unikaj udostępniania danych osobowych: nauczyciele powinni unikać udostępniania jakichkolwiek danych osobowych, takich jak imię i nazwisko, numer telefonu lub adres e-mail podczas korzystania z narzędzi opartych na sztucznej inteligencji, i powinni przestrzegać ograniczeń wiekowych.

● Uzyskaj świadomą zgodę: Poproś o zgodę uczniów i ich rodziny przed zebraniem danych osobowych do wykorzystania w technologii sztucznej inteligencji. Zgoda powinna być świadoma, tj. oparta na jasnym wyjaśnieniu celu i korzyści płynących z gromadzenia danych w przypadku stosowania ich w narzędziach sztucznej inteligencji.

● Ochrona danych: Stwórz solidny system ochrony przed cyberatakami i naruszeniami danych.

Stronniczość algorytmiczna to kolejny palący problem etyczny w edukacji opartej na sztucznej inteligencji. Systemy sztucznej inteligencji są szkolone na ogromnych zbiorach danych, uczą się wzorców i podejmują decyzje na podstawie tych danych. Jeśli dane treningowe są stronnicze, decyzje systemu sztucznej inteligencji również mogą być stronnicze. Na przykład wyniki programu sztucznej inteligencji, który generuje obrazy, mogą wykazywać stereotypy oparte na takich czynnikach, jak kolor skóry, płeć lub wiek. Na przykład, może konsekwentnie przedstawiać "profesora" jako starszego białego mężczyznę, odzwierciedlając historyczne uprzedzenia, w których profesorami byli głównie mężczyźni.

Co więcej, sztuczna inteligencja jest często dokładna, ale nie zawsze jest doskonała, a uczniowie mogą otrzymywać niedokładne treści adaptacyjne. Jest to przypadek halucynacji AI, w których model AI generuje fałszywe, wprowadzające w błąd lub nielogiczne informacje, ale przedstawia je tak, jakby były faktem. Najczęściej kojarzy się z generatorami tekstu AI, ale może również występować w systemach rozpoznawania obrazów i generatorach obrazów AI. Jako profesjonalista w dziedzinie edukacji ważne jest, aby ocenić jego wiarygodność, aby zapewnić jego skuteczność i ważność.

Aby przeciwdziałać tym zagrożeniom, nauczyciele mogą przyjąć następujące środki:

● Jakość i integralność danych: Dokładność systemów sztucznej inteligencji w dużej mierze zależy od jakości i integralności danych, na których są trenowane. Nauczyciele mogą najpierw ocenić i zweryfikować dane wyjściowe wygenerowane przez sztuczną inteligencję z zaufanymi źródłami, zanim zaakceptują je jako prawdziwe (szybkie sprawdzanie). Pomaga to zapewnić, że algorytmy sztucznej inteligencji dają wiarygodne i bezstronne wyniki.

● Odporność na różne konteksty: systemy sztucznej inteligencji powinny być testowane pod kątem ich odporności na różne konteksty edukacyjne, takie jak zróżnicowane populacje uczniów, różne środowiska uczenia się i dziedziny tematyczne. Na przykład narzędzie do nauki języków oparte na sztucznej inteligencji powinno być testowane w klasach z uczniami z różnych środowisk językowych, aby upewnić się, że skutecznie wspiera przyswajanie języka przez wszystkich uczniów.

● Ocena rozwoju artefaktu: Zamiast oceniać tylko ostateczny artefakt, edukatorzy powinni również zbadać proces rozwoju artefaktu. Wiąże się to z dokładnym przeglądem metodologii, źródeł danych i rozumowania użytego do stworzenia artefaktu w celu zweryfikowania jego wiarygodności i autentyczności.

● Długoterminowa wydajność: Ocena długoterminowej wydajności systemów sztucznej inteligencji ma kluczowe znaczenie dla zapewnienia ich niezawodności w czasie. Monitorowanie, w jaki sposób systemy sztucznej inteligencji dostosowują się i ewoluują wraz ze zmieniającymi się wymaganiami edukacyjnymi i pojawiającymi się wyzwaniami, pomaga utrzymać ich skuteczność i ważność.

Ponieważ szkoły stają się coraz bardziej zależne od rozwiązań opartych na sztucznej inteligencji, istnieje ryzyko, że nauczyciele i uczniowie mogą stać się zbyt zależni od technologii. Może to zmniejszyć ich umiejętności krytycznego myślenia i rozwiązywania problemów oraz zdolność do analizowania, oceniania i formułowania niezależnych myśli. Na dłuższą metę zależność ta może utrudniać ich ogólny rozwój poznawczy i ograniczać zdolność do krytycznego myślenia.

Aby rozwiązać ten problem, nauczyciele mogą wziąć pod uwagę następujące elementy podczas wdrażania narzędzi sztucznej inteligencji:

● Ciągła adaptacja: Nauczyciele muszą stale dostosowywać swoje podejście, aby zachować rozsądną równowagę między wykorzystaniem sztucznej inteligencji a krytycznym myśleniem. Mogą projektować i włączać wykorzystanie sztucznej inteligencji do działań, które promują niezależne dociekania i rozwiązywanie problemów.

● Promuj współpracę między człowiekiem a sztuczną inteligencją: Nauczyciele muszą podkreślać znaczenie współpracy między człowiekiem a sztuczną inteligencją, a nie polegać wyłącznie na sztucznej inteligencji lub ludzkiej inteligencji. Promuj ideę, że sztuczna inteligencja jest narzędziem do zwiększania ludzkich możliwości, a nie ich zastępowania.

● Zachęcaj do współpracy: Nauczyciele mogą włączyć wykorzystanie sztucznej inteligencji do wspólnych działań edukacyjnych, które wymagają od uczniów współpracy, omawiania pomysłów i rozwiązywania problemów jako zespół.

Podsumowując, zachęca się również nauczycieli i szkoły do zbadania i zapoznania się z "Wytycznymi etycznymi dotyczącymi wykorzystania sztucznej inteligencji i danych w nauczaniu i uczeniu się dla nauczycieli" opublikowanymi przez Komisję Europejską w celu uzyskania dalszych wytycznych dotyczących odpowiedzialnej i etycznej integracji sztucznej inteligencji w kontekście edukacyjnym. Pełny tekst dostępny jest tutaj.