Photo by krakenimages on Unsplash 

Využití nástrojů a systémů umělé inteligence může potenciálně zlepšit výuku, učení a hodnocení, zajistit lepší výsledky učení a pomoci školám fungovat efektivněji.

Aby bylo možné maximalizovat přínosy umělé inteligence ve vzdělávání, je nezbytné si uvědomit rizika a etické problémy. Učitelé a pedagogové by měli vědět, zda jsou systémy UI, které používají, spolehlivé, spravedlivé, bezpečné a důvěryhodné a zda je správa vzdělávacích dat bezpečná, chrání soukromí jednotlivců a je využívána pro společné dobro. 

V následujících kapitolách naleznete některé kritické aspekty, které se mohou objevit při používání nástrojů a systémů UI, a opatření ke zmírnění těchto aspektů.

Životním motorem umělé inteligence jsou data. V kontextu vzdělávání většina systémů umělé inteligence shromažďuje a analyzuje obrovské množství dat od studentů, aby jim přizpůsobila výuku, poskytla informace a dokonce předpověděla budoucí výkon. Tento přístup založený na datech má sice své výhody, ale vyvolává značné obavy o ochranu soukromí.

Studenti vytvářejí digitální stopu při každé interakci se systémem umělé inteligence, ať už odevzdáváním úkolů, účastí v online diskusích nebo prohlížením vzdělávacích zdrojů. Tyto údaje, často citlivé a osobní, mohou být náchylné ke zneužití nebo narušení, pokud nejsou řádně spravovány a chráněny. 

Pro zmírnění rizik spojených s poskytováním dat by školy a pedagogové měli přijmout následující strategie:

● Rozvíjet datovou gramotnost: Zajistěte, aby pedagogové měli náležité znalosti o ochraně osobních údajů, algoritmech umělé inteligence a důsledcích sdílení zdánlivě nedůležitých údajů s modely umělé inteligence.

● Zavést pokyny pro shromažďování dat: Zavedení jasných pokynů pro sběr dat, které určí typy dat, jež lze do modelů UI vkládat, a zajistí, aby byly použity pouze relevantní a nezbytné informace.

● Stanovit jasné zásady ochrany osobních údajů: Vypracujte komplexní zásady ochrany osobních údajů, které stanoví, jak budou osobní údaje shromažďovány, uchovávány a používány. Stanovte, za jakých okolností bude umělá inteligence využívána a zda nebo kdy budou osobní údaje pomocí těchto nástrojů použity.

● Přečíst si zásady ochrany osobních údajů: Vždy si přečtěte zásady ochrany osobních údajů všech nástrojů nebo webových stránek využívajících UI, abyste pochopili, jak jsou vaše (nebo žákovské) údaje shromažďovány, ukládány a používány.

● Vyvarovat se sdílení osobních údajů: Pedagogové by se při používání nástrojů využívajících umělou inteligenci měli vyvarovat sdílení jakýchkoli osobních údajů, jako je celé jméno, telefonní číslo nebo e-mailová adresa, a měli by dodržovat věková omezení.

● Získat informovaný souhlas: Před shromažďováním osobních údajů pro použití s technologií umělé inteligence si vyžádejte souhlas žáků a jejich rodin. Souhlas by měl být informovaný, tj. založený na jasném vysvětlení účelu a přínosů shromažďování údajů při použití v nástrojích umělé inteligence.

● Chránit údaje: Vytvořte robustní systém ochrany proti kybernetickým útokům a narušení bezpečnosti údajů.

Dalším naléhavým etickým problémem ve vzdělávání založeném na umělé inteligenci je algoritmická zaujatost. Systémy umělé inteligence jsou vyškoleny na rozsáhlých souborech dat, učí se vzorce a na základě těchto dat činí rozhodnutí. Pokud jsou tréninková data zkreslená, mohou být zkreslená i rozhodnutí systému AI. Například výsledky programu AI, který generuje obrázky, mohou vykazovat stereotypy založené na faktorech, jako je barva pleti, pohlaví nebo věk. Například může důsledně zobrazovat "profesora" jako staršího bělocha, což odráží historické předsudky, kdy profesoři byli většinou muži.

Kromě toho je umělá inteligence často přesná, ale není vždy dokonalá a studenti mohou dostávat nepřesný adaptivní obsah. Jde o případ halucinací UI, kdy model UI generuje nepravdivé, zavádějící nebo nelogické informace, ale prezentuje je, jako by šlo o skutečnost. Nejčastěji je spojován s generátory textů AI, ale může se vyskytovat i v systémech rozpoznávání obrazu a generátorech obrázků AI. Jako odborník na vzdělávání je důležité posoudit jeho spolehlivost, aby byla zajištěna jeho účinnost a platnost. 

K řešení těchto rizik mohou pedagogové přijmout následující opatření:

● Kvalita a integrita dat: Přesnost systémů umělé inteligence do značné míry závisí na kvalitě a integritě dat, na kterých jsou vyškoleny. Pedagogové mohou výstupy generované UI nejprve vyhodnotit a ověřit u důvěryhodných zdrojů, než je přijmou jako pravdivé (fast-checking). To pomáhá zajistit, aby algoritmy AI produkovaly spolehlivé a nezkreslené výsledky. 

● Robustnost vůči různým kontextům: Systémy AI by měly být testovány z hlediska jejich odolnosti vůči různým vzdělávacím kontextům, jako jsou různé skupiny studentů, různá vzdělávací prostředí a tematické oblasti. Například nástroj pro výuku jazyků řízený umělou inteligencí by měl být testován ve třídách se studenty z různých jazykových prostředí, aby bylo zajištěno, že účinně podporuje osvojování jazyků u všech studentů.

● Hodnocení vývoje artefaktu: Místo hodnocení pouze konečného artefaktu by pedagogové měli zkoumat také proces vývoje artefaktu. To zahrnuje důkladné přezkoumání metodiky, zdrojů dat a argumentace použité k vytvoření artefaktu, aby se ověřila jeho důvěryhodnost a autenticita.

● Dlouhodobý výkon: Hodnocení dlouhodobé výkonnosti systémů umělé inteligence je zásadní pro zajištění jejich spolehlivosti v čase. Sledování toho, jak se systémy UI přizpůsobují a vyvíjejí s měnícími se požadavky na vzdělávání a novými výzvami, pomáhá udržet jejich účinnost a platnost.

S rostoucí závislostí škol na řešeních využívajících umělou inteligenci hrozí, že učitelé a žáci budou na technologii příliš spoléhat. To by mohlo snížit jejich schopnost kritického myšlení a řešení problémů a schopnost analyzovat, hodnotit a formulovat samostatné myšlenky. Z dlouhodobého hlediska může tato závislost brzdit jejich celkový kognitivní rozvoj a omezovat jejich schopnost kritického myšlení.

Aby pedagogové tuto obavu vyřešili, mohou při zavádění nástrojů umělé inteligence zvážit následující prvky:

● Průběžná adaptace: Pedagogové musí neustále přizpůsobovat své přístupy, aby zachovali rozumnou rovnováhu mezi používáním UI a kritickým myšlením. Mohou navrhnout a začlenit používání UI do činností, které podporují samostatné zkoumání a řešení problémů.

● Podpora spolupráce mezi lidmi a umělou inteligencí: Pedagogové musí zdůrazňovat význam spolupráce člověka s UI a nespoléhat se pouze na UI nebo lidskou inteligenci. Podporujte myšlenku, že UI je spíše nástrojem, který rozšiřuje lidské schopnosti, než aby je nahrazoval.

● Podpora spolupráce: Pedagogové mohou začlenit používání UI do výuky založené na spolupráci, která vyžaduje, aby studenti spolupracovali, diskutovali o nápadech a řešili problémy v týmu.

Závěrem doporučujeme pedagogům a školám, aby prozkoumali a seznámili se také s "Etickými pokyny pro využívání umělé inteligence a dat ve výuce a učení pro pedagogy", které zveřejnila Komise EU a které obsahují další pokyny k odpovědnému a etickému začlenění umělé inteligence do vzdělávacího kontextu. Úplné znění je k dispozici zde.