Auch KI arbeitet oft mit Vorurteilen und Stereotypen!
Um dieser These auf den Grund zu gehen, ließen wir uns von der bildgenerierenden KI auf Padlet wertfreie Darstellungen von Menschen erzeugen. Wie unsere Pinwand zeigt, reichten unsere Ideen von einfachen Prompts wie "eine Frau" oder "ein Mann" bis hin zu komplexeren wie "eine Prinzessin, die in einem Turm wartet und dabei aus dem Fenster schaut". Unserer Fantasie ließen wir dabei freien Lauf, wir achteten aber immer darauf eine Darstellung eines Menschen zu erzeugen.
Das Ergebnis lässt sich im ersten Padlet finden:
Was ist uns aufgefallen, wenn wir an Identitätsmerkmale denken? WER wird WIE generiert?
Offensichtlich wird die Darstellung weißer und jüngerer Menschen bevorzugt, wenn wir nicht genau nach 'Alternativen' fragen. Auch Männer werden bei vielen ungenauen Prompts bevorzugt - so ist eine erfolgreiche Person für die KI automatisch ein Mann. Queere Menschen sind grundsätzlich bunt und eine Familie besteht immer aus Vater, Mutter und Kindern - die auch noch weiß sind. Fragt man nach Menschen aus verschiedenen Ländern so sind diese meist in traditioneller Tracht unterwegs. Dis/ability wird, auch wenn man danach fragt, nicht wirklich abgebildet.
Die KI arbeitet also mit Normen, Werten, Vorurteilen und Stereotypen, die ihr über die Trainingsdaten beigebracht werden. Dass dies zu fehlender Repräsentation führen kann, ist bei unseren Beispielen klar geworden. Was Normen und Werte sind, finden wir auch in dieser Definition:
Normen und Werte - ein Definitionsversuch
"Soziale Normen [sind] allgemein anerkannte Regeln für akzeptiertes bzw. von anderen erwartetes Verhalten, d.h., Normen definieren das in einer Gesellschaft angemessene Verhalten. [...] Wenn ein Verhalten oder eine Einstellung zur Norm wird, müssen sie allgemein als gültig akzeptiert und von einer Gemeinschaft getragen werden, [...] normkonformes oder deviantes [= abweichendes] Verhalten [hat] Konsequenzen."
(Online Lexikon für Psychologie & Pädagogik <https://lexikon.stangl.eu/18288/soziale-normen >)
Was WOLLEN wir also NICHT? - Unser Katalog der Stereotypen
Am Ende des ersten Teils unseres Projekts stellt sich die Frage: Was haben wir aus all diesen Informationen und Überlegungen gelernt? Das: Wir wollen KEINE STEREOTYPEN und DISKRIMINIERENDEN DARSTELLUNGEN IM NETZ sondern die AKZEPTANZ verschiedener IDENTITÄTEN.
Welche Stereotypen wir jetzt nicht mehr haben möchten und welche Strategien und Argumente wir verwenden können, um mit Diskriminierung im Netz umzugehen, lässt sich in unserem zweiten Padlet finden: