Im April 2021 veröffentlichte die Europäische Kommission ihren Entwurf für ein Gesetz über künstliche Intelligenz , das den weltweit ersten allumfassenden Regulierungsrahmen für KI schaffen soll. Angesichts der Tatsache, dass die Entwicklung von KI noch in den Kinderschuhen steckt und das Gesetz auf dem Vorsorgeprinzip beruht, wird der AIA in seiner derzeitigen Fassung wahrscheinlich die Innovation und Einführung von KI in der EU verlangsamen.

Da Umfang und Geltungsbereich des Gesetzes enorm sind, bahnt es sich langsam seinen Weg durch die EU-Institutionen. Inzwischen sind einige der wichtigsten Themen zur Änderung des Gesetzes sowie die größten Streitpunkte zwischen den verschiedenen politischen Akteuren, die an der Ausarbeitung und schließlich der Verabschiedung des Gesetzes beteiligt sind, aufgetaucht.

Der Ministerrat, der die EU-Mitgliedstaaten vertritt, hat eine Reihe von Änderungen vorgeschlagen, um das AIA etwas weniger belastend zu machen. Das Europäische Parlament ist politisch gespalten, daher sind die unterschiedlichen Positionen seiner Protagonisten ein Frühindikator für die größten Meinungsverschiedenheiten über Zweck und Inhalt des Gesetzes. In Zukunft werden sich die wichtigsten Debatten darüber, wie die endgültige Fassung des Gesetzes aussehen wird, wahrscheinlich um die Definition von KI drehen, welche Aktivitäten und Sektoren als „hohes Risiko“ eingestuft werden und den Einsatz von Gesichtserkennungstechnologien.

Nachdem die Kommission ein Gesetz vorgeschlagen hat, geht es in die Hände des Ministerrates und des Europäischen Parlaments über, die parallel den Entwurf prüfen und ein Verfahren einleiten, Änderungen vorzuschlagen und schließlich darüber abzustimmen. Beim AIA ging der Rat schneller voran als das Parlament, wobei der slowenische Vorsitz im November 2021 die erste Reihe von Kompromissen vorlegte, bevor der französische Vorsitz zwei weitere Kompromisse vorlegte dieses Jahr. Dies sind zwar keine offiziellen Positionen des Rates und stellen keinen formellen Konsens zwischen den Mitgliedstaaten dar, sie geben jedoch die Richtung an, in die sie gehen werden. Die meisten Vorschläge des Rates spiegeln den Wunsch wider, die AIA praktikabler zu machen und einige der problematischen Anforderungen für „Hochrisiko“-KI im ursprünglichen Entwurf einzudämmen. Zum Beispiel:

• Der Rat möchte die Anforderung an Anbieter, KI-Trainings- und -Validierungsdaten auf Vorurteile zu untersuchen, einschränken, um nur „Vorurteile abzudecken, die voraussichtlich die Gesundheit und Sicherheit von Personen beeinträchtigen oder zu Diskriminierung nach Unionsrecht führen“. Diese präzisere Formulierung verknüpft die Compliance-Verpflichtung enger mit den tatsächlichen Nutzerrisiken.

• Der Rat adressiert die Anforderung, dass Trainings- und Validierungsdaten fehlerfrei sein müssen – weithin als unmöglich hohe Messlatte kritisiert –, indem er klarstellt, dass fehlerfreie Daten nur „im bestmöglichen Umfang“ erforderlich sind.

• Der Rat schlägt vor, die detaillierten technischen Dokumentationspflichten zu verringern, also den Papierkram, den sie ausfüllen müssen, um die Einhaltung des Gesetzes nachzuweisen. Der Rat schlug vor, dass KMU und Start-ups stattdessen nur verpflichtet werden, „Dokumente zu sammeln, die denselben Zielen dienen [dh Einhaltung des AIA]“, solange ihre nationale Durchsetzungsbehörde zustimmt. Dies wirft natürlich die Frage auf, warum dieser Standard nicht auf alle Akteure angewendet wird, die dem AIA unterliegen.

Das ursprüngliche AIA beinhaltet eine Verpflichtung für KI-Systeme, „interpretierbare“ Ausgaben bereitzustellen, was technisch nicht immer möglich ist. Der Rat schlägt vor, dies durch ein sinnvolleres Mandat für die Benutzer zu ersetzen, „das System zu verstehen und angemessen zu verwenden“. Ebenso empfiehlt der Rat, dass eine menschliche Aufsicht über KI-Systeme nur dann erforderlich ist, wenn sie verhältnismäßig und angemessen ist.

Die meisten dieser Änderungen würden den ursprünglich von der Kommission vorgeschlagenen Verpflichtungen für KI mit „hohem Risiko“ etwas von der Schärfe nehmen und sicherstellen, dass die Anforderungen, die das Gesetz an solche Systeme stellt, realistisch und praktikabel sind. Allerdings sind nicht alle Änderungsanträge hilfreich. Beispielsweise fordert der französische Kompromisstext eine Datenminimierung in der KI , indem Systeme verpflichtet werden, die Erfassung personenbezogener Daten auf das unbedingt Notwendige zu beschränken. Eine solche Anforderung steht im Widerspruch zu vielen Formen der KI-Forschung und -Entwicklung und stellt eine direkte Beeinträchtigung der Designentscheidungen von KI-Entwicklern dar.

An der parlamentarischen Front wurden kürzlich zwei Berichte zum AIA veröffentlicht, einer vom Rechtsausschuss des Europäischen Parlaments und ein weiterer vom Industrieausschuss des Parlaments. Besonders interessant an diesen Berichten ist, dass sie konkrete Änderungsanträge enthalten, die einige der Schlüsselbereiche abstecken, um die im weiteren Jahresverlauf voraussichtlich die intensivsten gesetzgeberischen Auseinandersetzungen geführt werden.

Erstens, wie sollte die AIA KI definieren? Beide Berichte ändern die Definition, um sie mit der OECD-Definition von KI in Einklang zu bringen, ein begrüßenswerter Schritt, da sie enger ist als die der EU und somit das Gesetz zielgerichteter machen würde: Anstatt die meisten Software zu regulieren, empfehlen die beiden parlamentarischen Ausschüsse, dass die AIA dies tun sollte regulieren „maschinenbasierte Systeme“, die mit einem gewissen Grad an Autonomie agieren. Darüber hinaus schlagen die Berichte vor, die Liste der KI-Methoden, die die AIA abdeckt, auf maschinelles Lernen und Optimierung zu beschränken und nicht auf alle modernen Formen der Softwareentwicklung . Diejenigen, die immer noch an die ursprüngliche Definition der Kommission glauben, sind nun gezwungen , ihre Hand offen zu legen, dass sie das AIA als ein universelles „Softwaregesetz“ sehen, das dem der Kommission offenkundig widersprichterklärte Zweck des Gesetzes, nämlich ausschließlich KI zu regeln. Selbst diejenigen, die gegen Definitionsänderungen sind, akzeptieren die Prämisse, dass der AIA kein allgemeiner „Algorithmusakt“ werden sollte. Der Berichterstatter des Binnenmarktausschusses des Parlaments hat jedoch erklärt ; „Wir stehen unter Druck, den Geltungsbereich der Definition einzuschränken. Aber ich glaube nicht, dass wir uns von dort, wo es jetzt ist, sehr weit entfernen werden.“ Es scheint daher, dass der Geltungsbereich des AIA in Zukunft zu einer großen Meinungsverschiedenheit werden wird, wobei das Parlament sich wahrscheinlich weigern wird, sich von der aktuellen Definition von KI zu lösen .

Zweitens, wie sollte der AIA die Definition „hohes Risiko“ operationalisieren? Die Kommission hat den AIA so konzipiert, dass er mehr Anforderungen an Systeme stellt, die als „hohes Risiko“ eingestuft werden. Dies wirft die Frage auf, wie hoch die Schwelle für Systeme mit „hohem Risiko“ sein sollte. Der Ansatz der Kommission besteht darin, ganze Wirtschaftszweige unter Verdacht zu setzen, indem sie sie als „hohes Risiko“ bezeichnen, wenn sie KI einsetzen, was die Kosten des AIA weit über die bequemerweise konservativen Analysen kommissionsfreundlicher Institutionen hinaustreiben würde. Stattdessen schlägt der Rechtsausschuss einen weitaus vernünftigeren Ansatz vor. Der Ausschuss empfiehlt, dass der AIA nur für Systeme gilt, die sowohl in „Hochrisiko“-Sektoren eingesetzt werden, als auch dort, wo der beabsichtigte Zweck des Systems bestehterheblicher Schaden wahrscheinlich (dh wenn ein KI-System in solchen Sektoren eingesetzt wird, „so dass ein erheblicher Schaden wahrscheinlich entsteht“). Dies ist sinnvoll, da das Ziel des AIA darin besteht, potenziell schädliche Nutzungen von KI zu regulieren, nicht herauszugreifen bestimmte Wirtschaftsbereiche für größere Regulierungslasten, wenn sie KI nutzen wollen. Darüber hinaus hebt der Bericht des Rechtsausschusses das Verbot der Kommission auf, „unterschwellige Techniken jenseits des Bewusstseins einer Person“ auf eine „Art und Weise, die psychischen Schaden verursacht“, aufzuheben. Dies ist eine nicht praktikableIdee, die am Ende viele Formen von Marketing und Werbung sowie das Design von Benutzeroberflächen abdecken könnte, die schließlich darauf abzielen, die Wahl der Verbraucher zu beeinflussen, was durch die Subjektivität von Begriffen wie „psychischer Schaden“ noch verstärkt wird. Der Rechtsausschuss ersetzt diesen Teil des AIA durch ein Verbot von KI-Systemen, die darauf abzielen, „das Verhalten einer Person erheblich und wesentlich zu verfälschen oder dieser Person direkt Schaden zuzufügen“.

Drittens, während das Parlament entschieden gegen die Gesichtserkennung aus der Ferne in der Öffentlichkeit ist (selbst wenn Sicherheitsvorkehrungen vorhanden sind und aus zwingenden Gründen der öffentlichen Sicherheit), möchte die Mehrheit der Mitgliedstaaten die Ausnahmeregelungen für die Strafverfolgung beibehalten oder erweitern (mit Ausnahme von Ausreißern wie Deutschland ). Wie diese Debatte ausgehen wird, bleibt abzuwarten.

Was kommt als nächstes für die AIA? Der verbleibende Bericht des parlamentarischen Ausschusses, der gemeinsam von den Ausschüssen für Binnenmarkt und Bürgerrechte verfasst wurde, wird voraussichtlich im April veröffentlicht. Die Frist für Änderungen des AIA ist der Mai. In einer idealen Welt arbeitet das Parlament einen Kompromiss aus, um im November eine endgültige Abstimmung abzuhalten. Angesichts der schieren Anzahl der beteiligten parlamentarischen Ausschüsse erscheint dieser Zeitplan jedoch ehrgeizig. Eine wichtige Frage ist, wie viel Spielraum für Kompromisse bei der Schaffung unternehmensfreundlicherer Regeln im AIA besteht. Was den Rat betrifft, so betrachtet die französische Ratspräsidentschaft (die noch bis Ende Juni läuft) die KI zwar als Priorität, aber als ihr ursprüngliches Zielbereits im März einen formellen Kompromisstext vorzulegen, ist fraglich. Angesichts der unterschiedlichen Meinungen zur Regulierung von KI wird es wahrscheinlich länger dauern, bis eine einheitliche Position unter den EU-Mitgliedstaaten erreicht wird . Daher ist es höchst unwahrscheinlich, dass der AIA frühestens 2023 verabschiedet wird. Nach seiner Verabschiedung vergehen weitere zwei Jahre bis zum Inkrafttreten des AIA. Das bedeutet, dass Unternehmen damit rechnen sollten, nach 2025 gesetzeskonform zu werden.