Brauchen wir eine KI Superintelligenz?

Post date: Jan 14, 2020

Unter Superintelligenz verstehe ich eine KI, die dem Menschen in vielen oder allen Gebieten überlegen ist.

Hier liegt aber auch das Problem. Wenn die KI uns Menschen überlegen ist, dann folgt daraus auch, dass wir sie nicht verstehen. Wie will man eine solche Superintelligenz entwickeln und dabei geforderte Randbedingungen einhalten und kontrollieren? Z.B. wird oft im Zusammenhang mit einer Superintelligenz gefordert, dass diese nicht sexistisch oder rassistisch sein sollen. Aber wie will man das sicherstellen, wenn man sie nicht versteht? KIs werden ja gerade auf Probleme losgelassen, wo wir Menschen keine Lösung finden. Findet dann die KI eine Lösung, dann ist nicht einfach zu entscheiden ob diese Lösung nun rassistisch oder einfach nur korrekt ist.

Die Vorgabe gegen einen unbewussten Bias beim Training von KIs ist leicht formuliert, aber die immensen Daten für das Training der KI, die ja bekannte Eingaben und die zugehörige korrekten Antworten enthalten müssen, sind nicht leicht zu beschaffen. Die notwendige Menge von Daten kann dazu führen, dass die Daten nicht korrekt validiert sind. Die Folgen durch das Training mit teilweise unvalidierten Daten sind nicht leicht zu erkennen.

Ein Ansatz in der KI Forschung ist es, KIs zu entwickeln, die nicht nur die Lösung entwickeln, sondern auch eine für den Menschen verständliche Erklärung mitliefern. Da ist die Forschung noch nicht sehr weit. Und: es widerspricht dem Ansatz der Superintelligenz, denn hier sprechen wir von Lösungen, die ja vom Menschen nicht entwickelt werden konnten.

Die meiner Meinung nach wichtigste Forderung beim Einsatz von KIs ist leicht umzusetzen: die Superintelligenz kann Antworten liefern, diese müssen aber nochmal von einem Menschen geprüft und bewertet werden. Aber auch hier liegt das Problem in der Umsetzung: schon heute wird dem Ergebnis eines Taschenrechners leicht vertraut, auch wenn die errechnete Zahl offensichtlich nicht stimmen kann. Und das wird bei Lösungen von KIs noch schwieriger zu beurteilen sein. Dann wird es leicht zu Situationen kommen, wo die Lösung der KI angenommen wird, obwohl sich nicht richtig geprüft wurde.

Wenn dann zur Verbesserung der Gesamtperformance die Superintelligenz direkt mit der Ausführung von Aktionen verbunden wird, dann hat der Mensch die Kontrolle verloren.

Vielleicht sind meine Sorgen aber auch unbegründet. KIs können in abgegrenzten Bereichen sicherlich sinnvoll eingesetzt werden und ob es überhaupt gelingt, eine Superintelligenz zu schaffen, ist fraglich.