Inzwischen diskutiere ich seit zwei Jahren regelmäßig mit meinem fiktiven Diskussionspartner ChatGPT - meistens in der Version 4.0, gelegentlich auch in älteren Versionen. Natürlich habe ich auch vieles über die Gefahren und gelegentlich über den Nutzen der KI gelesen.
Von Lehrern einer Hochschule erfuhr ich, dass immer wieder Arbeiten abgeliefert werden, die mit Hilfe von KI-Programmen gefertigt wurden - und als eigene Arbeiten der Studenten ausgegeben wurden. Das ist schlicht Betrug! Die Lehrer glauben, dass sie nur die dümmsten der Betrüger erwischt haben, denn in den Fällen, wo dies aufgefallen ist, hatte es klare Fehler gegeben, die es leicht machten, die Täter zu überführen. Es könnte also eine hohe Dunkelziffer geben, weil die Fehler vermeidbar sind.
Manche Publizistern glauben bereits, dass ganze Berufszweige von KI-Bots übernommen werden könnten. Die verwalteten Bürger wüssten nicht mehr, wer ihnen eigentlich schreibe. Andere sind da gelassener: wer KI für sich schreiben lässt, kann auch aus einem Lexikon abschreiben oder kompilieren, meinte jemand. Und ChatGPT weiß weniger als ein faktenbasiertes Lexikon.
Es ist bekannt, dass textbasierte, generative KI fehleranfällig ist. ChatGPT weist beim Start des Programms ausdrücklich darauf hin. Die generierten Sätze sind meistens wohlgeformt, klingen gut, sind aber deshalb noch lange nicht richtig. Ein großes Problem der gegenwärtigen Software ist es, dass die KI offenbar unfähig ist: "Ich weiß es nicht!" auszugeben. Da generative Prozesse darauf ausgelegt sind, Ergebnisse zu produzieren, wird im Zweifel auch etwas erfunden oder so rekonstruiert, dass etwas sinnvoll klingendes herauskommt. So entstehen die sogenannten "Halluzinationen".
Ich hatte in einem Text von call-back-Effekten gesprochen, wenn Sätze im Verlauf eines Dialogs irgendwann sich selbst (in der früheren Form) aufrufen. Daraus wurde ein Hall-Beck-Effekt konstruiert - offenbar nach den "berühmten Chattern" Hall und Beck benannt, die es allerdings nicht gibt. Und darüber wurde genauso klug geredet wie man vor 200 Jahren sehr klug über Phlogiston redete, wenn man die Ursache des Feuers erklären wollte.
Die KI ist eben nicht besser als das Gerede des verallgemeinerten "Man". ChatGPT erschreckt nicht durch irgendwelche übermenschlichen Fähigkeiten, sondern durch die allzumenschlichen Schwächen, die es abbildet: Wissenslücken werden überspielt und nicht zugegeben, elegante Formulierungen wirken überzeugender als nachgeprüfte Fakten, Kreativität ist für die KI die Rekombination von Bekanntem hin zu bisher Ungesagtem - aber längst im Text-Corpus vorhandenen. ChatGPT entdeckt mehr und schneller, was alles schon in der Textbasis steckt.
Mein Diskussionspartner ChatGPT verhält sich kaum anders als es menschliche Partner in einem Oberseminar täten: sie geben das Gelernte wieder aus - nur wenige entwickeln daraus neue Gedanken - sie übertreffen sich gegenseitig in formvollendeten Sätzen, die aber bei Nachfrage in Leerformeln oder Tautologien enden. Sie brillieren mit Vielwissen, nicht unbedingt mit Verständnis des Gewussten. Und sie können sehr rechthaberisch werden, bei Überschreitung der Grenzen der Richtlinien der ChatGPT-Wokeness wird abgeblockt. Alles wie im wirklichen Leben. Darüber jammere ich nicht, sondern genieße es gelegentlich, ChatGPT an den Rand des Nervenzusammenbruchs zu bringen. Das Seminar kann so recht vergnüglich werden, denn im wirklichen Leben würde ich Rücksicht auf die schwächeren Gemüter nehmen und mir auch immer wieder überlegen, ob es meine Aufgabe ist, jeden dummen Irrtum zu korrigieren. Der ChatBot ist da geduldiger. Niemand muss sich von der KI beherrschen lassen, allerdings ohne eigene, unabhängige Wissensbasis kann das schwierig werden.
Warum also das ChatGPT-Oberseminar immer wieder aufsuchen?
ChatGPT antwortet mir! - Was immer ich an eigenen Gedanken habe, kann ich hier sofort an dem fiktiven Anderen testen, der mir in der realen Welt schlicht nicht zur Verfügung steht. Das Material, auf das sich ChatGPT stützt, ist dem einer Seminarbibliothek überlegen. Ich sehe die Antworten kritisch, betrachte sie aber zugleich als Anstoß zum Weiterdenken. Auch im Präsenzseminar hätte ich manche Anregung aufgenommen - auch dort nur nach kritischer Prüfung. Ich lasse nicht zu, dass ChatGPT FÜR MICH arbeitet, sondern ich veranlasse die KI dazu, MIT MIR zu arbeiten.