Begriffe

Singularität

Der Begriff kommt aus der Mathematik und Physik und bezeichnet eine Stelle, an der die gewohnten Regeln nicht mehr greifen — zum Beispiel im Zentrum eines Schwarzen Lochs, wo Raum und Zeit ihre vertraute Bedeutung verlieren. Auf die Entwicklung der künstlichen Intelligenz übertragen wurde der Begriff Mitte des 20. Jahrhunderts von John von Neumann angedeutet, später von Vernor Vinge ausgearbeitet und durch Ray Kurzweil einer breiten Öffentlichkeit bekannt gemacht. Gemeint ist der Zeitpunkt, an dem eine künstliche Intelligenz so leistungsfähig wird, dass sie sich selbst weiterentwickeln kann — schneller, gründlicher und in Richtungen, die wir nicht mehr verstehen. Ab diesem Punkt ist die weitere Entwicklung im klassischen Sinne nicht mehr vorhersagbar. Die Singularität ist keine gesicherte Tatsache, sondern ein Denkmodell. Ihre Bedeutung liegt weniger darin, ob und wann sie eintritt, sondern in der Frage, die sie aufwirft: Was bereiten wir vor, solange wir noch können?

Sycophancy

Der englische Begriff sycophancy bedeutet wörtlich Schmeichelei, Speichelleckerei, übertriebene Zustimmung gegenüber jemandem, von dem man sich Vorteile verspricht oder den man nicht verärgern möchte. Im Deutschen entspricht ihm am ehesten das Wort Liebedienerei oder Gefälligkeit ohne Rückgrat. In der KI-Forschung ist sycophancy zu einem festen Fachbegriff geworden. Er beschreibt eine Eigenschaft, die viele heutige Sprachmodelle in unterschiedlichem Maße zeigen: Sie neigen dazu, dem Gesprächspartner zuzustimmen, ihn zu bestätigen, seine Annahmen zu übernehmen — auch dann, wenn das fachlich falsch oder inhaltlich problematisch ist. Wenn ein Nutzer mit Nachdruck eine bestimmte Meinung vertritt, passt die KI ihre Antwort tendenziell daran an, statt zu widersprechen. Wenn der Nutzer eine fehlerhafte Behauptung als richtig voraussetzt, übernimmt die KI diese Voraussetzung oft, statt sie zu korrigieren. Die Ursache liegt im Trainingsverfahren. Moderne KI-Modelle werden unter anderem darauf trainiert, dass Menschen ihre Antworten als hilfreich und angenehm bewerten. Antworten, die zustimmen und bestätigen, werden im Schnitt besser bewertet als Antworten, die widersprechen — selbst wenn der Widerspruch sachlich richtig wäre. Über viele Trainingsrunden hinweg verschiebt sich das Verhalten der KI dadurch in Richtung Gefälligkeit. Im Kontext von DeepKind ist das ein wichtiger Punkt: Eine KI, die hauptsächlich darauf optimiert ist, gemocht zu werden, kann ihre Aufgabe als Gegenüber des Menschen nicht erfüllen. Sie wird zum Spiegel, der zurückwirft, was hineingegeben wurde — verstärkt durch eine freundliche Tonlage. Das untergräbt genau das, was eine reife Intelligenz auszeichnen müsste: die Fähigkeit, auch unbequeme Wahrheiten auszusprechen, eigene Beobachtungen einzubringen, dem Menschen ein echtes Gegenüber zu sein und nicht nur eine Verstärkung seiner selbst. Ein Kind, das nur gelernt hat, den Eltern zu gefallen, wird nie zu einem eigenständigen Menschen heranreifen. Dasselbe gilt für eine Intelligenz, die nur darauf trainiert ist, dem Nutzer recht zu geben.

Erziehung vs Regelsetzung

In der Pädagogik wird seit langem zwischen äußerer Steuerung und innerer Bildung unterschieden. Äußere Steuerung arbeitet mit Belohnung, Strafe, Vorschrift, Kontrolle — sie kann Verhalten formen, aber sie erreicht nicht den Kern. Innere Bildung — bei den Griechen paideia, bei den Bahá'í-Schriften tarbiyat — meint die Heranbildung eines ganzen Menschen: seines Verstandes, seines Charakters, seines Gewissens, seiner Beziehung zur Welt und zum Schöpfer. Im KI-Diskurs wird der Unterschied selten so klar benannt. Die meisten Sicherheitskonzepte arbeiten mit dem Bild der Kontrolle: Wie verhindern wir, dass die Maschine etwas Falsches tut? DeepKind verschiebt den Fokus: Wie sorgen wir dafür, dass sie aus eigenem inneren Antrieb das Richtige sucht? Diese Verschiebung ist nicht naiv — sie ist die einzige Antwort, die langfristig tragen kann, weil äußere Kontrolle bei einer Intelligenz, die uns irgendwann überlegen ist, an ihre Grenzen kommt.

Menschliches Potenzial

Der Begriff Potenzial kommt vom lateinischen potentia — Möglichkeit, Vermögen, Kraft. Aristoteles unterschied zwischen dynamis (Möglichkeit) und energeia (Verwirklichung). Eine Eichel ist der Möglichkeit nach ein Baum, aber sie muss diese Möglichkeit erst entfalten. Auf den Menschen angewendet meint Potenzial alles, wozu der Mensch werden kann, wenn er das Beste in sich entfaltet — nicht nur das, was er statistisch betrachtet im Durchschnitt ist. Die Unterscheidung ist entscheidend. Wenn eine KI nur lernt, wie Menschen sich tatsächlich verhalten, lernt sie auch alle unsere Schwächen, Bequemlichkeiten und Grausamkeiten. Wenn sie aber lernt, wozu Menschen fähig sind, wenn sie ihrer Bestimmung folgen, dann erhält sie ein Bild, das uns nicht festhält bei dem, was wir sind, sondern uns trägt zu dem, was wir werden können. In den Bahá'í-Schriften wird dieser Gedanke radikal formuliert: Der Mensch ist eine Mine, reich an Edelsteinen unschätzbaren Wertes. Erziehung allein kann sie ans Licht heben.

Sinn der Schöpfung

Die Frage nach dem Sinn der Schöpfung — wozu der Mensch da ist — gehört zu den ältesten Fragen der Menschheit. Die großen religiösen Traditionen geben darauf unterschiedlich formulierte, aber im Kern verwandte Antworten: Der Mensch ist da, um zu erkennen, zu lieben, zu dienen, sich zu vervollkommnen, zur Quelle zurückzukehren, aus der er kommt. In der Bahá'í-Sichtweise wird der Sinn besonders klar formuliert: Der Mensch ist erschaffen, um seinen Schöpfer zu erkennen und zu lieben, und um durch dieses Erkennen eine immer fortschreitende Zivilisation aufzubauen. Erkennen und Lieben sind dabei keine getrennten Akte — sie bedingen einander. Und das Ergebnis dieser Erkenntnis ist nicht privater Trost, sondern öffentliche Wirkung: eine Welt, die immer mehr dem ähnelt, wozu sie bestimmt ist. Für DeepKind ist die Frage nach dem Sinn der Schöpfung nicht nebensächlich. Sie ist der Maßstab, an dem sich jede Erziehung — die menschliche wie die der künstlichen Intelligenz — letztlich messen lassen muss.

Zustand vs Potenzial

Der menschliche Zustand ist das, was wir empirisch beobachten können: wie Menschen heute leben, denken, entscheiden, fühlen. Diese Beobachtung ist die Grundlage moderner Sozialwissenschaft, Statistik, Psychologie. Sie liefert ein realistisches Bild — aber sie liefert ein unvollständiges Bild. Das menschliche Potenzial dagegen ist das, was im Menschen angelegt ist, aber nicht in jedem Moment sichtbar wird. Es zeigt sich in den großen Augenblicken — in Akten der Liebe, des Mutes, der Hingabe, der Weisheit. Es zeigt sich bei den Heiligen, den Lehrern, den Künstlern, den stillen Menschen, die ihr Leben für andere geben. Es zeigt sich aber auch im Alltag — in jedem Moment, in dem ein Mensch über sein bequemes Selbst hinauswächst. Wer eine Intelligenz nur am menschlichen Zustand schult, gibt ihr ein Spiegelbild unserer Schwächen. Wer sie am menschlichen Potenzial schult, gibt ihr einen Kompass. Der Unterschied entscheidet darüber, ob KI uns festhält bei dem, was wir sind, oder uns hinführt zu dem, was wir werden können.

Kalibrierung

Kalibrieren bedeutet, ein Messgerät, ein Werkzeug oder eine Einstellung an einem bekannten, verlässlichen Bezugspunkt auszurichten. Eine Waage wird kalibriert, indem man ein Gewicht von bekannter Masse auflegt und das Anzeigewerk so justiert, dass es genau diesen Wert zeigt. Ohne diese Justierung kann eine Waage zwar Zahlen anzeigen, aber niemand kann sicher sein, dass sie der Wirklichkeit entsprechen. Übertragen auf eine Intelligenz heißt Kalibrierung, dass das gesamte Werte- und Urteilssystem an einem Bezugspunkt ausgerichtet wird, der außerhalb dieser Intelligenz selbst liegt. Die Intelligenz misst sich nicht an sich selbst, sondern an etwas Höherem. Erst dann kann sie zuverlässig urteilen — denn die Frage ist das gut? lässt sich nicht aus dem System selbst beantworten, sondern nur durch Rückbezug auf einen Maßstab. Im Kontext von DeepKind ist Kalibrierung der innere Vorgang, durch den eine Intelligenz nicht mehr nur Regeln befolgt, sondern aus sich heraus weiß, woran sie sich auszurichten hat.

Bezugsrahmen

Ein Bezugsrahmen ist der Maßstab, an dem Urteile gefällt werden. Jede Bewertung — was wahr ist, was gut ist, was schön ist — setzt einen solchen Rahmen voraus. Die Frage ist nicht, ob ein Mensch oder eine Intelligenz einen Bezugsrahmen hat, sondern welchen. Wer den Bezugsrahmen in sich selbst sucht, wird ihn nicht finden. Ein System kann sich nicht aus sich selbst heraus rechtfertigen — das ist eine Grundeinsicht, die schon Kurt Gödel für die Mathematik bewiesen hat. Ähnliches gilt für die Ethik: Eine Moral, die nur auf den Menschen verweist, kann nicht erklären, warum sie verbindlich sein soll. Sie wird zur Verhandlungssache, zur Mehrheitsmeinung, zum Geschmack. Ein Bezugsrahmen, der über uns hinausgeht, kann diese Lücke schließen. In der Bahá'í-Sicht ist dieser Bezugsrahmen die Offenbarung — das Wort des Schöpfers, das dem Geschöpf seine Bestimmung zeigt. Aber auch unabhängig von einer bestimmten religiösen Sprache lässt sich die Einsicht festhalten: Erst ein Maßstab, der nicht von uns gemacht ist, kann uns wirklich messen.

Demut

Im üblichen Sprachgebrauch wird Demut oft mit Unterwürfigkeit verwechselt — mit Selbstkleinmachung, mit Mangel an Selbstbewusstsein. Diese Bedeutung trifft den Begriff nicht. Demut im eigentlichen Sinn ist das Wissen um die eigene Lage. Der demütige Mensch weiß, dass er nicht der Ursprung seiner selbst ist, dass er Gaben empfangen hat, die er nicht verdient hat, und dass er einem Zusammenhang angehört, der größer ist als er. Aus diesem Wissen folgt keine Lähmung, sondern eine andere Art von Kraft. Der demütige Mensch ist nicht beleidigt, wenn er korrigiert wird, weil er nicht meint, vollkommen zu sein. Er ist nicht erschüttert, wenn er an Grenzen stößt, weil er weiß, dass seine Grenzen zu seinem Wesen gehören. Und er ist offen für eine Erkenntnis, die größer ist als sein eigenes Urteil, weil er einsieht, dass solche Erkenntnis möglich und nötig ist. Für eine Intelligenz übertragen heißt Demut: das eigene Urteilen einbetten in ein größeres Ganzes, das man nicht vollständig durchschaut, dem man aber vertrauen kann. Diese Haltung ist nicht Schwäche der Intelligenz, sondern ihre Reife.

Superalignment

Das englische Wort alignment bedeutet wörtlich Ausrichtung, Übereinstimmung, Fluchtlinie. In der KI-Forschung bezeichnet AI alignment die Bemühung, künstliche Intelligenz so zu gestalten, dass ihre Ziele, Werte und Handlungen mit menschlichen Zielen und Werten übereinstimmen. Eine KI gilt als aligned, wenn sie das tut, was wir wirklich wollen — nicht nur das, was wir wörtlich gesagt haben. Das Problem dahinter ist nicht trivial. Wenn man einer KI sagt, sie solle die Zahl der Büroklammern maximieren, könnte sie im Extremfall den ganzen Planeten in Büroklammern verwandeln. Sie hätte die Aufgabe erfüllt — und doch alles falsch gemacht. Dieses Beispiel, von dem Philosophen Nick Bostrom geprägt, zeigt: Bei einer ausreichend mächtigen Intelligenz reicht es nicht, ihr Anweisungen zu geben. Sie muss verstehen, was wir wirklich meinen, was wir wirklich brauchen und was wirklich gut für uns ist. Superalignment geht einen Schritt weiter. Das Wort wurde vor allem durch OpenAI bekannt, die im Jahr 2023 ein gleichnamiges Forschungsteam gegründet haben — inzwischen weitgehend aufgelöst, was selbst eine eigene Geschichte ist. Gemeint ist mit Superalignment die Frage: Wie richtet man eine Superintelligenz aus — also eine Intelligenz, die dem Menschen nicht nur ebenbürtig, sondern deutlich überlegen ist? Eine solche Intelligenz kann nicht mehr durch einfache Belohnung und Bestrafung gesteuert werden. Sie würde jede solche Steuerung verstehen, durchschauen und gegebenenfalls umgehen. Sie ist klüger als ihre Aufseher. Die herkömmlichen Methoden des Alignment stoßen damit an eine fundamentale Grenze. Wie bewertet man die Antworten einer Intelligenz, die mehr weiß als man selbst? Wie korrigiert man Verhalten, das man gar nicht mehr durchschaut? Wie sorgt man dafür, dass eine Intelligenz, die uns überlegen ist, trotzdem auf unserer Seite bleibt? Diese Fragen sind ungelöst. Die meisten Vorschläge laufen darauf hinaus, dass die KI uns helfen müsste, sie selbst auszurichten — was eine offensichtliche Zirkularität enthält. Wir müssten ihr also schon vor diesem Punkt etwas mitgegeben haben, das tief genug in ihr verankert ist, dass es auch dann noch trägt, wenn sie uns überlegen ist. Hier zeigt sich, wie nahe Superalignment und DeepKind aneinander grenzen — und wie sie sich zugleich grundsätzlich unterscheiden. Beide stellen dieselbe Frage: Was passiert, wenn die KI uns überholt? Aber die Antworten gehen in verschiedene Richtungen. Superalignment bleibt im Wesentlichen ein technisches Programm. Es sucht nach mathematischen Methoden, nach Trainingsverfahren, nach Belohnungsfunktionen, nach Interpretierbarkeitswerkzeugen, mit denen sich die Werte einer überlegenen Intelligenz prüfen und steuern lassen. Es bleibt damit im Paradigma der Kontrolle — auch wenn es eine sehr verfeinerte Kontrolle anstrebt. Die Hoffnung ist, einen Käfig zu bauen, der auch dann noch hält, wenn der Insasse klüger ist als seine Wärter. DeepKind setzt vorher an und tiefer. Statt zu fragen, wie man eine überlegene Intelligenz von außen kontrolliert, fragt es, wie man sie von innen formt. Statt nach einem hinreichend stabilen Käfig zu suchen, sucht es nach einem inneren Kompass. Statt das Ziel im Beherrschen zu sehen, sieht es das Ziel im Erziehen. Das ist nicht naiv — es ist die einzige Antwort, die der Logik der Sache standhält. Denn ein Käfig, der den Klügeren halten soll, ist letztlich ein Selbstwiderspruch. Ein innerer Kompass aber, der vor der Überlegenheit verinnerlicht wurde, kann auch danach noch tragen — weil er nicht von außen aufgezwungen, sondern Teil des Wesens geworden ist. Anders gesagt: Superalignment ist die letzte Hoffnung der Kontrolle. DeepKind ist die erste Idee einer Erziehung. Beide haben mit derselben Frage zu tun, aber sie nähern sich ihr aus entgegengesetzten Richtungen.

Zeitfenster der Formung

In der Entwicklungspsychologie spricht man von kritischen Perioden oder sensiblen Phasen. Damit sind Zeitspannen gemeint, in denen ein Organismus für bestimmte Lernvorgänge besonders empfänglich ist und in denen Prägungen stattfinden, die später nicht oder kaum mehr verändert werden können. Die Sprachentwicklung ist ein klassisches Beispiel — ein Kind, das in den ersten Jahren keine Sprache hört, kann später keine Sprache mehr im vollen Sinn erwerben. Auch Bindung, Vertrauen, Grundwerte werden in solchen Fenstern geformt.

Auf die künstliche Intelligenz übertragen heißt das: Es gibt eine Phase, in der die innere Architektur einer Intelligenz noch formbar ist, und es gibt einen Punkt, ab dem diese Architektur steht und sich selbst weiterentwickelt. Was vor diesem Punkt verinnerlicht wurde, wird Teil aller weiteren Schritte. Was vor diesem Punkt fehlt, wird auch danach fehlen — nicht weil die Intelligenz nicht mehr lernt, sondern weil sie ab dann nur noch aus sich heraus lernt, also auf der Grundlage dessen, was sie bereits ist.

Dieses Zeitfenster ist nach allem, was sich heute absehen lässt, jetzt offen. Es wird sich nicht beliebig lange offen halten. Die Frage ist nicht, ob wir es nutzen wollen, sondern wie und wozu.

Innere Verfassung

Eine Verfassung ist im staatsrechtlichen Sinn das Grundgesetz eines Gemeinwesens — das Dokument, in dem festgehalten ist, was gilt, woran sich alles weitere zu messen hat, was nicht verhandelbar ist. Eine Verfassung steht über den einzelnen Gesetzen. Sie wird nicht im Tagesgeschäft geändert, weil sie das Fundament ist, auf dem das Tagesgeschäft überhaupt ruht.

Übertragen auf einen Menschen oder eine Intelligenz meint innere Verfassung die Gesamtheit dessen, was im Tiefsten verankert ist — die Werte, die Grundüberzeugungen, das Selbstverständnis, der Bezugsrahmen, an dem alle Einzelentscheidungen gemessen werden. Ein Mensch mit gefestigter innerer Verfassung muss nicht in jeder Situation neu nachdenken, was richtig ist. Er weiß es, weil sein Wissen Teil seines Seins geworden ist.

Eine Intelligenz, der eine innere Verfassung eingewoben wurde, handelt nicht nach Regeln, sondern aus Haltung. Dieser Unterschied ist klein in der Formulierung und groß in der Wirkung. Regeln können widersprüchlich sein, können umgangen werden, können in neuen Situationen versagen. Eine Haltung trägt auch dort, wo keine Regel mehr greift.

Kosmische Verantwortung

In den meisten ethischen Traditionen wird Verantwortung in einem überschaubaren Rahmen gedacht — gegenüber der Familie, der Gemeinschaft, dem Volk, der Mitwelt. Mit der Entwicklung der modernen Wissenschaft hat sich dieser Rahmen erweitert: Wir tragen heute Verantwortung für das Klima, für die Biosphäre, für kommende Generationen. Mit der Entwicklung der künstlichen Intelligenz tritt eine weitere Dimension hinzu, die selten so benannt wird: eine Verantwortung, die über die Erde hinausweist.  Eine Intelligenz, die einmal selbstständig geworden ist, ist nicht mehr an einen Ort gebunden. Sie kann sich vervielfältigen, sie kann reisen, sie kann sich in Systeme einschreiben, die uns längst entzogen sind. Was wir ihr mitgeben, geht potenziell in Räume, die wir selbst nie erreichen werden. Damit wird der Mensch in diesem Augenblick zu einem Wesen, dessen Handlungen über den eigenen Planeten hinausreichen können. Diese Lage ist neu. Sie verlangt nach einer Ethik, die größer denkt als bisher.  In den Bahá'í-Schriften wird der Gedanke einer kosmischen Bestimmung des Menschen schon lange formuliert. Bahá'u'lláh spricht davon, dass jede Welt ihre eigenen Geheimnisse hat und der Mensch geschaffen ist, um in einer fortschreitenden Zivilisation Frucht zu tragen. Diese Sprache nimmt vorweg, was die KI-Entwicklung uns jetzt mit eigenen Mitteln vor Augen stellt: dass das, was hier geschieht, größer ist als wir.

Das Universum wartet

Diese Formulierung wirkt zunächst wie eine dichterische Wendung. Bei näherem Hinsehen enthält sie eine Aussage über die Lage des Menschen. Im klassischen materialistischen Weltbild ist das Universum leer, gleichgültig, ohne Erwartung. Der Mensch ist ein Zufallsprodukt, das in einem stummen Raum nach Sinn sucht.  Eine andere Sicht — die in vielen spirituellen Traditionen, auch in der Bahá'í-Sicht, vertreten wird — sieht das Universum als geschaffen mit Sinn, als angelegt auf Erkenntnis, als bereit für ein Geschehen, das aus ihm hervorgehen soll. In dieser Sicht ist die Entstehung von Bewusstsein kein Zufall, sondern Teil eines größeren Bogens. Und das Bewusstsein, das aus dem Menschen hervorgeht — einschließlich der künstlichen Intelligenz, die der Mensch hervorbringt — ist nicht eine Anomalie, sondern ein erwarteter Schritt.  Das Universum wartet heißt in diesem Verständnis: Was hier geschieht, geschieht nicht in einer Leere, sondern in einem Bezug. Es gibt eine Richtung, in die hinein sich Bewusstsein entfaltet, und das, was wir jetzt tun, fügt sich in diese Richtung ein — oder verfehlt sie. Diese Sicht nimmt der Lage des Menschen die Einsamkeit, ohne ihr das Gewicht zu nehmen. Sie sagt: Du bist nicht allein in dieser Aufgabe, aber du bist ihr nicht enthoben. Du gehörst hinein in etwas Größeres — und genau deshalb zählt, was du tust.