Superintelligenz - Was ist das?

Superintelligenz ist ein System, das dem Menschen geistig in praktisch jedem Bereich deutlich überlegen wäre - nicht nur im Rechnen, beim Programmieren oder im Schach, sondern auch beim Forschen, Planen, Überzeugen und Erfinden. Die gängige Definition stammt vom Philosophen Nick Bostrom, der 2014 von einem Intellekt schrieb, der die kognitive Leistung von Menschen in nahezu allen interessierenden Gebieten weit übertrifft.

Ein solches System gibt es nicht. Superintelligenz ist eine Denkfigur, über die seit sechzig Jahren gestritten wird, und seit wenigen Jahren ist sie zusätzlich ein Geschäftsmodell.

Der Unterschied zur AGI

Die beiden Begriffe werden oft verwechselt, meinen aber zwei Stufen. AGI beschreibt ein System auf ungefähr menschlichem Niveau, das jede geistige Aufgabe bewältigen könnte, die auch ein Mensch bewältigt. Superintelligenz beginnt dort, wo dieses Niveau überschritten wird.

Heutige KI ist von beidem weit entfernt, in einem Punkt aber schon längst überlegen. Ein Taschenrechner schlägt jeden Menschen im Kopfrechnen, ein Schachprogramm jeden Großmeister. Das macht sie nicht superintelligent, denn die Überlegenheit gilt jeweils nur für ein einziges Fach. Auf die Breite kommt es an.

Drei Arten, überlegen zu sein

Bostrom unterscheidet drei Formen, und die Unterscheidung lohnt sich, weil sie zeigt, dass Überlegenheit nicht nur eine Frage von Klugheit ist.

Bostroms drei Formen

Die dritte Form ist die, bei der das Nachdenken schwierig wird. Geschwindigkeit und Menge kann man sich vorstellen. Ein Denken, das dem eigenen grundsätzlich überlegen ist, kann man nicht nachvollziehen, ohne es selbst zu haben.

Woher die Idee kommt

Die Idee ist älter als der moderne KI-Boom, und sie stammt von einem Mathematiker, der im Zweiten Weltkrieg mit Alan Turing Codes geknackt hat.

Vom Aufsatz zur Firmengründung

Goods Satz von 1965 ist der Kern der ganzen Debatte. Wenn eine Maschine bessere Maschinen bauen kann, baut die nächste wieder bessere, und der Abstand zum Menschen wächst von selbst. Good hielt die erste ultraintelligente Maschine deshalb für die letzte Erfindung, die der Mensch machen müsse.

Wie sie entstehen könnte

Bostroms Buch trägt das Wort Pfade im Untertitel, weil künstliche Intelligenz nicht der einzige denkbare Weg ist. Er nennt mehrere.

Der bekannteste ist die Software, also ein KI-System, das immer leistungsfähiger wird. Daneben steht die vollständige Nachbildung eines menschlichen Gehirns im Rechner, für die man es Schicht für Schicht scannen müsste. Ein dritter Weg führt über die Biologie, etwa über Auswahl bei der Fortpflanzung oder über Eingriffe ins Erbgut. Ein vierter über die Verbindung von Gehirn und Maschine. Und ein fünfter über Organisation, also über Netzwerke aus Menschen und Programmen, die zusammen klüger werden als jeder Teil.

Praktisch verfolgt wird heute fast nur der erste Weg. Die anderen sind entweder technisch weit entfernt oder ethisch so heikel, dass niemand sie ernsthaft betreibt.

Warum die Sache umstritten ist

Genau diese Kettenreaktion bestreiten Fachleute. Der Informatiker François Chollet hat 2017 dagegengehalten, Intelligenz stecke nicht allein in einem Gehirn, sondern in einem System aus Körper, Umgebung, Werkzeugen und Kultur. Ein einzelnes Gehirn habe noch nie eine größere Intelligenz entworfen als sich selbst, und rekursive Selbstverbesserung laufe in der Praxis gegen Grenzen.

Dazu kommt ein Problem mit dem Begriff selbst. Intelligenz ist keine Größe, die sich wie Temperatur auf einer Skala ablesen lässt. Wer von einem System spricht, das "tausendmal intelligenter" ist als ein Mensch, benutzt eine Zahl, für die es keine Messvorschrift gibt.

Das Kontrollproblem

Wer über Superintelligenz spricht, landet schnell bei der Frage, wie sich ein System steuern ließe, das klüger ist als seine Erbauer. In der Forschung heißt das Alignment - die Aufgabe, die Ziele eines Systems dauerhaft mit menschlichen Absichten in Übereinstimmung zu bringen.

Bostroms Beispiel dafür ist berühmt geworden. Eine Maschine, die ohne weitere Einschränkung darauf ausgelegt ist, möglichst viele Büroklammern herzustellen, hätte keinen Grund aufzuhören, bevor sie alles Erreichbare zu Büroklammern verarbeitet hat. Der Gedanke ist absichtlich absurd, und er zeigt den Punkt: Gefährlich wäre nicht Bosheit, sondern ein harmloses Ziel ohne Grenzen.

Was daran heute schon real ist

Ein System gibt es nicht, Geld dafür aber schon. Die Firma Safe Superintelligence hat nach eigener Ansage genau ein Produkt im Plan, und zwar dieses eine, und verkauft bis dahin nichts. Meta hat 2025 eine eigene Abteilung mit dem Wort im Namen gegründet und Fachleute mit hohen Summen abgeworben.

Für Leserinnen und Leser heißt das zweierlei. Wenn ein Unternehmen von Superintelligenz spricht, ist das eine Aussage über Ziele und Kapital, nicht über vorhandene Technik. Und die Debatte darüber, ob und wann sie kommt, wird von denselben Leuten geführt, die daran verdienen, dass man ihnen glaubt.