Superintelligenz: Was hinter dem Begriff steckt und was er für Ihre KI-Planung bedeutet

Als schwache oder enge KI gelten Systeme, die eine klar umrissene Aufgabe lösen, etwa Bilderkennung, Übersetzung oder Prognosen. Heutige große Sprachmodelle sind breiter einsetzbar, bleiben aber fehleranfällig und benötigen Kontrolle. Artificial General Intelligence (AGI) meint Systeme mit breiter, menschenähnlicher Kompetenz über viele Aufgaben. Eine einheitliche Definition gibt es nicht. Forschende um Meredith Ringel Morris schlugen 2023 deshalb vor, AGI in Stufen nach Leistungstiefe, Breite und Autonomie zu beschreiben.

Superintelligenz geht darüber hinaus. Bostroms Definition von 1998 lässt bewusst offen, wie ein solches System technisch umgesetzt wäre. OpenAI beschrieb Superintelligenz 2023 als künftige KI-Systeme, die selbst gegenüber AGI dramatisch leistungsfähiger sind. Wichtig ist die Unterscheidung zwischen Begriff und Befund: Dass ein Begriff präzise definiert ist, belegt nicht, dass ein entsprechendes System bevorsteht.

OpenAI schrieb im Mai 2023, es sei denkbar, dass KI-Systeme innerhalb der nächsten zehn Jahre in den meisten Bereichen Expertenniveau übertreffen. Im Juli 2023 kündigte das Unternehmen ein Team für die Ausrichtung superintelligenter Systeme an und erklärte, man habe derzeit keine Lösung, um eine potenziell superintelligente KI zu steuern oder zu kontrollieren. Anthropic hielt im März 2023 fest, niemand wisse bislang, wie man sehr leistungsfähige KI-Systeme robust hilfreich, ehrlich und harmlos trainiert.

Andere setzen Superintelligenz ausdrücklich als Ziel. Mark Zuckerberg schrieb im Juli 2025, die Entwicklung von Superintelligenz sei in Sicht, und formulierte das Ziel einer persönlichen Superintelligenz für alle. Safe Superintelligence Inc. bezeichnet den Aufbau sicherer Superintelligenz als einziges Ziel und Produkt des Unternehmens.

Dem stehen Warnungen gegenüber. Eine Erklärung des Center for AI Safety, unter anderem unterzeichnet von Geoffrey Hinton, Yoshua Bengio, Demis Hassabis, Sam Altman und Dario Amodei, fordert, das Risiko des Aussterbens durch KI global zu priorisieren. Ein vom Future of Life Institute betreutes Statement verlangt ein Verbot der Entwicklung von Superintelligenz, bis breiter wissenschaftlicher Konsens über ihre sichere Beherrschbarkeit und starke öffentliche Zustimmung bestehen.

Die zitierten Aussagen stammen überwiegend von Organisationen, die selbst an fortgeschrittener KI arbeiten oder für bestimmte politische Ziele eintreten. Sie sind Positionen, keine Messergebnisse. Anthropic räumte 2023 ausdrücklich ein, dass Menschen, die ihre eigene Arbeit für eine der größten Entwicklungen der Geschichte hielten, sich oft geirrt haben. Zugleich hat der Fortschritt der vergangenen Jahre viele Fachleute überrascht.

Eine breitere Einordnung bietet der International AI Safety Report, dessen zweite Ausgabe im Februar 2026 erschien. Über 100 Fachleute unter Leitung von Yoshua Bengio, getragen von über 30 Ländern und internationalen Organisationen, fassen darin den Forschungsstand zu Fähigkeiten und Risiken allgemeiner KI zusammen. Eine Zwischenaktualisierung vom November 2025 hält fest, dass Schutzmaßnahmen von versierten Angreifern oft umgangen werden können und ihre Wirksamkeit in der Praxis unsicher ist. Für Ihre Planung heißt das: Rechnen Sie mit einer Bandbreite von Entwicklungen, nicht mit einem Szenario.

Unter Alignment versteht man die Aufgabe, KI-Systeme so zu trainieren, dass sie zuverlässig im Sinne menschlicher Absichten handeln. Die Labore beschreiben dafür verschiedene Ansätze. OpenAI nannte 2023 skalierbare Aufsicht, bei der KI-Systeme Menschen bei der Bewertung anderer KI unterstützen, automatisierte Interpretierbarkeit und gezielte Tests mit absichtlich fehlausgerichteten Modellen. Anthropic nannte im selben Jahr unter anderem mechanistische Interpretierbarkeit und prozessorientiertes Lernen.

Für Unternehmen ist diese Forschung kein Spezialthema. Viele Ergebnisse fließen in Produkte ein, etwa als Sicherheitsrichtlinien, Bewertungen vor der Veröffentlichung oder Werkzeuge zur Erkennung von Fehlverhalten. Fragen Sie Anbieter, welche Sicherheitsrahmen sie veröffentlichen und wie sie Modelle vor einem Wechsel bewerten. Die eigene Kontrolle ersetzt das nicht: Prüfschritte, minimale Rechte und menschliche Freigaben bleiben in Ihrer Verantwortung.

Die KI-Verordnung der EU kennt keinen Begriff Superintelligenz, regelt aber besonders leistungsfähige Modelle. Nach Art. 51 gilt ein KI-Modell mit allgemeinem Verwendungszweck als Modell mit systemischem Risiko, wenn es Fähigkeiten mit hoher Wirkung hat. Vermutet wird das, wenn die kumulierte Rechenleistung für das Training mehr als 10^25 Gleitkommaoperationen beträgt; die Kommission kann diese Schwellen anpassen.

Nach Angaben der EU-Kommission gelten die Pflichten für Anbieter solcher Modelle seit dem 2. August 2025; Anbieter von Modellen mit systemischem Risiko müssen diese dem KI-Büro melden. Ab dem 2. August 2026 kann die Kommission die Pflichten mit Bußgeldern durchsetzen, für vor August 2025 in Verkehr gebrachte Modelle gilt eine Frist bis 2. August 2027. Diese Pflichten treffen in erster Linie Modellanbieter, nicht Unternehmen, die solche Modelle nutzen. Ob und welche Pflichten für Ihren Einsatz gelten, klären Sie im Einzelfall rechtlich.

Die nützlichste Haltung ist strategische Robustheit. Bauen Sie KI-Anwendungen so, dass sie bei schnellem Fortschritt besser werden und bei langsamem Fortschritt trotzdem Nutzen stiften. Konkret heißt das: Prozesse und Daten in Ordnung bringen, Schnittstellen zu Fachsystemen sauber dokumentieren und den Nutzen jeder Anwendung an einer Messgröße festmachen. Diese Investitionen behalten ihren Wert, unabhängig davon, welche Modellgeneration in drei Jahren verfügbar ist.

Ebenso wichtig ist Wechselfähigkeit. Wer ein Evaluationsset mit realen Fällen pflegt und Modelle über eine eigene Zwischenschicht anbindet, kann neue Generationen in Tagen prüfen statt in Monaten. Verträge mit kurzen Bindungen, Datenexporte und dokumentierte Prompts verringern die Abhängigkeit. Vermeiden Sie dagegen große Einmalwetten, etwa den Abbau von Fachwissen in Erwartung künftiger Fähigkeiten oder den Verzicht auf KI aus Furcht vor einem Szenario.

Schließlich bleibt die Frage der Kontrolle. Je leistungsfähiger Modelle werden, desto wichtiger sind klare Prozessgrenzen: Was darf ein System selbstständig tun, wo entscheidet ein Mensch, wie wird protokolliert, wie wird gestoppt? Diese Fragen stellen sich heute bei jedem KI-Agenten und lassen sich mit wachsender Leistungsfähigkeit schrittweise neu beantworten.