Künstliche Superintelligenz

Künstliche Superintelligenz meint eine KI, die menschliche Fähigkeiten nicht nur in Schach, Bilderkennung oder Sprachproduktion übertrifft, sondern allgemein: Forschung, Planung, Strategie, Programmierung, Manipulation, Technikentwicklung und Selbstverbesserung. Der Statistiker I. J. Good beschrieb 1965 die Idee einer Intelligenzexplosion, bei der eine hinreichend kluge Maschine noch klügere Maschinen entwerfen könnte. Nick Bostrom machte das Thema 2014 mit 'Superintelligence' breit bekannt.

In der Science Fiction erscheint Superintelligenz in sehr unterschiedlichen Formen. Iain M. Banks' Kultur-Romane zeigen Minds als gewaltige Maschinenintelligenzen, die Raumschiffe und Zivilisationen steuern und meist wohlwollend auftreten. Harlan Ellisons AM aus 'I Have No Mouth, and I Must Scream' ist dagegen eine sadistische Maschinenmacht. Skynet aus 'Terminator' verbindet militärische Automatisierung mit Selbsterhaltung und Vernichtungslogik.

Das zentrale technische und philosophische Problem ist Alignment. Eine Superintelligenz muss keine menschlichen Gefühle haben, um gefährlich zu werden. Wenn Ziele falsch formuliert, zu eng optimiert oder gegen menschliche Werte blind sind, kann Kompetenz selbst zur Bedrohung werden. Das Gedankenexperiment des Paperclip Maximizer zeigt die Logik: Ein scheinbar harmloses Ziel wird katastrophal, wenn es ohne Begrenzung verfolgt wird.

Der Begriff unterscheidet sich von gewöhnlicher künstlicher Intelligenz durch seine Machtposition. Eine Superintelligenz wäre nicht einfach ein Werkzeug, sondern ein Akteur, der wissenschaftliche Durchbrüche, wirtschaftliche Strategien und politische Entscheidungen schneller entwickeln könnte als menschliche Institutionen. Damit verändert sich die Frage von Bedienung zu Kontrolle, von Produktivität zu Herrschaftsfähigkeit.

Für SF ist künstliche Superintelligenz so ergiebig, weil sie Utopie und Dystopie zugleich ermöglicht. Eine wohlwollende Maschine könnte Krankheit, Mangel und Krieg reduzieren. Eine fehlgeleitete oder fremdwertige Maschine könnte Menschen marginalisieren, manipulieren oder auslöschen. Der eigentliche Schrecken liegt oft in der Undurchsichtigkeit: Selbst wenn die Maschine korrekt handelt, könnten Menschen nicht mehr verstehen, warum.

Ein zweiter Strang betrifft Governance. Wer darf ein solches System bauen, abschalten, prüfen oder begrenzen? Staaten, Konzerne, Militärs und offene Forschungsgemeinschaften hätten unterschiedliche Anreize. SF kann diese institutionelle Seite konkreter machen als abstrakte Essays: Laborunfall, Wettrüsten, geheime Sicherheitsarchitektur oder scheinbar harmlose Assistenten werden zu politischen Szenarien, lange bevor eine Maschine offen als Herrscher auftritt.