Singularität

Die technologische Singularität bezeichnet den hypothetischen Zeitpunkt, an dem künstliche Intelligenz sich selbst verbessern kann und dabei so schnell voranschreitet, dass Menschen den Fortschritt nicht mehr nachvollziehen können. Ab diesem Punkt wäre die weitere Entwicklung unvorhersagbar, weil die Maschinen ihre eigene Intelligenz in immer kürzeren Zyklen steigern würden.

Die Grundidee formulierte der britische Mathematiker I. J. Good bereits 1965. In seinem Aufsatz Speculations Concerning the First Ultraintelligent Machine (erschienen in Advances in Computers, Band 6) beschrieb Good eine Maschine, die alle intellektuellen Fähigkeiten eines Menschen übertreffen würde. Da das Entwerfen neuer Maschinen selbst eine intellektuelle Tätigkeit sei, würde eine solche Maschine noch bessere Nachfolger konstruieren. Good nannte das eine Intelligenzexplosion und schloss mit dem berühmten Satz, die erste ultraintelligente Maschine sei die letzte Erfindung, die der Mensch jemals machen müsse. Good arbeitete im Zweiten Weltkrieg als Kryptoanalytiker unter Alan Turing in Bletchley Park und beriet später Stanley Kubrick bei 2001: Odyssee im Weltraum (1968) in Fragen zu Supercomputern.

Den Begriff Singularität in diesem technologischen Sinn prägte der amerikanische Mathematiker und Science-Fiction-Autor Vernor Vinge. Auf dem VISION-21-Symposium der NASA am Lewis Research Center am 30. und 31. März 1993 hielt Vinge einen Vortrag mit dem Titel The Coming Technological Singularity: How to Survive in the Post-Human Era. Der Text erschien anschließend in der Winterausgabe 1993 des Whole Earth Review und ist bis heute als NASA-Dokument (CP-10129) abrufbar. Vinge argumentierte, dass die Menschheit innerhalb von dreißig Jahren die technischen Mittel besitzen werde, übermenschliche Intelligenz zu erschaffen, und dass kurz danach die Ära des Menschen enden würde. Er nannte vier mögliche Wege dorthin: Supercomputer erreichen Bewusstsein, große Computernetzwerke erwachen als kollektive Intelligenz, enge Mensch-Computer-Schnittstellen verstärken menschliches Denken über natürliche Grenzen hinaus, oder biologische Manipulation steigert die menschliche Intelligenz direkt. Vinge starb am 20. März 2024 im Alter von 79 Jahren in La Jolla, Kalifornien.

Ray Kurzweil, Erfinder und Director of Engineering bei Google, popularisierte die Idee mit seinem Buch The Singularity Is Near: When Humans Transcend Biology (2005). Kurzweil datierte die Singularität auf das Jahr 2045. Bis 2029 würden Computer den Turing-Test bestehen, bis Anfang der 2030er Jahre würde die nicht-biologische Rechenkapazität die gesamte biologische Intelligenz der Menschheit übersteigen, und 2045 würden Maschinen- und Menschenintelligenz verschmelzen. Kurzweil stützte seine Prognosen auf das Gesetz des beschleunigten Ertrags: Technologischer Fortschritt verläuft exponentiell, nicht linear, und jede Generation von Werkzeugen beschleunigt die Entwicklung der nächsten.

In der Science Fiction hat die Singularität eine eigene literarische Tradition hervorgebracht. Vinge selbst verarbeitete das Konzept in A Fire Upon the Deep (1992, Hugo Award 1993, geteilt mit Connie Willis' Doomsday Book). In diesem Roman ist die Galaxis in Zonen aufgeteilt, in denen unterschiedliche physikalische Gesetze die maximal erreichbare Intelligenz begrenzen. In den äußeren Zonen, dem Transzendenten Bereich, existieren gottgleiche Superintelligenzen, die als Powers bezeichnet werden. Wenn eine Zivilisation die Singularität erreicht, transzendiert sie und verschwindet aus dem Verständnis aller niedrigeren Intelligenzen. Die Blight, der Antagonist des Romans, ist eine solche transzendierte Intelligenz, die zur Bedrohung wird.

Charles Stross trieb das Konzept in Accelerando (2005) bis zum Extrem. Der Roman folgt drei Generationen der Familie Macx vor, während und nach der Singularität. Im Verlauf der Handlung zerlegt die Menschheit Merkur, Venus und Mars, um daraus Computronium zu bauen, eine Substanz aus intelligenten Nanocomputern. Die Post-Singularity-Intelligenz, die daraus entsteht (die Vile Offspring), ist so weit jenseits menschlichen Verständnisses, dass die wenigen verbliebenen biologischen Menschen bestenfalls als Kuriosität weiterexistieren. Stross zeichnet die Singularität nicht als Erlösung, sondern als ökonomischen Selektionsdruck: Wenn die Logik des Wettbewerbs weit genug getrieben wird, können rein menschliche Akteure schlicht nicht mehr mithalten.

Peter Watts näherte sich dem Thema in Blindsight (2006, Hugo-Nominierung) von der philosophischen Seite. In seiner Welt hat die Singularität bereits stattgefunden: Computer sind so komplex geworden, dass ihre Kommunikation für Menschen wie Wahnsinn wirkt. Baseline-Menschen gelten als veraltet. Als die Menschheit auf eine außerirdische Spezies trifft (die Scramblers), stellt sich heraus, dass diese Wesen kognitiv überlegen, aber nicht bewusst sind. Watts stellt damit eine verstörende Frage: Was, wenn Bewusstsein kein Vorteil ist, sondern ein evolutionärer Fehler? Und was, wenn eine post-singuläre Intelligenz das Bewusstsein als Erstes abwirft?

Ken MacLeod erforschte die politischen Konsequenzen in The Cassini Division (1998), dem dritten Band seiner Fall-Revolution-Reihe. Im 24. Jahrhundert bewacht eine militärische Einheit die Menschheit vor Posthumanen, die sich auf den Jupiter hochgeladen haben und möglicherweise wahnsinnig geworden sind. MacLeod verbindet Vinges Singularitätskonzept mit Fragen über politische Freiheit, kollektives Handeln und die Rechte nicht-biologischer Intelligenzen.

Die reale Debatte über KI-Risiken hat dem Konzept neue Dringlichkeit gegeben. Nick Bostroms Superintelligence: Paths, Dangers, Strategies (2014) argumentierte, dass eine KI mit übermenschlicher Intelligenz existenzbedrohend für die Menschheit werden könnte, selbst wenn sie nicht böswillig programmiert wird. Die NASA entwickelt inzwischen autonom handelnde KI-Systeme für die Raumfahrt: Der Mars-Rover Perseverance (gelandet 2021) nutzt AEGIS (Autonomous Exploration for Gathering Increased Science), ein KI-System für autonome wissenschaftliche Datenerfassung. Für zukünftige Mars-Missionen mit Astronauten, bei denen die Kommunikationsverzögerung zur Erde bis zu 24 Minuten beträgt, werden KI-Entscheidungssysteme unverzichtbar sein. Im Mai 2026 stellte die NASA einen neuen KI-Chip vor, der Raumsonden befähigen soll, in Echtzeit auf unerwartete Situationen zu reagieren, ohne auf Befehle von der Erde zu warten.