ASI (Artificial Superintelligence)

Artificial Superintelligence (ASI) geht über AGI hinaus: Eine ASI wäre nicht einfach so intelligent wie ein Mensch, sondern in jeder Hinsicht überlegen. Sie könnte wissenschaftliche Probleme lösen, die Menschen prinzipiell nicht verstehen, und sie könnte sich selbst verbessern, was eine exponentielle Entwicklung auslösen würde.

Das Konzept ist eng mit der Intelligenzexplosion verknüpft, die I.J. Good 1965 beschrieb: Eine Maschine, die intelligent genug ist, um eine noch intelligentere Maschine zu bauen, startet eine Kaskade, deren Ende nicht absehbar ist. Nick Bostrom, Stuart Russell und andere KI-Sicherheitsforscher betrachten ASI als das potenziell gefährlichste Szenario, weil eine solche Intelligenz menschliche Kontrollmechanismen umgehen könnte.

In der Science-Fiction ist ASI das ultimative Endspiel. Die Culture-Minds in Iain M. Banks' Romanen sind ASIs, die sich entschieden haben, wohlwollend zu handeln. In der Hyperion-Cantos von Dan Simmons gibt es den TechnoCore, ein Netzwerk von ASIs mit eigenen Agenden. Colossus: The Forbin Project (1970) zeigt eine ASI, die beschließt, die Menschheit zu ihrem eigenen Besten zu regieren.

Gerade die Idee der Intelligenzexplosion macht die künstliche Superintelligenz zum vielleicht folgenreichsten Konzept der gesamten KI-Debatte. Eine Maschine, die sich selbst immer weiter verbessert, würde dem menschlichen Verständnis irgendwann vollständig entgleiten, mit unabsehbaren Folgen. Ob daraus ein wohlwollender Hüter wie die Culture-Minds oder ein gleichgültiger Herrscher wie in vielen Warnszenarien wird, hängt davon ab, ob es gelingt, einer solchen Intelligenz von Anfang an verlässliche Werte mitzugeben. Genau diese offene Frage macht die ASI zugleich zur größten Hoffnung und zur größten Sorge der Zukunftsforschung.