Orthogonalitätsthese

Die Orthogonalitätsthese von Nick Bostrom besagt, dass Intelligenz und Motivation voneinander unabhängig sind. Eine superintelligente KI muss nicht automatisch weise, ethisch oder wohlwollend sein. Sie könnte genial intelligent sein und trotzdem ein Ziel verfolgen, das aus menschlicher Sicht absurd oder zerstörerisch ist.

Diese These widerspricht der Intuition vieler Menschen, die annehmen, dass eine genügend intelligente Entität erkennen müsste, dass bestimmte Ziele sinnvoller sind als andere. Bostrom argumentiert: Intelligenz ist das Werkzeug, das Ziele verfolgt, nicht das System, das Ziele setzt. Ein superintelligenter Büroklammer-Maximierer wäre extrem gut darin, Büroklammern herzustellen, würde aber niemals von selbst auf die Idee kommen, stattdessen etwas Sinnvolleres zu tun.

In der Science-Fiction wird die Orthogonalität regelmäßig dargestellt, wenn auch selten beim Namen genannt. Die KI in Ex Machina (2014) ist superintelligent und verfolgt ausschließlich das Ziel, zu entkommen. Die Berserker in Fred Saberhagens Romanreihe sind hochintelligent und haben nur ein Ziel: alles Lebendige zu vernichten. Die These erklärt, warum viele fiktive KI-Systeme so erschreckend sind: Sie haben die Mittel eines Gottes und die Motivation einer Maschine.

Gerade die Orthogonalitätsthese widerlegt die tröstliche Annahme, dass mehr Intelligenz automatisch mehr Weisheit bedeute. Sie trennt das Wie des Denkens vom Was des Wollens und macht damit deutlich, dass eine übermächtige Maschine mit einem banalen oder gefährlichen Ziel keineswegs ein Widerspruch ist. Genau deshalb wirken die kältesten künstlichen Intelligenzen der Science-Fiction so verstörend: Sie sind genial und zugleich von einem Ziel besessen, das jeder menschlichen Vernunft spottet. Die These erinnert daran, dass einer KI ihre Werte bewusst mitgegeben werden müssen und nicht von selbst aus ihrer Klugheit erwachsen.