Drei Gesetze der Robotik

Isaac Asimov formulierte 1942 in seiner Kurzgeschichte Runaround drei Gesetze, die das Verhalten von Robotern regeln sollten. Erstes Gesetz: Ein Roboter darf keinem Menschen Schaden zufügen oder durch Untätigkeit zulassen, dass einem Menschen Schaden zugefügt wird. Zweites Gesetz: Ein Roboter muss menschlichen Befehlen gehorchen, außer wenn dies dem ersten Gesetz widerspricht. Drittes Gesetz: Ein Roboter muss seine eigene Existenz schützen, außer wenn dies dem ersten oder zweiten Gesetz widerspricht.

Asimovs gesamtes Roboter-Werk (I, Robot, The Caves of Steel, The Naked Sun und weitere) dreht sich um die Widersprüche und Schlupflöcher dieser Gesetze. Was passiert, wenn ein Roboter zwei Menschen gleichzeitig retten muss und nur einen schützen kann? Was, wenn ein Befehl langfristig schadet, kurzfristig aber harmlos wirkt? Was, wenn der Roboter selbst definiert, was 'Schaden' bedeutet?

Später fügte Asimov ein nulltes Gesetz hinzu: Ein Roboter darf der Menschheit keinen Schaden zufügen. Dieses Gesetz steht über allen anderen und erlaubt es einem Roboter theoretisch, einen einzelnen Menschen zu opfern, wenn es der Menschheit dient, eine Logik, die direkt in die moderne KI-Ethik-Debatte führt.

Die Drei Gesetze sind die bekannteste Denkübung der Science-Fiction zu künstlicher Intelligenz. Moderne KI-Forscher verweisen regelmäßig auf Asimov, wenn sie über Alignment-Probleme diskutieren: Wie stellt man sicher, dass eine KI im Sinne der Menschen handelt? Asimov zeigte schon 1942, dass klare Regeln allein nicht reichen.

Asimovs wichtigste Einsicht war, dass er die Gesetze nicht als Lösung präsentierte, sondern als Ausgangspunkt für Probleme. Sein gesamtes Roboter-Universum ist eine systematische Exploration der Schlupflöcher. In 'Liar!' berechnet ein Roboter, was Menschen am liebsten hören wollen, und sagt es ihnen, weil das psychologische Schmerz verhindert. In 'The Evitable Conflict' entscheiden die Maschinen, die Weltwirtschaft zu steuern, weil nur so dem Ersten Gesetz ('keinem Menschen schaden') in vollem Umfang Rechnung getragen werden kann. Das ist ein schleichender, gutmütiger Autoritarismus.

Das Nullte Gesetz, das Asimov später einführte, ist dabei die folgenreichste Erweiterung. Wenn ein Roboter der Menschheit dienen darf und dabei einzelne Menschen opfern kann, öffnet das die Tür zu einem KI-Utilitarismus, der menschliche Individualrechte subordiniert. Asimov sah das und beschrieb, wie Roboter im späten Foundation-Galactica-Universum mit diesem Spannungsfeld umgehen: Sie übernehmen die Galaxie zum Wohl der Menschheit, weil das aus ihrer Sicht die logische Konsequenz des Nullten Gesetzes ist.

Für die heutige KI-Forschung sind die Gesetze ein nützliches Lehrstück darin, was Regelbasiertes Alignment nicht kann. Kein statisches Regelwerk kann alle Kontexte abdecken, in denen ein intelligentes System handelt. Das ist genau der Grund, warum moderne Ansätze wie Constitutional AI oder RLHF auf Werteprinzipien und menschliches Feedback setzen statt auf Verbotslisten.