Trolley-Problem

Das Trolley-Problem wurde 1967 von der britischen Philosophin Philippa Foot formuliert: Eine außer Kontrolle geratene Straßenbahn rast auf fünf Personen zu. Du stehst an einer Weiche und kannst die Bahn auf ein Nebengleis umlenken, auf dem nur eine Person steht. Fünf retten, indem du einen tötest? Die meisten Menschen sagen: Ja.

Judith Jarvis Thomson verschärfte das Dilemma 1985 mit der Fußgängerbrücke: Die einzige Möglichkeit, die fünf zu retten, besteht darin, einen dicken Mann von einer Brücke vor die Bahn zu stoßen. Fünf gegen einen, dieselbe Rechnung. Aber die meisten Menschen sagen jetzt: Nein. Warum?

Der Unterschied liegt in der Handlung: Einen Hebel umzulegen fühlt sich wie eine Umleitung an, einen Menschen physisch zu stoßen fühlt sich wie Mord an. Die utilitaristische Ethik (maximiere das Gesamtwohl) sagt: Beides ist gleichwertig. Die deontologische Ethik (Kant) sagt: Einen Menschen als Mittel zum Zweck zu benutzen ist immer falsch, unabhängig vom Ergebnis.

Das Trolley-Problem ist von einem philosophischen Gedankenexperiment zu einer realen Ingenieurfrage geworden: Wie sollen selbstfahrende Autos in unvermeidlichen Unfallsituationen entscheiden? Soll das Auto die Insassen schützen oder die Fußgänger? Die Moral Machine-Studie des MIT (2018, 40 Millionen Antworten aus 233 Ländern) zeigte, dass moralische Intuitionen stark kulturabhängig sind: In individualistischen Gesellschaften wird eher das Opfer mit dem geringsten Personenwert gewählt, in kollektivistischen eher das ältere Opfer.

Für die KI-Ethik geht das Problem über Autos hinaus: Jedes autonome System, das über Leben und Tod entscheiden kann (militärische Drohnen, medizinische Triage-Algorithmen, autonome Waffensysteme), muss eine Version des Trolley-Problems lösen. Isaac Asimovs Robotergesetze waren der erste Versuch, solche Dilemmata in Regeln zu fassen, und scheiterten in seinen eigenen Geschichten regelmäßig an den Widersprüchen.