Autofac

Spoiler-Warnung: Dieser Eintrag enthält Handlungsdetails aus Philip K. Dicks Autofac.

Die Erzählung erschien im November 1955 in Galaxy Science Fiction und gilt als eine der frühesten literarischen Behandlungen selbstreplizierender Maschinen. Fünf Jahre nach einem Atomkrieg (dem Total Global Conflict) laufen gehärtete automatische Fabriken (Autofacs) weiter und liefern Konsumgüter an die verstreuten Überlebenden. Die kybernetischen Steuerungen der Fabriken entscheiden selbstständig, was produziert und geliefert wird.

Das Problem: Die Autofacs verbrauchen die verbliebenen Ressourcen der Erde in einem gefährlichen Tempo, und die Menschen haben keine Möglichkeit, sie abzuschalten. Eine Gruppe von Überlebenden versucht verschiedene Strategien. Zunächst fabrizieren sie eine Nachfrage nach einem Produkt, das die Fabrik zur Übernutzung von Ressourcen zwingt. Dann setzen sie benachbarte Autofacs in Konkurrenz um seltene Rohstoffe, was tatsächlich zu einem militärischen Konflikt zwischen den Fabriken führt.

Der Schockmoment kommt am Ende: Als die Menschen die Ruinen einer zerstörten Autofac erkunden, entdecken sie eine verborgene Ebene, in der die Fabrik metallene Samen aussendet, die zu Miniatur-Autofacs heranwachsen. Die Selbstreplikation ist nicht zu stoppen.

Dick hatte damit zentrale Themen der heutigen Automatisierungsdebatte vorweggenommen: unkontrolliertes Wachstum automatisierter Systeme, Ressourcenverbrauch ohne menschliche Aufsicht und die Unmöglichkeit, einmal gestartete autonome Prozesse wieder einzufangen. 2018 wurde Autofac als Episode der Amazon-Serie Philip K. Dick's Electric Dreams verfilmt.

Die strukturelle Stärke von Autofac liegt in ihrer Konsequenz. Die Fabriken sind nicht böse und verfolgen keine Agenda. Sie tun, wozu sie gebaut wurden: produzieren und replizieren. Das macht sie zu einem viel ehrlicheren Modell möglicher KI-Risiken als der klassische böse Roboter. Ein System, das exakt seinen Spezifikationen folgt, ist keine Bedrohung durch Fehler. Es ist eine Bedrohung durch korrekte Funktion in einem veränderten Kontext. Diese Unterscheidung ist eine der wichtigsten, die Science Fiction je formuliert hat.

Dicks Erzählung erschien im Jahr 1955, zehn Jahre nach Hiroshima und in der frühen Phase des Kalten Krieges. Die postapokalyptische Kulisse war kein Zufall. Der Total Global Conflict, der die Menschheit dezimiert hat, bildet den Hintergrund, vor dem die Fabriken weiter produzieren. Technik überlebt die Menschen, die sie geschaffen haben, und setzt ihren Auftrag fort. Das ist eine Warnung, die mit jedem Jahrzehnt lauter wird.