Data Poisoning

Data Poisoning ist ein Angriff auf die Datenbasis eines KI-Systems. Statt ein fertiges Modell direkt zu hacken, manipulieren Angreifer Trainingsdaten, Feedbackdaten, Label, Sensorströme oder Wissensquellen. Das Ziel kann sein, die Gesamtleistung zu verschlechtern, bestimmte Klassen falsch erkennen zu lassen oder eine Backdoor einzubauen, die nur bei einem speziellen Auslöser aktiv wird. Die KI wirkt dann normal, bis der vergiftete Fall eintritt.

Das Problem ist besonders relevant, weil moderne KI stark von großen, schwer vollständig prüfbaren Datenmengen abhängt. Wenn Trainingsdaten aus dem offenen Netz, Nutzerfeedback, Sensorflotten oder verteilten Organisationen stammen, wird Kontrolle schwierig. Ein kleiner Anteil gezielt manipulierter Daten kann in manchen Szenarien erhebliche Wirkung haben. Bei Bildklassifikation, Spamfiltern, Empfehlungssystemen, Sicherheitssoftware oder autonomen Systemen kann das gefährlich werden.

Science Fiction kann Data Poisoning als leisen Sabotageplot nutzen. Eine Drohnen-KI lernt, bestimmte Uniformmuster als harmlos zu sehen. Eine medizinische Diagnose-KI wird durch manipulierte Fallarchive verschoben. Eine Kolonie-KI erhält über Jahre falsche Umweltmessungen und trifft dadurch katastrophale Terraforming-Entscheidungen. Ein Sprachmodell wird mit erfundenen Geschichtsdaten gefüttert, bis die Gesellschaft ihre Vergangenheit anders bewertet.

Das Motiv ist stark, weil die Attacke vor dem sichtbaren Ereignis liegt. Wenn die KI versagt, ist der eigentliche Angriff längst passiert. Forensik muss Datenketten, Modelle, Versionen, Labels und Trainingsläufe rekonstruieren. In einer Welt voller autonomer Systeme wird Datensicherheit dadurch zu Infrastrukturverteidigung. Nicht nur Code ist kritisch, sondern alles, woraus Code lernt.

Data Poisoning zeigt auch eine philosophische Seite: Lernen ist verwundbar. Menschen können propagandistisch vergiftet werden, Maschinen statistisch. Beide Fälle verändern die Zukunft, weil sie Erwartungen formen. Für SF mit KI, Drohnenschwärmen oder digitaler Verwaltung ist Data Poisoning eines der plausibelsten Angriffsmodelle, weil es nicht spektakulär aussieht und trotzdem ganze Systeme kippen kann.

Besonders tückisch sind langfristige Poisoning-Angriffe. Ein System kann über Monate langsam verschoben werden, bis die neue Fehlwahrnehmung wie normale Entwicklung aussieht. Sabotage tarnt sich als Lernen.