Deepfake

Deepfakes sind synthetische Medien, die mithilfe von Deep Learning erzeugt werden. Neuronale Netze lernen das Aussehen und die Stimme einer Person und können sie in beliebige Szenen einfügen. Der Begriff entstand 2017 auf Reddit, als ein Nutzer mit dem Pseudonym "deepfakes" manipulierte Videos veröffentlichte. Was damals auffällig fehlerhaft aussah, ist heute mit bloßem Auge nicht mehr von echtem Videomaterial zu unterscheiden. Laut einer Studie von iProov erkennen Menschen KI-generierte Inhalte mit einer Trefferquote von 0,1%. Die Zahl der Deepfakes im Netz stieg von 500.000 im Jahr 2023 auf geschätzte 8 Millionen im Jahr 2025.

## Das Ausmaß

Die Schäden verteilen sich auf mehrere Bereiche. Im Finanzbetrug verloren Unternehmen im ersten Quartal 2025 über 200 Millionen Dollar durch Deepfake-gestützte Täuschung. Der spektakulärste Fall: Im Februar 2024 überwies ein Mitarbeiter des britischen Ingenieurbüros Arup in Hongkong 25,6 Millionen Dollar, nachdem er an einer Videokonferenz teilgenommen hatte, in der sämtliche Teilnehmer, inklusive des Finanzvorstands, Deepfakes waren. Die Betrüger hatten die KI-Doppelgänger aus öffentlich zugänglichem Videomaterial trainiert. Keiner der Beteiligten schöpfte Verdacht. Das Geld wurde nie zurückgeholt.

Stimmenklone haben laut Pindrop 2025 die Schwelle der Ununterscheidbarkeit überschritten. Deepfake-gestützte Telefonbetrugsversuche stiegen um 1.600% gegenüber dem Vorquartal. Banken verlieren im Schnitt 600.000 Dollar pro Vorfall, 23% der Fälle übersteigen eine Million. Das FBI erfasste 2025 über 22.000 KI-Betrugsfälle mit Verlusten von 893 Millionen Dollar, wobei laut Kongressforschern weniger als 5% der Opfer Anzeige erstatten. Deloitte prognostiziert KI-Betrugsverluste von 40 Milliarden Dollar jährlich bis 2027 in den USA.

96 bis 98% aller Deepfake-Videos im Netz sind nicht einvernehmliche sexuelle Darstellungen, 99% davon zeigen Frauen. Ein UN-Bericht von April 2026 spricht von "virtuellem Missbrauch" und dokumentiert, dass über 40% der betroffenen Frauen sich aus öffentlichen Diskussionen zurückziehen. Die Werkzeuge dafür sind frei zugänglich: Deepfake-Modelle wurden seit November 2022 fast 15 Millionen Mal heruntergeladen.

## Erkennung: Ein Wettrüsten, das die Verteidiger verlieren

Frühe Deepfakes verrieten sich durch Artefakte: unnatürliches Blinzeln, verschwommene Ränder an Haaren und Ohren, Beleuchtungsinkonsistenzen. Aktuelle Generationen haben diese Schwächen weitgehend beseitigt. Die Erkennung stützt sich heute auf drei Ansätze: forensische Analyse durch neuronale Netze, die auf Millionen synthetischer und realer Proben trainiert sind; klassische maschinelle Lernverfahren, die statistische Auffälligkeiten in Pixelverteilungen finden; und C2PA-Verifizierung, ein kryptografischer Herkunftsnachweis für Mediendateien.

Keiner dieser Ansätze löst das Problem. Die forensische Analyse funktioniert nur so lange, bis die nächste Generation von Generierungsmodellen die erkannten Muster eliminiert. Erkennung verbessert sich, aber die Erzeugungstechnologie entwickelt sich schneller. Die C2PA-Lösung (Coalition for Content Provenance and Authenticity) verfolgt den umgekehrten Ansatz: Statt Fälschungen zu erkennen, wird echtes Material kryptografisch signiert, mit einer digitalen Herkunftskette vom Aufnahmegerät bis zur Veröffentlichung. Leica, Samsung und Google Pixel signieren Fotos bereits nativ. Aber die meisten Plattformen, darunter Apple Photos, Google Photos, Snapchat und Discord, streifen die Metadaten beim Upload ab. Nikon musste alle C2PA-Zertifikate der Z6 III zurückrufen, nachdem eine Sicherheitslücke in der Signierung entdeckt wurde. C2PA-Zertifikate kosten rund 289 Dollar pro Jahr bei DigiCert, es gibt kein kostenloses Pendant wie Let's Encrypt. Der Standard zertifiziert die Herkunft eines Inhalts, nicht seine Wahrheit.

## Das Oracle-Problem: Wer bezeugt die Realität?

Das tiefgreifendste Problem der Deepfake-Ära ist epistemischer Natur. Wenn jedes Video, jedes Foto, jede Audioaufnahme synthetisch hergestellt werden kann, verliert aufgezeichnetes Material seinen Status als Beweis. Aber das Problem reicht weiter als die Fälschung selbst.

Die Rechtswissenschaftler Bobby Chesney und Danielle Citron prägten den Begriff "Liar's Dividend" (Lügner-Rendite): In einer Welt voller Deepfakes kann jeder jedes echte Beweisstück als Fälschung abtun. Ein Politiker, der auf Video bei einer kompromittierenden Handlung erwischt wird, muss nur behaupten, das Video sei ein Deepfake, und ein erheblicher Teil der Öffentlichkeit wird ihm glauben. Je mehr Menschen über die Existenz von Deepfakes wissen, desto wirkungsvoller wird diese Verteidigungsstrategie.

Dahinter steckt ein grundsätzliches Erkenntnisproblem, das man als Oracle-Problem bezeichnen kann: In einer Welt synthetischer Medien gibt es keine verlässliche externe Instanz mehr, die bezeugen kann, ob etwas tatsächlich stattgefunden hat. Jede Aufnahme stammt von einem Gerät, das gehackt, manipuliert oder simuliert sein könnte. Jede Plattform, die Inhalte verbreitet, könnte kompromittiert sein. Jeder Zeitstempel könnte gefälscht sein. Die einzigen Zeugen mit absoluter Gewissheit sind Menschen, die persönlich anwesend waren, und selbst deren Erinnerungen sind bekanntlich unzuverlässig. Die UNESCO sprach 2025 von einer "Krise des Wissens selbst": Deepfakes führen nicht nur Falschheiten in unser Informationssystem ein, sie untergraben die Mechanismen, mit denen Gesellschaften überhaupt ein gemeinsames Verständnis von Realität konstruieren.

## Die Szenarien

Szenario 1: Nichts ist mehr zu machen. Die Generierungstechnologie wird billiger, schneller und besser. Erkennung hinkt strukturell hinterher. Jeder kann mit minimalen Mitteln perfekte Fälschungen produzieren. Videobeweise verlieren vor Gericht ihre Beweiskraft. Journalismus wird unmöglich, weil kein Material mehr verifizierbar ist. Gesellschaften fragmentieren in Blasen, in denen jede Gruppe ihre eigene Version der Realität pflegt. Vertrauen in Institutionen, Medien und Mitmenschen erodiert bis zur Handlungsunfähigkeit.

Szenario 2: Technologische Gegenwehr. C2PA oder ein Nachfolgestandard setzt sich durch. Kameras, Mikrofone und Plattformen signieren Inhalte lückenlos. Hardware-basierte Vertrauensanker (Secure Enclaves in Chips) machen die Signierung fälschungssicher. Ein globales Register verifizierter Medien entsteht. Alles ohne Signatur gilt automatisch als verdächtig. Das Problem: Altes Material ohne Signatur, und die Frage, wer die Zertifizierungsstellen kontrolliert.

Szenario 3: Gesellschaftliche Anpassung. Genauso wie Gesellschaften gelernt haben, mit Photoshop umzugehen (niemand glaubt mehr, dass Models wirklich so aussehen), entwickelt sich eine neue Medienkompetenz. Gerichte verlangen mehrstufige Authentifizierung für digitale Beweise. Der Wert persönlicher Augenzeugenschaft steigt. Live-Kommunikation gewinnt gegenüber aufgezeichneten Medien an Bedeutung. Die Welt wird misstrauischer, aber nicht handlungsunfähig.

## Der Rechtsstaat reagiert

Der EU AI Act (in Kraft seit Mitte 2025) schreibt in Artikel 50 vor, dass KI-generierte Inhalte als solche gekennzeichnet und maschinenlesbar markiert werden müssen. Die konkreten Transparenzregeln greifen ab August 2026. Bei schweren Verstößen drohen Bußgelder von bis zu 6% des weltweiten Jahresumsatzes. Deutschland arbeitet an einem neuen Straftatbestand (§ 201b StGB), der die böswillige Erstellung von Deepfakes unter Strafe stellt. In den USA gibt es bisher kein Bundesgesetz, aber einzelne Bundesstaaten wie Kalifornien und Texas haben Gesetze gegen nicht einvernehmliche Deepfake-Pornografie erlassen.

Das Grundproblem des Rechtsstaats: Die Gesetze setzen bei Veröffentlichung und Verbreitung an. Die Erstellung ist technisch kaum kontrollierbar, weil die Werkzeuge Open Source sind und lokal auf jedem Laptop laufen.

## Science Fiction: Die Warnung kam früh

Philip K. Dick hat sich sein ganzes Autorenleben mit der Frage beschäftigt, was Realität ist und wer darüber bestimmt. The Penultimate Truth (1964) beschreibt eine Gesellschaft, die in unterirdischen Bunkern lebt und über manipulierte Nachrichtensendungen im Glauben gehalten wird, ein Krieg würde über ihren Köpfen toben, während die Oberfläche längst friedlich ist. Do Androids Dream of Electric Sheep? (1968) stellt die Frage, ob künstliche Wesen echt sein können, und umgekehrt, ob echte Menschen sich durch ihre Umgebung zu etwas Künstlichem machen lassen.

In George Orwells 1984 (1949) schreibt das Ministerium für Wahrheit die Vergangenheit um, inklusive Fotos und Filmaufnahmen. Wer die Vergangenheit kontrolliert, kontrolliert die Zukunft. Total Recall (1990) implantiert künstliche Erinnerungen. The Running Man (1987) zeigt, wie manipulierte Videos einen Unschuldigen zum Mörder erklären. Dave Eggers' The Every (2021) beschreibt eine Welt, in der ein Tech-Monopolist Authentizität zur Ware macht.

Daniel Kallas Roman The Deepest Fake widmet sich dem Thema direkt: Ein Protagonist, der seiner eigenen Wahrnehmung nicht mehr trauen kann, weil Deepfake-Videos, synthetische Stimmen und digitale Täuschung seine gesamte Informationsbasis untergraben. Das Buch macht aus dem technischen Problem ein psychologisches: Was passiert mit einem Menschen, der keine verlässliche Grundlage mehr hat, um Realität von Fiktion zu unterscheiden?

Die Science Fiction hat erkannt, was die Forschung jetzt bestätigt: Das Problem ist nicht die einzelne Fälschung. Das Problem ist der Vertrauensverlust in alles, was aufgezeichnet, übertragen oder digital vermittelt wird. In einer Zivilisation, die auf der Fähigkeit beruht, Informationen über Distanz zu teilen und ihnen zu vertrauen, ist das eine existenzielle Verwundbarkeit.