Erklärbare KI (XAI)

Erklärbare KI (Explainable AI, XAI) ist ein Forschungsfeld, das KI-Systeme transparenter machen will. Moderne neuronale Netze mit Milliarden von Parametern treffen Entscheidungen, die selbst ihre Entwickler nicht vollständig erklären können. XAI entwickelt Methoden, um diese Blackbox zu öffnen.

Das Problem ist praktisch relevant. Wenn eine KI einen Kreditantrag ablehnt, eine medizinische Diagnose stellt oder über eine Bewährung entscheidet, haben die Betroffenen ein Recht zu erfahren, warum. Der EU AI Act schreibt für Hochrisiko-KI-Systeme Erklärbarkeit vor. DARPA startete 2017 das XAI-Programm, um militärische KI-Entscheidungen nachvollziehbar zu machen.

Techniken wie LIME (Local Interpretable Model-agnostic Explanations), SHAP (SHapley Additive exPlanations) und Attention-Visualisierung zeigen, welche Merkmale einer Eingabe die Entscheidung der KI am stärksten beeinflusst haben. Aber eine echte Erklärung, warum ein Netz so und nicht anders entscheidet, ist bei komplexen Modellen oft nicht möglich.

In der Science-Fiction ist die unerklärliche KI-Entscheidung ein bekanntes Motiv. HAL 9000s Verhalten ist für die Besatzung unverständlich, bis es zu spät ist. In Westworld (TV-Serie) verstehen die Entwickler nicht, warum die Hosts abweichendes Verhalten zeigen. Die Frage "Warum hat die Maschine das getan?" ist so alt wie die fiktive KI selbst.

Gerade die Undurchschaubarkeit moderner KI macht die erklärbare KI zu einem dringenden Anliegen, je mehr Entscheidungen über Menschen an Maschinen übergehen. Wer einen Kredit verweigert, eine Diagnose stellt oder über Freiheit mitentscheidet, schuldet den Betroffenen eine nachvollziehbare Begründung, und ein System, das nur ein Ergebnis ausspuckt, ohne es erklären zu können, untergräbt das Vertrauen in seine Urteile. Die Science-Fiction hat diese Sorge früh gespürt, wenn ihre Maschinen Entscheidungen treffen, deren Logik den Menschen verborgen bleibt. Erklärbare KI ist der Versuch, diese Blackbox zu öffnen, bevor wir ihr zu viel Macht über unser Leben überlassen.