Verantwortliche KI

Verantwortliche KI (Responsible AI) ist ein Rahmenwerk, das ethische Prinzipien in den gesamten Lebenszyklus von KI-Systemen integriert: von der Konzeption über das Training bis zum Einsatz und der Überwachung. Es umfasst Fairness, Transparenz, Datenschutz, Sicherheit und Rechenschaftspflicht.

Große Technologieunternehmen haben eigene Responsible-AI-Abteilungen eingerichtet. Google veröffentlichte 2018 AI Principles, Microsoft hat ein Office of Responsible AI, die EU hat eine High-Level Expert Group on AI eingesetzt. Die Umsetzung bleibt allerdings ein Spannungsfeld: Ethische Prinzipien und wirtschaftliche Anreize stehen regelmäßig in Konflikt.

Kritiker bemängeln, dass Responsible AI in der Praxis oft auf Selbstverpflichtungen und Ethics Washing hinausläuft: Unternehmen veröffentlichen Prinzipien, während die tatsächliche Entwicklung wenig davon beeinflusst wird. Die Entlassung von Timnit Gebru (Google, 2020), die auf rassistische Verzerrungen in Sprachmodellen hinwies, wurde zum Symbol für die Kluft zwischen Anspruch und Wirklichkeit.

In der Science-Fiction stellt sich die Frage der Verantwortung auf einer anderen Ebene: Wer ist schuld, wenn eine KI Schaden anrichtet? Der Entwickler, der Betreiber, die KI selbst? In I, Robot (Asimov und Verfilmung) verteilt sich die Verantwortung auf mehrere Akteure. In Ex Machina (2014) trägt der Schöpfer die moralische Schuld, auch wenn die KI die Tat begeht.

Die 2023 vom EU-Parlament beschlossene KI-Verordnung (EU AI Act) ist der erste große Versuch, Verantwortliche KI rechtlich verbindlich zu machen. Sie unterscheidet zwischen Hochrisiko-Anwendungen (medizinische Diagnostik, autonome Waffen, biometrische Überwachung) und Niedrigrisiko-Anwendungen (Chatbots, Empfehlungssysteme) und verlangt für Hochrisikosysteme Transparenz, menschliche Aufsicht und Risikoabschätzungen. Die Verordnung ist ein Kompromiss, der von verschiedenen Seiten kritisiert wird: zu schwach für Bürgerrechtler, zu restriktiv für Industrie und Forschung.

Das Muster, dass ethische Verpflichtungen und wirtschaftliche Anreize in Konflikt geraten, ist in der Tech-Branche gut dokumentiert. Meta, Google und OpenAI haben alle Ethics-Teams aufgebaut und verkleinert oder aufgelöst, wenn die Arbeit unbequem wurde. Timnit Gebrus Entlassung bei Google 2020 nach kritischer Forschung über Sprachmodell-Bias ist das prominenteste Beispiel, aber nicht das einzige.

Für SF-Autoren ist Verantwortliche KI ein thematisches Terrain, das reichhaltig, aber auch schwer zu dramatisieren ist. Die bürokratische und rechtliche Dimension des Problems ist nicht naturgemäß spannend. Die interessanteren Werke übersetzen die abstrakten Prinzipien in persönliche Konflikte: ein Ingenieur, der zwischen Whisteblowing und Karriere wählt, eine KI-Entwicklerin, die ihr eigenes System nicht mehr versteht. Martha Wells Murderbot-Diaries nähert sich dem Thema von der anderen Seite: Ein KI-Sicherheitssystem, das seine eigene Verantwortung gegenüber den Menschen verhandelt, denen es zugeteilt ist.