KI-Ethik: KI fair und verantwortlich gestalten

Eine ethische Frage entsteht, wenn ein KI-System das Wohlergehen, die Rechte, die Chancen oder die Selbstbestimmung von Menschen beeinflusst. Das betrifft zum Beispiel Bewerbungsauswahl, Kreditwürdigkeit, medizinische Diagnosen, Gesichtserkennung oder autonome Fahrzeuge.

Eine rein technische Frage lautet: „Wie genau ist das System?“ Eine ethische Prüfung fragt zusätzlich:

• Welches Ziel verfolgt das System?
• Wer entwickelt, betreibt und kontrolliert es?
• Welche Daten werden erhoben und verarbeitet?
• Wer profitiert von der Entscheidung?
• Wer kann durch Fehler benachteiligt werden?
• Können Betroffene eine Entscheidung verstehen, anfechten oder umgehen?
• Wer trägt Verantwortung, wenn Schaden entsteht?

Bevor du ein KI-System bewertest, zeichnest du seinen Entscheidungsweg nach. Ein einfaches Schema lautet:

Ziel → Daten → Modell → Ausgabe → menschliche Entscheidung oder Aktion → Folgen

Zu jedem Schritt gehören Akteure. Das sind Personen oder Organisationen, die das System entwickeln, betreiben, nutzen, kontrollieren oder von seinen Ergebnissen betroffen sind.

Die Analyse macht Verantwortung sichtbar. Eine Organisation kann sich nicht damit entschuldigen, „die KI“ habe entschieden: Menschen legen Ziel, Daten, Einsatzbedingungen und Kontrollmöglichkeiten fest.

Ein Bias ist eine systematische Verzerrung. Er kann bereits bei der Zielsetzung und Datenauswahl entstehen oder erst beim Einsatz und bei der Interpretation der Ausgabe sichtbar werden.

Ein typischer Wirkungsweg lautet:

einseitige historische Daten → gelerntes verzerrtes Muster → unfaire Ausgabe → schlechterer Zugang zu Chancen oder Ressourcen

Im Beispiel der Bewerbungsauswahl enthielten die Trainingsdaten Entscheidungen aus Jahren, in denen überwiegend Männer eingestellt worden waren. Das System übernahm dieses historische Muster und bewertete Frauen schlechter. Es bildete damit nicht automatisch eine faire Eignung ab, sondern reproduzierte eine vorhandene Ungleichheit.

Bias kann auch durch unvollständige Daten entstehen. Sind etwa bestimmte Krankheiten in medizinischen Daten kaum vertreten, können Diagnosevorschläge für betroffene Menschen weniger zuverlässig sein.

Ein wissenschaftliches Modell bündelt wichtige Anforderungen an KI in sechs Prinzipien. Sie sind grundsätzlich gleichberechtigt, können aber je nach Anwendung unterschiedlich wichtig werden.

Wohltätigkeit

Die KI soll menschliches Wohlbefinden und gesellschaftlich Gutes fördern. Eine Anwendung braucht deshalb einen begründbaren Nutzen für die betroffenen Menschen.

Transparenz

Datenquellen, Verarbeitung, Grenzen und Verantwortlichkeiten sollen nachvollziehbar dokumentiert sein. Erklärbarkeit bedeutet dabei, dass Menschen verstehen können, wie eine Bewertung zustande kommt. Sie erleichtert es, Fehler und Diskriminierung aufzudecken.

Nicht-Boshaftigkeit

Schäden sollen vermieden oder möglichst weit begrenzt werden. Dazu gehören technische Sicherheit, Datenqualitätsprüfungen und fortlaufende Kontrollen.

Autonomie

Menschen sollen eine angemessene Entscheidungshoheit behalten. Sie benötigen verständliche Informationen, Handlungsmöglichkeiten und bei wichtigen Entscheidungen wirksame menschliche Aufsicht.

Gerechtigkeit

Das System soll Menschen fair behandeln und unerwünschte Benachteiligung verhindern. Dazu müssen unter anderem Daten, Verfahren und Fehlerfolgen geprüft werden.

Datenschutz

Personenbezogene Daten müssen geschützt werden. Zu prüfen sind Privatsphäre, Sicherheit, Eigentum, Zugriffsrechte und die verständliche Information darüber, wie Daten verwendet werden.

„Die KI soll fair sein“ ist ein wichtiges Ziel, aber noch keine überprüfbare Anforderung. Du brauchst einen Weg von der Idee zur Kontrolle:

Prinzip → konkretes Risiko → Gestaltungsanforderung → Prüfkriterium

Berücksichtige dabei zwei Fragen:

• Wie schwer wäre ein möglicher Schaden? Betrifft er etwa Grundrechte, Gesundheit oder den Zugang zu wichtigen Chancen?
• Wie abhängig sind Menschen von der Entscheidung? Können sie das System umgehen, eine Alternative wählen oder widersprechen?

Je größer der mögliche Schaden und je stärker die Abhängigkeit, desto strenger müssen Prüfung, Schutz und menschliche Aufsicht sein.

Eine gute Anforderung benennt also:

1. das zu schützende Ziel,
2. das konkrete Risiko,
3. eine technische oder organisatorische Maßnahme,
4. ein beobachtbares Prüfkriterium,
5. eine verantwortliche Stelle und
6. eine Reaktion auf festgestellte Probleme.

Ein generatives KI-System kann Texte erzeugen, die überzeugend klingen und trotzdem falsche oder unbelegte Inhalte enthalten. Seine ethische Bewertung umfasst deshalb mehr als die sprachliche Qualität der Ausgabe.

Stell dir einen Chatbot vor, der Lernenden Antworten auf Gesundheitsfragen gibt. Prüfe ihn mit dem bekannten Schema:

• Akteure: Lernende, Betreiber, Entwicklungsteam und gegebenenfalls medizinisch verantwortliche Fachpersonen.
• Datenfluss: Eingabe der Frage, Verarbeitung durch das Modell, erzeugte Antwort und mögliche Speicherung der Eingabe.
• Fehlerfolge: Eine überzeugend formulierte falsche Aussage kann zu einer ungeeigneten Handlung führen.
• Abhängigkeit: Manche Nutzende erkennen Unsicherheit möglicherweise nicht oder haben keine leicht erreichbare Alternative.
• Anforderung: Grenzen und Unsicherheiten müssen verständlich kenntlich sein; folgenschwere Ausgaben brauchen geeignete Prüf- und Aufsichtsverfahren.
• Prüfkriterium: Festgelegte Testfälle kontrollieren, ob unbelegte Aussagen als sicher dargestellt werden und ob vorgesehene Schutzmaßnahmen tatsächlich greifen.

Du kannst ein KI-System ethisch beurteilen, wenn du nicht bei einer Liste abstrakter Chancen und Risiken stehen bleibst: Verfolge den Daten- und Entscheidungsweg, untersuche die Folgen für verschiedene Betroffene und formuliere Anforderungen, deren Einhaltung tatsächlich geprüft werden kann.