Wenn KI Entscheidungen trifft

Die Entscheidungen einer KI können wir häufig nicht Schritt für Schritt nachvollziehen. Wir können ihre Entscheidungen jedoch beobachten und dadurch erfahren, wie verlässlich ihre Antworten sind. Wenn wir das verstehen, können Fehlentscheidungen der KI vermieden werden. Beispielsweise verdienen Frauen für die gleichen Tätigkeiten im Durchschnitt immer noch weniger als Männer. Eine mit ungefilterten historischen Daten gefütterte KI wird auch diese diskriminierende Beziehung zwischen Geschlecht und Gehalt lernen und übertragen. Die Empfehlung der KI zur Gehaltsermittlung bei Einrichtungsleitungen lautet dann, dass Frau Meier bei gleicher Qualifikation weniger als Herr Schulze verdienen soll.

Um solche Fehlentscheidungen zu vermeiden untersuchen Forschende, wie nachvollzogen werden kann, welche Eingabewerte zu einer konkreten Entscheidung der KI geführt haben. Dieser Forschungsbereich wird „Erklärbare KI“ genannt und beschäftigt sich insbesondere mit Themen zum Datenschutz und zur Datenethik. Erfahre im nächsten Kapitel, warum diese Themen im Zusammenhang mit KI wichtig sind.