Bias-Prüfung für Algorithmen
Algorithmic Bias Detection Tool
Diese Software prüft, ob ein KI-System Gruppen von Menschen unfair behandelt, etwa ob ein Modell für Kredite oder Bewerbungen bei Frauen oder bei einer ethnischen Gruppe mehr Fehler macht als bei anderen. Findet sie eine Lücke, kann sie die Trainingsdaten neu ausbalancieren oder das Modell anpassen, und sie protokolliert jede Prüfung. Das Prüfen ist einfach. Schwierig ist, dass sich verschiedene Definitionen von „fair“ nicht alle zugleich erfüllen lassen, also müssen Menschen wählen.
Reife
Nicht bewertet. Watchlist-Einträge fließen in keine Steigung ein. WKO Innovation Map 26/27 (2026)
Werkzeuge zur Bias-Erkennung durchleuchten eine Pipeline des maschinellen Lernens, also Trainingsdaten, Modell und Ausgaben im Betrieb, und messen, ob ein geschütztes Merkmal Ergebnisse beeinflusst, die es nicht beeinflussen sollte.
Die Technik ist weiter, als die Debatte vermuten lässt. Fairness-Metriken gibt es, adversariales De-Biasing funktioniert, und das Prüfen selbst ist nicht schwer. Schwer ist, dass Fairness keine einzelne Größe ist. Die wichtigsten Metriken sind mathematisch miteinander unvereinbar, außer in trivialen Fällen: Man kann die Fehlerquoten zwischen Gruppen angleichen oder die Bedeutung einer positiven Vorhersage, aber nicht beides. Ein Werkzeug kann das nicht auflösen, denn es ist kein Messproblem. Es ist die Frage, was eine Institution den Menschen schuldet, über die sie entscheidet, und jemand muss sie beantworten, bevor das Werkzeug überhaupt einen Maßstab hat.
Deshalb hinkt der Einsatz hier dem technischen Stand hinterher. Das Instrument ist fertig, aber die Vorgabe, an der es prüfen würde, gibt es nicht.
Verbreiteter Irrtum: dass die Bias-Prüfung ein Schritt der Fehlersuche ist. Die Wahl der Fairness-Metrik ist eine politische Entscheidung. Wer prüft, ohne sie getroffen zu haben, erhält eine Zahl, die bedeutet, was der Leser gerade will.
Möglicherweise verwandte Megatrends - ungeprüft
Ungeprüft. Abgeleitet aus dem WKO-Cluster dieser Technologie, nicht aus einer Bewertung der Technologie selbst. Ein Ausgangspunkt für die Prüfung, keine Behauptung.
Talin, B. (2026). Bias-Prüfung für Algorithmen. The Future Explorer, dataset v0.4.0 (16. November 2026). https://explorer.talin.digital/e/algorithmic-bias-detection-tool/