Verzerrungen in Predictive-AI-Modellen erkennen und vermeiden
KI-Modelle sind nur so fair wie die Daten, mit denen sie trainiert werden. Enthalten die Trainingsdaten historische Vorurteile, kann die KI verzerrte oder unfaire Vorhersagen liefern. Solche fehlerhaften Ergebnisse können in der Praxis zu falschen Entscheidungen führen.
Ein Beispiel: Ein Vertriebsteam setzt KI-Algorithmen ein, um potenzielle Leads zu bewerten. Wenn die Trainingsdaten nur erfolgreiche Abschlüsse aus einer bestimmten Region umfassen, stuft das Modell Leads aus anderen Regionen möglicherweise schlechter ein.
Ein weiteres Beispiel aus dem Kundendienst: Ein Modell prognostiziert, welche Kund:innen einen „Prioritätsstatus“ verdienen, basierend auf früheren Interaktionen. Wenn historische Daten zeigen, dass Mitarbeitende einer bestimmten demografischen Gruppe weniger aufmerksam begegnet sind, wiederholt die KI dieses Muster. Das mindert die Servicequalität für diese Gruppe auf unfaire Weise.
Um solchen Problemen vorzubeugen, sollten Unternehmen konsequent auf vielfältige und unvoreingenommene Datensätze setzen. Nur so bleiben Prognosen für alle Gruppen zuverlässig und ethisch vertretbar.