Algorithmen ohne Vorurteile: Warum Diversität in der KI-Diagnostik kein „Nice-to-have“ ist

KI-Diagnosen bei Hautkrebs waren oft unzuverlässig bei dunkleren Hauttypen. Das neue DFKI-Projekt zeigt, wie wir Bias durch bessere Datenbasis beheben.

Algorithmen ohne Vorurteile: Warum Diversität in der KI-Diagnostik kein „Nice-to-have“ ist

Meine Einschätzung zum aktuellen Stand der KI in der Medizin: Technologie ist nur so gut wie die Daten, auf denen sie basiert. Ein aktuelles Projekt des DFKI zeigt deutlich, wo die Reise hingehen muss. Bisher haben viele KI-Systeme zur Hautkrebsdiagnose ein massives Problem: Sie funktionieren bei dunkleren Hauttypen deutlich unzuverlässiger als bei heller Haut. Das ist kein technisches Versagen im eigentlichen Sinne, sondern ein systematischer Bias in den Trainingsdaten.

Ein Paradebeispiel für „Inclusion by Design“: wenn wir Innovationen entwickeln, die Menschenleben helfen sollen, dürfen wir keine Gruppen durch algorithmische Voreingenommenheit benachteiligt oder ausgeschlossen werden. Das DFKI-Projekt geht hier einen pragmatischen Weg, indem es gezielt die Datenbasis erweitert. Hier treffen Technologie, Gesellschaft und Prozess aufeinander: Wir müssen die Prozesse der Datenerhebung grundlegend überdenken, um eine Technologie zu schaffen, die für die gesamte Gesellschaft funktioniert, nicht nur für einen Teil davon.

Es geht hier um mehr als nur „bessere Algorithmen“. Es geht um die Verantwortung, die Entwickler und Entscheider tragen. Wenn die Abhängigkeiten in der digitalen Lieferkette und die Qualität der Eingangsdaten nicht kritisch hinterfragt werden, riskieren wir, Ungerechtigkeiten der Vergangenheit in die Software der Zukunft zu schreiben. Pragmatisch betrachtet ist die Behebung dieses Bias eine notwendige Investition in die Qualität und Verlässlichkeit des Produkts.

Perspektive: Natürlich darf der Fokus auf die Behebung von Bias nicht dazu führen, dass die Einführung bereits existierender, hilfreicher Tools verzögert wird. Ein pragmatischer Ansatz muss die Balance finden: Wir nutzen die verfügbaren Technologien, um heute Leben zu retten, während wir parallel die Datenbasis systematisch verbessern, um die Inklusion für morgen sicherzustellen.


Quellen

1.Bericht über das DFKI-Projekt zur Verbesserung der KI-basierten Hautkrebsdiagnose durch die Erzeugung diversifizierter Trainingsdaten.
2.Hintergrundinformationen zur Rolle und den Herausforderungen von KI in der klinischen Diagnostik.