XAI stärkt Vertrauen in Melanomdiagnostik

Berlin -

Wissenschaftler:innen vom Deutschen Krebsforschungszentrum in der Helmholtz-Gemeinschaft entwickelten eine erklärbare KI (XAI) für die Hautkrebsdiagnose. Diese kann ihre Entscheidungen anhand etablierter Merkmale begründen. In ihrer aktuellen Studie konnte die Forschenden nachweisen, dass ihre XAI in der Lage ist, das Vertrauen der Dermatologinnen und Dermatologen in ihre eigenen Diagnosen nachweislich zu steigern.

Das Melanom ist weltweit für die meisten hautkrebsbedingten Todesfälle verantwortlich. Im Frühstadium ist es allerdings nur schwer von anderen Hauttumoren zu unterscheiden. KI-Systeme sind in der Lage, Hautärztinnen und Hautärzte dabei zu unterstützen, Melanome und Muttermale präziser zu erkennen. Dafür nutzen sie digitalisierte Bilder von verdächtigen Hautveränderungen.

XAI-verbesserte Diagnostik

„Die letztendliche Verantwortung für eine Diagnose liegt beim Kliniker. Deshalb sind Dermatologen berechtigterweise vorsichtig, KI-basierte Systeme einzusetzen, ohne deren Entscheidungen nachvollziehen zu können“, erläutert Titus Brinker, Hautarzt und Wissenschaftler am DKFZ. Die Systeme neigen dazu, korrelierte Merkmale in ihre Entscheidungsfindung aufzunehmen. Sie beziehen allerdings auch Scheinkorrelationen mit ein.

„Unser Ziel war es daher, ein Unterstützungssystem zu entwickeln, das auf die Sichtweise von Dermatologen bei der Melanomdiagnose abgestimmt ist und seine Entscheidungsfindung erklärt“, erklärt Brinker. „In Anlehnung an frühere Arbeiten haben wir unsere erklärbare KI, kurz XAI – explainable artificial intelligence – so entwickelt, dass sie Dermatologen-ähnliche Erklärungen liefert, die sich auf die Merkmale bestimmter, einzelner Zonen der Läsion beziehen.“

Zur Studie

Brinker und Team führten die Studie in drei Phasen durch. Sie untersuchten die Auswirkungen auf die diagnostische Genauigkeit und Sicherheit sowie das Vertrauen der Dermatologen in das erklärende System. Die Forschenden interessierte außerdem, welche Faktoren das Vertrauen der Ärzte in die KI fördern.

Über einhundert Hautärztinnen und Hautärzte aus 33 Ländern nahmen an der Studie teil. Sie diagnostizierten Hautveränderungen auf digitalen Bildern.. Die Ärztinnen und Ärzte diagnostizierten ein Testpanel an digitalisierten Aufnahmen verschiedener Läsionen dreimal. Dies geschah erstens allein auf der Basis ihrer fachlichen Erfahrung, zweitens mit Unterstützung eines herkömmlichen KI-Systems und drittens mit der XAI.

Mediziner durch XAI bestärkt

Wie bereits in früheren Studien dokumentiert, steigerte die Nutzung eines KI-Systems die diagnostische Genauigkeit bei der Erkennung von Melanomen. Eine weitere Verbesserung durch XAI konnte hier jedoch nicht festgestellt werden nicht. Allerdings verbessert sich das Vertrauen der Dermatologen in die eigene Entscheidung unter KI-Unterstützung. Unter dem Einsatz des – XAI-Systems steigerte sich das Vertrauen noch einmal um ein vielfaches. Die Mediziner vertrauten ihrer Diagnose insbesondere dann, wenn sie mit den von der XAI genannten Kriterien weitgehend übereinstimmte.

„Die Ergebnisse veranschaulichen, dass die XAI die Diagnosesicherheit von Klinikern verbessern kann und das Potenzial hat, die Akzeptanz der Mediziner für den Einsatz von KI-Methoden zu steigern“, erklärt Studienleiter Brinker. „Die europäische Datenschutzgrundverordnung verlangt, dass alle algorithmusbasierten Entscheidungen für die Endnutzer interpretierbar sein müssen. Unsere Arbeit ist ein wichtiger erster Schritt zur Schließung der Interpretationslücke.“