Ungleiche Datenschutzrisiken bei medizinischer KI: Was Hersteller jetzt angehen sollten

Patientendaten in der medizinischen KI sind nicht „nur“ ein datenschutzrechtliches Thema – sie stellen ein ungleichmäßig verteiltes Risiko dar.

Eine kürzlich in „Nature“ von Knolle et al. veröffentlichte Studie zeigt, dass Angriffe zur Mitgliederidentifizierung bei einigen einzelnen Patienten nahezu perfekt erkennen können, ob ihre Daten zum Trainieren eines medizinischen KI-Modells verwendet wurden – selbst wenn die durchschnittlichen Datenschutzkennzahlen harmlos erscheinen. Ein „Membership-Inference“-Angriff ist ein Angriff auf den Datenschutz, bei dem ein Angreifer ein KI-Modell abfragt, um zu ermitteln, ob die Daten eines bestimmten Patienten Teil des Trainingsdatensatzes des Modells waren. Unterrepräsentierte Gruppen (zum Beispiel bestimmte Krankheiten, selbst angegebene ethnische Zugehörigkeit („Rasse“), Versicherungsarten oder Bildgebungsprotokolle) sind unter den Patienten mit dem höchsten Risiko überproportional vertreten.

Für Hersteller medizinischer Geräte und Sponsoren klinischer Studien bedeutet dies:

• „Durchschnittliche“ Datenschutzkennzahlen reichen nicht mehr aus. Aggregierte AUC-Werte unterschätzen systematisch das tatsächliche Risiko, dem einzelne Patienten ausgesetzt sind.
• Größere und leistungsfähigere Modelle erhöhen das individuelle Datenschutzrisiko, in manchen Fällen um mehrere Größenordnungen.
• Unterrepräsentierte Untergruppen tragen einen unverhältnismäßig hohen Anteil der Datenschutzlast, was die bestehenden Ungleichheiten in Bezug auf Fairness und Leistung noch verstärkt.

Die Autoren kommen zu dem Schluss, dass ein Kompromiss zwischen der Privatsphäre der Patienten und der Modellleistung unvermeidbar ist; insbesondere bei seltenen Krankheiten wird daher empfohlen, die Notwendigkeit von Leistungsverbesserungen sorgfältig abzuwägen.

Da MIAs effektiv aufdecken können, ob die Daten einer Person zum Training eines medizinischen KI-Modells verwendet wurden, erfordern diese Systeme und ihr Einsatz eine sorgfältige Bewertung potenzieller Informationslecks sowie die Umsetzung strenger, überprüfbarer Schutzmaßnahmen und Zugriffsbeschränkungen.