ZEISS

Certifications and Foundations of Safe Machine Learning Systems in Healthcare

01.02.2022 bis 31.01.2028

Moderne Deep Learning Systeme im Gesundheitswesen haben das Potential, Diagnoseentscheidungen von ähnlicher Qualität wie behandelnde Ärzte zu treffen. Allerdings gibt es Bedenken hinsichtlich deren Transparenz, Robustheit, Fairness und Verlässlichkeit. Ziel des Projekts ist es diese Probleme zu beheben und dabei die Abhängigkeiten und Zielkonflikte verschiedener Aspekte (Fairness, Genauigkeit, Interpretierbarkeit und Privacy) als auch deren ethische Implikationen an konkreten Anwendungen im Gesundheitsbereich zu erforschen. Dabei sollen Leitlinien für eine Zertifizierung solcher Systeme aufgestellt und dadurch ein sicherer Einsatz in der Medizin ermöglicht werden