Certification and Foundations of Safe Machine Learning Systems in Healthcare

Schwerpunktthema: Künstliche Intelligenz
Art der Förderung: Projektförderprogramme
Programm: CZS Durchbrüche
Geförderte Institution:
  • Eberhard Karls Universität Tübingen

Ein interdisziplinäres Team an der Universität Tübingen erforscht Grundlagen für den sicheren Einsatz von KI-Systemen im Gesundheitswesen und erarbeitet Leitlinien für deren Zertifizierung.

Ziele

Moderne Deep Learning Systeme im Gesundheitswesen haben das Potential, Diagnoseentscheidungen von ähnlicher Qualität wie behandelnde Ärzte zu treffen. Allerdings gibt es Bedenken hinsichtlich deren Transparenz, Robustheit, Fairness und Verlässlichkeit. Ziel des Projekts ist es diese Probleme zu beheben und dabei die Abhängigkeiten und potentiellen Zielkonflikte verschiedener Aspekte (Fairness, Genauigkeit, Interpretierbarkeit und Privacy) als auch deren ethische Implikationen an konkreten Anwendungen im Gesundheitsbereich zu erforschen. Dabei sollen Leitlinien für eine Zertifizierung solcher Systeme aufgestellt und dadurch ein sicherer Einsatz in der Medizin ermöglicht werden.

Beteiligte Personen:

Florian Jenner

Programm-Manager

Telefon: +49 (0)711 - 162213 - 22

E-Mail: florian.jenner@carl-zeiss-stiftung.de

Prof. Dr. Matthias Hein

Eberhard Karls Universität Tübingen

Detailinformation:

Schwerpunktthema: Künstliche Intelligenz
Programm: CZS Durchbrüche
Art der Förderung: Projektförder­programme
Zielgruppe: Professor:innen
Fördersumme: 5.000.000 €
Zeitraum: Februar 2022 - Januar 2028

Geförderte Institution:

Eberhard Karls Universität Tübingen
Eberhard Karls Universität Tübingen