In der siebten Folge von „Dr. Med KI“ ist Prof. Dr. Sylvia Thun zu Gast. Sie ist Direktorin der Core-Unit eHealth und Interoperabilität an der Charité Berlin und spricht mit Moritz Seiler über zentrale Kriterien, die bei der Standardisierung von Daten wichtig sind und die sie beispielsweise für die Entwicklung von Algorithmen verwendbar machen. Im Gespräch wird auch geklärt, welche Kriterien bei diesen Daten eine Rolle spielen und welche Standards erforderlich sind, um Qualität im Sinne der menschlichen Nutzung aber auch des (Daten-)Schutzes der Patient:innen sicherzustellen. All das erfährst du in dieser Podcastfolge!

Im zweiten Teil zu “Black Box KI” sprechen Marina Höhne und Kerstin Ritter über verschiedene Modelle erklärbarer KI, sowie deren Anwendung beispielsweise bei der medizinischen Bild- und Krebserkennung. Hieraus ergeben sich Herausforderungen, wie die Entwicklung standardisierter Metriken, die dabei helfen sollen, die Vertrauenswürdigkeit von ki-basierten Erklärungen und Entscheidungen zu prüfen. Wie man diesen Herausforderungen begegnet und welche Rolle der Mensch bei all dem spielt, sind Themen dieser Podcastfolge.

KI-basierte Entscheidungsprozesse können von Anwender:innen oft nicht nachvollzogen werden. Es bleibt im Dunkeln, welche Faktoren bei Vorschlägen, Vorhersagen und Entscheidungen einen Ausschlag geben. Gleichzeitig machen KI-Systeme bereits heute in vielen Fällen weniger Fehler als der Mensch. Sollten diese Systeme auch für den Menschen nicht-nachvollziehbare Entscheidungen treffen dürfen oder sollte Erklärbarkeit eine Voraussetzung für den Einsatz in medizinischen Bereichen sein? Diesen und weiteren Fragen widmen sich Kerstin Ritter und Dr. Marina Höhne, Leiterin der Nachwuchsforscher:innengruppe “Understandable Machine Learning” an der TU Berlin, in der aktuellen Episode von Dr. Med. KI.

Vince Madai ist leitender KI-Forscher am QUEST-Zentrum für Responsible Research am Berlin Institute of Health der Charité Berlin sowie Gastprofessor für Medizinische Informatik an der Birmingham City University. Mit Kerstin Ritter spricht er über systematische Verzerrungen (Bias) in Daten und Algorithmen, wenn es beispielsweise um Alter, Geschlecht und Hautfarbe geht. Wie damit umgegangen wird und wie wichtig Transparenz hierbei ist, sind zentrale Themen dieser Podcastfolge.

Fabian Prasser ist Professor für Medizininformatik am Institute of Health der Charité Berlin. Er spricht mit Kerstin Ritter über die Bedeutung von Daten in der Medizin, die Rahmenbedingungen des Datenschutzes und der Datensicherheit in Deutschland sowie über ethische Aspekte im Umgang mit Datenbanken. Viel Spaß beim Anhören!

In der zweiten Folge zu KI im klinischen Alltag sprechen Susanne Michl und Kerstin Ritter unter anderem über Algorithmen, durch die sich Überlebenswahrscheinlichkeiten ermitteln lassen, das Recht auf Nichtwissen und wie KI das Trauern verändern könnte. Klingt spannend? Dann hör jetzt in die neue Folge von Dr. med. KI rein!

Susanne Michl ist Medizinethikerin und leitet die Arbeitsgruppe Medical Humanities und Medizinethik an der Charité Berlin. Sie spricht mit Kerstin Ritter über ethische und rechtliche Aspekte bei der Verwendung von KI im Krankenhausalltag. Wie durch die zunehmende Verwendung von KI-Systemen in der Medizin ethische Spannungsfelder entstehen und wie sich diese möglicherweise auf das Verhältnis von Ärzt:innen und Patient:innen auswirken, erfährst du in dieser Podcastfolge von Dr. med. KI.

Alexander Meyer befasst sich an der Charité und dem deutschen Herzzentrum Berlin damit, wie sich anhand klinischer Routinedaten lebensbedrohliche Ereignisse vorhersagen bzw. klassifizieren lassen. Hierbei wird datenbasiert ein "physiologischer Fingerabdruck" erstellt, der bei der Risikoberechnung eines Ernstfalls entscheidend sein kann. Welches KI-Verfahren hierbei Verwendung findet und ob das Verfahren reif für die klinische Praxis ist, erfährst du in dieser Podcastfolge von Dr. med. KI.

Manuela Benary ist Bioinformatikerin an der Berliner Charité und arbeitet dort am Comprehensive Cancer Center. In ihrem Kernprojekt beschäftigt sich mit personalisierten Therapiemöglichkeiten bei Patient*innen mit seltenen Tumorerkrankungen. Hierfür greift sie auf ein sogenanntes "molekulares Tumorboard" zurück. Was ein Tumorboard ist und inwiefern Daten und Machine Learning dabei eine Rolle spielen, ist u.a. Thema dieser Podcastfolge von Dr. med. KI.

Andrea Volkamer leitet an der Berliner Charité eine Arbeitsgruppe zum Thema strukturelle Bioinformatik und In-silico-Toxikologie. Hierbei gilt ihr besonderes Interesse dem computerbasierten Wirkstoffdesign, welches unter anderem das Ziel verfolgt, mithilfe von Algorithmen synthetische Moleküle zu priorisieren, die später im Wirkstoff eine hohe Erfolgsrate versprechen. Wie innerhalb dieser Methodenentwicklung Deep-Learning-Verfahren zum Einsatz kommen, wie ein Corona Impfstoff Open-Source-basiert entwickelt wird und weshalb ein Medikamentenentwicklungsprozess so lange dauert, erfahrt ihr in dieser Podcastfolge.