Wie beeinflusst Künstliche Intelligenz die Ausbildung von Ärzt*innen und welche Rolle sollte sie zukünftig spielen? Wie können Studierende von heute die Erkenntnisse in den medizinischen Arbeitsalltag von morgen integrieren? Wie sieht die medizinische Bildung der Zukunft aus? Zu diesen Themen und mehr haben sich Jenny Brandt und Prof. Kerstin Ritter mit der Hochschulrektorenkonferenz ausgetauscht.

JENNY BRANDT: Ich habe mich vor einigen Jahren das erste Mal im Finanzbereich mit dem Thema Künstliche Intelligenz beschäftigt. Vor meinem Medizinstudium war ich u.a. in einem Unternehmen tätig, welches KI gestützte Investmentfonds auflegte. Dieser Branche habe ich dann den Rücken gekehrt und mich sehr bewusst für ein Studium der Medizin entschieden. Demnächst starte ich ins praktische Jahr und bin somit mit dem theoretischen Teil meines Studiums fertig. Berührung mit dem Thema KI hatte ich innerhalb meines Medizinstudiums bisher in einem Wahlpflichtfach zum Thema „Medizin im digitalen Zeitalter“ [1]. Ohne dieses Wahlfach, an dem pro Semester 12 Studierende teilnehmen, hätte ich also das Medizinstudium durchlaufen, ohne das Thema Künstliche Intelligenz auch nur an der Oberfläche angekratzt zu haben. Gespräche mit Kommiliton*innen von anderen Fakultäten ergeben ein ähnliches Bild. Wenn man die Entwicklungen in der Künstlichen Intelligenz, gerade im Bereich der Medizin betrachtet, ist dies erstaunlich.

Daher stellt sich für mich die Frage, ob zukünftige Mediziner*innen sich mit KI beschäftigen müssen.

PROF. KERSTIN RITTER: Ja, das ist ein zunehmend wichtiger Bereich, in dem sehr viel passiert. Das heißt es wird immer mehr Anwendungen geben, es wird viel geforscht und es wird auch langsam versucht das Ganze in der Klinik zu etablieren. Wenn Mediziner*innen mit solchen Anwendungen arbeiten wollen, dann müssen sie natürlich einschätzen können, wie diese funktionieren, wie gut die Modelle sind und ob man sich darauf verlassen kann oder nicht. Was ich festgestellt habe in dem Wahlpflichtmodul „Dr. med KI“, welches wir an der Charité etabliert haben, aber auch generell in Gesprächen mit Mediziner*innen ist, dass niemand so wirklich weiß was KI eigentlich bedeutet. Es gibt dafür auch keine ganz klare Definition, aber in meinem Wahlpflichtmodul lernt man in der ersten Woche erstmal die grundlegenden Konzepte. Also was ist KI überhaupt, was ist der Unterschied zu maschinellem Lernen, was ist Deep Learning, was sind gute Daten, was ist ein gutes Modell, warum brauche ich Trainings- und Testdaten? Ich glaube dadurch wird den Studierenden viel klarer, worum es geht und welche Fragen man stellen muss. Also beispielsweise auf welchen Daten das Modell überhaupt trainiert wurde, ob diese Daten repräsentativ und standardisiert sind oder welche Evaluationsmetriken benutzt wurden. Wenn man unbalancierte Trainingsdaten hat, kann man eine hohe Klassifikationsgenauigkeit erreichen, ohne dass es irgendeine klinische Relevanz haben muss oder sonst in irgendeiner Art und Weise bedeutsam ist. Konzepte wie Sensitivität und Spezifität lernen Medizinstudierende ohnehin in ihrem Studium und diese brauchen wir auch im Umgang mit KI-Modellen. Hintergrundinformationen sind also wichtig, um überhaupt einschätzen zu können, welche KI-Anwendungen es gibt und in welchen Bereichen sie sinnvoll eingesetzt werden können.

In der Charité gibt es ein Programm „Digital Clinician Scientist“ für Mediziner, die das Studium bereits beendet haben, um eine gewisse Zeit zu digitalen Fragestellungen forschen. In dem Bereich spielt KI auch eine zunehmend größere Rolle und ich werde häufiger als Mentorin angefragt. Einigen Mediziner*innen ist es wirklich wichtig auch selbst Programmieren zu lernen, aber die haben natürlich nicht die gleichen Grundlagen wie jemand, der Informatik studiert hat. Und gerade in solchen Fällen ist es wichtig, dass man zusammen arbeitet und eine beratende Rolle einnimmt.

JENNY BRANDT: Ein Ziel ist also, die KI-Systeme für Mediziner*innen zunächst begreifbar zu machen, damit Grundlagenwissen entsteht. Und zudem kritisches Hinterfragen als eine Kernkompetenz zu schulen, die man braucht, um die Systeme anzuwenden.

PROF. KERSTIN RITTER: Ja genau und auch um sie zu entwickeln und Bedarfe zu erkennen. In unserem Kurs überlegen wir gemeinsam, wo KI überhaupt hilfreich sein könnte und dazu fällt den Studierenden sehr viel ein. Meine Hoffnung ist, dass die Mediziner*innen, die Spaß an dem Thema haben und die Medizin in diesem Bereich voran bringen wollen, sich dann auch über den Kurs hinaus weiterentwickeln, sich einsetzen und bestimmte Projekte zukünftig dann auch anregen.

JENNY BRANDT: Sie besprechen mit den Studierenden also die Einsatzmöglichkeiten der Systeme, aber wie sieht es aus mit deren Grenzen?

PROF. KERSTIN RITTER: Also ich glaube, dass die Studierenden zu Beginn immer denken, dass KI etwas ganz Wunderbares ist und häufig sehr hohe Erwartungen daran knüpfen. Ein Problem ist aber z.B., dass man die klinisch wirklich relevanten Fragestellungen oft nicht gut beantworten kann, weil man gar nicht die Daten dafür hat. Also wenn man eine aufwendige Differentialdiagnostik machen will oder wenn man vorhersagen will, ob jemand von einem bestimmten Medikament profitiert, braucht man viele einheitliche Daten. Das ist vielen nicht bewusst. Eines meiner Ziele ist daher, deutlich zu machen, wie wichtig gute stabilisierte Daten sind und dass ohne diese Daten einfach nichts läuft. Die Realität in den Krankenhäusern sieht so aus, dass dort häufig mit Papier oder umständlichen Systemen Daten erhoben werden, auf die man nicht zugreifen kann. Das macht es mühsam und mir ist wichtig, dass die Studierenden dafür ein Gefühl bekommen.
Wir haben in der ersten Woche ein Programmier-Tutorial, in dem die Teilnehmenden begreifen lernen, wie viel man an einem Datensatz arbeiten muss, bis man den überhaupt verwenden kann. Das macht schnell die Grenzen deutlich.

Grenzen sind aber auch ein Thema in der dritten Woche unseres Kurses, in der es um Ethik, Rechtliches und Translation geht. Also ich glaube, ich rede generell immer mehr über die Grenzen als über die Möglichkeiten.

JENNY BRANDT: Die Beschäftigung mit KI impliziert eigentlich immer auch eine ethische Debatte. Wie geht man z.B. mit Ergebnissen um und wie trifft man darauf basierend dann Entscheidungen. Das geht auch ganz stark in Richtung Selbstbild des der Ärzt*innen. Was bedeutet es, Arzt oder Ärztin zu sein in Zeiten von KI? Verändert sich das Rollenverständnis dadurch?

PROF. KERSTIN RITTER: Beim letzten Kurs hatte ich Bilder, von denen die Studierenden auswählen sollten, wie sie sich selbst sehen. Auf einem dieser Bilder war ein Arzt abgebildet und von oben kam eine riesige Welle aus Nullen und Einsen. Das Bild hat sich keiner ausgesucht. Niemand hat also gesagt, er fühle sich überrannt oder überfordert. Aber ich habe schon das Gefühl, dass viele nicht so richtig wissen, wie sie das Thema einordnen sollen. Alle reden immer von einer riesigen Revolution, aber wo ist die jetzt eigentlich? Warum schreiben wir immer noch auf Papier, warum kommt das nicht wirklich an? Wir diskutieren auch immer darüber, ob die Studierenden Angst haben, dass die Künstliche Intelligenz Ärzt*innen ersetzen wird. Das ist ein Riesenthema, spielt jedoch in meinem Kontext nie eine Rolle.

KI-Systeme können teilweise bestimmte Aufgaben besser und schneller lösen, aber man braucht immer Ärzt*innen, um die Fragestellung überhaupt festzulegen.

Um auf das Selbstbild zurückzukommen, ich hatte bei den Studierenden den Eindruck, dass sie dankbar waren einen Einblick in das Thema KI zu bekommen, um es einschätzen und in Zukunft selbstbewusster Stellung dazu beziehen zu können.

Also man sollte schon ein Grundverständnis haben, aber die Frage ist, ob man es in die Pflichtlehre mit hinein nimmt. Ich könnte mir viel mehr vorstellen, dass es im Studium eine KI-Richtung gibt, für Leute, die es interessiert. Eine andere Möglichkeit wäre, das Thema in die einzelnen Fachgebiete zu integrieren, also z.B. KI-Anwendungen in der Kardiologie.
 

JENNY BRANDT: Zwei Punkte, die Sie angesprochen haben, möchte ich gerne aufgreifen. Erstens, Grundkenntnisse im Bereich der Künstlichen Intelligenz entmystifizieren das Thema. Ich möchte z.B. gerne in die Radiologie und höre häufig – sowohl von Kommiliton*innen, aber auch von erfahrenen Ärzt*innen – , dass ich mir diese Wahl sehr gut überlegen solle, weil die KI den Radiologen ohnehin bald ersetzen würde. Das höre ich aber ausschließlich von Personen, die sich noch nie mit dem Thema überhaupt auseinander gesetzt haben. Ich hatte aber auch den Eindruck, dass bereits nach einem solchen Kurs wie unserem Wahlpflichtfach, in dem die absoluten Basics erstmals angeschnitten werden, die Angst ersetzt zu werden deutlich abnimmt. Und zweitens, ist ein Wahlpflichtmodul ausreichend oder was könnte das Ziel sein für die zukünftige Mediziner*innenausbildung?

PROF. KERSTIN RITTER: Darüber denke ich selbst ebenfalls noch nach. Unser Wahlpflichtmodul wird jedes Mal gewählt, wir haben immer 10 bis 12 Teilnehmende bei 18 freien Plätzen. Was ich mir vorstellen könnte, wäre zusätzlich eine Vorlesung, in der ein paar Grundkonzepte vermittelt werden und in der Kliniker*innen zeigen, wie sie die Systeme in ihrer Arbeit einsetzen. Programmieren lernen ist allerdings meiner Meinung nach zu viel für das normale Curriculum und ich glaube es gibt immer Studierende, die sich mehr dafür interessieren und andere weniger. Was man nicht vergessen darf ist, dass das Curriculum des Medizinstudiums ohnehin schon sehr voll ist und dass man nicht erwarten darf, dass jede*r Mediziner*in sich mit KI fundiert auskennt.

JENNY BRANDT: Welche Rolle spielt eine Kooperation wie KI-Campus? Inwieweit können dadurch Lücken geschlossen werden? Oder ist das zu weit weg, weil sich sowieso nur Studierende diese Kurse anschauen, die ohnehin schon Interesse am Thema haben?

PROF. KERSTIN RITTER: Das ist auch ein interessanter Gedanke. Die Frage ist, wie man die Online-Angebote des KI-Campus in die Pflichtlehre mit hinein nehmen kann, so dass sie auch bewertet werden können. Meine Kurse vom KI-Campus benutze ich auch für mein Wahlpflichtmodul. Ich muss die Dinge also nicht nochmal erklären, sondern die Studierenden haben sich die Theorie bereits angeeignet und dann können wir darüber diskutieren und Fragen klären. Natürlich können auch andere den Kurs anhören, weil dies zur öffentlichen Bildung beiträgt. Die nächste Frage wäre, ob man sich dies dann zertifizieren lässt, also ob jemand, der den Kurs absolviert, sich dies auch auf sein Studium anrechnen lassen kann.

STEFAN GÖLLNER: Oder auch für Mediziner*innen, die bereits in der Praxis stehen und Fortbildungspunkte einsammeln müssen. Diesen Prozess haben wir jetzt auch angestoßen.
Für viele Studiengänge ist dies auch sehr anspruchsvoll, weil nicht alle Fakultäten Expert*innen zu dem Thema haben. Gleichzeitig gibt es aber auch einen gewissen Druck jetzt endlich mal etwas in die Richtung zu tun. Dann ist es natürlich dankbar, wenn man auf so gut aufbereitetes Material zurückgreifen kann und es einfach in den Studiengang integriert.

PROF. KERSTIN RITTER: Man kann stundenlang darüber diskutieren, was genau die Studierenden alles wissen müssen. Ich denke viel darüber nach, wie eine perfekte Umsetzung aussehen könnte. Zum Thema Data Science gibt sehr viele gute und aufwendig produzierte YouTube Videos, die wunderbar erklären, wie ein neuronales Netzwerk funktioniert. So etwas kann man in die Lehre einbauen.

Manchmal muss man einfach anfangen die Dinge umzusetzen. Man kann sich immer fragen, wie es noch besser und perfekter aussehen könnte. Aber dann kommt man nicht in die Umsetzung.

STEFAN GÖLLNER: Es wird ja teilweise schon davon gesprochen, dass man den Algorithmus gar nicht mehr wirklich programmieren muss, sondern dass es stark in die Richtung No-Code-KI geht und letzten Endes gar nicht mehr die Kenntnis der fundierten Wirkungsweise gefragt ist, sondern andere Fragestellungen, z.B. ethischer Natur, in den Vordergrund rücken. Die Mediziner*innen, die sozusagen am anderen Ende der Maschine stehen, haben ja mehr mit den Ergebnissen zu tun.

PROF. KERSTIN RITTER: Grundlagen darüber, wie diese Algorithmen funktionieren sind auf jeden Fall sinnvoll, damit nicht allzu sehr der Eindruck einer Black Box entsteht. Wie bereits erwähnt ist es wichtig, wie repräsentativ die Daten sind, die verwendet wurden, um abschätzen zu können, wie valide und verlässlich das Ergebnis ist. Für den anwendenden Mediziner*innen ist also wichtig zu wissen, wie das Ganze zustande kommt und was hinter dem KI-System steht. Es gibt immer wieder diese Fälle wo ein Modell beispielsweise auf weiße Haut trainiert worden ist, aber dann nicht bei schwarzer Haut funktioniert. Aber Mediziner muss nicht im Detail wissen, wie man die Modelle programmiert. Das ist z.B. mit Medikamenten vergleichbar. Da weiß auch nicht jeder Mediziner wie das im Detail funktioniert.

JENNY BRANDT: Ich hätte ein konkretes Beispiel zum Umgang mit Ergebnissen. Angenommen ich habe einen Algorithmus, der lediglich die Aufgabe hat, Röntgen-Thorax-Aufnahmen nach Lungenherden zu durchsuchen und die Malignität einzuschätzen. Wenn als Ergebnis jetzt rauskommt, dass ein Rundherd zu 5% maligne ist, wie gehe ich dann als Ärztin damit um? Ab welchem Prozentsatz kläre ich das weiter ab oder gebe die Empfehlung es weiter abzuklären? 5%, 1%? Eine Biopsie ist ein invasiver Eingriff und dazu kommt die enorm hohe psychische Belastung. Im Grunde kann ich zu 95% davon ausgehen, dass alles gut ist, aber wenn ich jetzt selbst davon betroffen wäre oder jemand aus meiner Familie, würde ich es dann weiter abklären wollen? Und bis zu welcher Grenze?

Das sind Fragen, die sich im medizinischen Alltag stellen und wo ich als Ärztin einfach wissen muss, wie solche Ergebnisse zustande kommen und was sie bedeuten.

PROF. KERSTIN RITTER: Das ist eine super schwierige Frage und für denjenigen, der das Modell konzipiert auch nicht leicht zu entscheiden. Aber im Grunde stehen wir vor dieser Frage auch ohne KI im ärztlichen Alltag, nämlich dass ein Arzt entscheiden muss, ob er eine Biopsie macht oder nicht, wenn es eine kleine Restwahrscheinlichkeit für einen malignen Befund gibt. Durch die KI kommt im Grunde noch eine weitere externe Meinung dazu, die sich mit dem decken kann, was der Arzt selbst denkt oder auch nicht. Erfahrung und Intuition spielen weiterhin eine große Rolle. Mediziner*innen wollen ja grundsätzlich immer noch selbst entscheiden und diese Entscheidungsmacht nicht an eine Maschine abgeben. Aber ich stimme komplett zu, es ist sehr schwierig zu entscheiden, wo man da eine Grenze zieht.

JENNY BRANDT: Das geht dann ja auch wieder stark in die Richtung Selbstbild der Ärzt*innen, aber auch – und dieses Fass will ich jetzt eigentlich gar nicht aufmachen – in Richtung Haftpflicht und die rechtliche Situation. Was ist, wenn dieses Modell mir angibt, dass der Befund zu 5% maligne ist, ich aber davon ausgehe, dass dies extrem unwahrscheinlich ist, vom Alter und der gesamten Anamnese her und ich kläre das nicht weiter ab. Und nachher stellt sich heraus, dass tatsächlich ein Lungenkarzinom vorlag und der Patient erfährt, dass ein KI-System mich bereits darauf aufmerksam gemacht hat, als die Behandlungsmöglichkeit auch noch wesentlich besser war. Also inwiefern bin ich aus rechtlicher Sicht gezwungen einen Befund abzuklären, auch um mich selbst vor einer möglichen Klage zu schützen.

UWE RECKZEH-STEIN: Diese Frage kommt beispielsweise auch auf beim autonomen Fahren. Was ist, wenn das Auto die Großmutter anstelle der Katze überfährt? Wer ist daran Schuld? Das Auto? Der Hersteller? Der Programmierer? Oder dann doch am Ende der Fahrer? So ist das in dem Beispiel mit der Malignität eines Lungenherdes ja auch. Nur die Ärzt*innen selbst können Verantwortung übernehmen und haben vielleicht durch die KI noch einen zusätzlichen Hinweis. Aber eine Maschine erfindet die Krankheiten ja nicht, sondern kann aufgrund der Daten und des Algorithmus etwas wiedergeben, was Ärzt*innen mit entsprechender Erfahrung ebenfalls hätten vermuten können. Die KI ist also nur ein zusätzliches Werkzeug, das Wahrscheinlichkeiten wiedergibt und kann Ärzt*innen nicht ersetzen.

Der Arzt oder die Ärztin übernimmt weiterhin Verantwortung, denn das kann nur ein Mensch. Eine Maschine kann keine Verantwortung übernehmen.

Die Angst ersetzt zu werden, lässt sich schon beruhigen durch eine kleine Einführung ins Thema. Wie soll diese Einführung aussehen und mit welchem Umfang? Und in welchem Abschnitt des Studiums ist es sinnvoll? KI bleibt etwas mystisches und Magie, wenn man die Grundkenntnisse nicht hat. Mein Physikunterricht hat mir gereicht, um zu wissen, dass meine Steckdose nicht Magie ist und wie es funktioniert, dass ich Wasserdruck im oberen Stockwerk habe. Trotzdem kann ich nichts davon ohne fremde Hilfe reparieren, falls es kaputt geht. Aber mir kann keiner sagen, das sei ein Zauberkasten, der Licht macht. Wie weit würden Sie gehen? Muss das Thema in ein Pflichtcurriculum und in welcher Form oder reicht es als Fortbildung für besonders Interessierte?

PROF. KERSTIN RITTER: Mein erster Impuls wäre zu sagen, dass es gut ist, wenn Studierende schon ein wenig Kenntnis von Medizin haben, also davon welche Fragen überhaupt relevant sind. Der Anfang des klinischen Abschnitts erscheint mir sinnvoll. Ich finde es gut, einen spezialisierteren Kurs für eine kleinere Gruppe zu haben und eine allgemeinere Vorlesung mit Grundlagen. Allerdings ist die Frage wie die Studierenden in einer solchen Lehrveranstaltung dann eingebunden sind.

UWE RECKZEH-STEIN: Also ein klassisches Seminar zur KI in der Medizin?

PROF. KERSTIN RITTER: Es gibt ja immer einen Anteil an Studierenden, die das Fach sinnvoll finden und mehr darüber wissen wollen und einen größeren Anteil, der die Relevanz nicht unbedingt sieht. Ich glaube, wenn man es ein bisschen prominenter auch in das gesamte Curriculum einbinden würde, dann würde bei einigen evtl. auch das Interesse erst geweckt, sodass sie das Wissen in Wahlpflichtfächern oder spezialisierten Kursen noch vertiefen möchten, weil sie vorher keine richtige Vorstellung von dem Thema hatten. Insofern könnte man vielleicht sagen, dass man im 4. oder 5. Semester eine Vorlesung anbietet und diejenigen, die das interessiert, können innerhalb des klinischen Abschnitts das Wissen vertiefen.
Was ich zusätzlich noch total gut fände wäre, wenn man sich bemüht die Mediziner*innen, die Data Scientists, die Informatiker*innen, etc.  zusammen zu bringen und dann gemeinsam an Fragestellungen zu arbeiten. Der interdisziplinäre Austausch ist immer sehr produktiv.

👉 Hier geht es zum zweiten Gespräch „Von der Hochschule in die Praxis?“ mit Radiologe PD Dr. med. Felix Nensa. 

[1] Curriculares Reformprojekt der Universitätsmedizin Mainz vom Stifterverband im Rahmen des Programms „Curriculum 4.0“ gefördert, geleitet von Prof. Dr. med. Sebastian Kuhn