Wie KI den Menschen in der Gesundheitsversorgung helfen kann

00:00:00: Willkommen im Maschinenraum Gesundheit, dem Podcast der TK Landesvertretungen.

00:00:08: Hallo und herzlich willkommen zu einer neuen Folge des Podcasts Maschinenraum Gesundheit.

00:00:14: Mein Name ist Natja Musser, ich bin die Leiterin der TK Landesvertretungen Baden-Württemberg

00:00:20: und ich habe heute Herrn Prof. Feisal zu Gast hier in Stuttgart.

00:00:24: Prof. Feisal forscht und sucht Lösungen, wie künstliche Intelligenz den Menschen im Bereich

00:00:30: der Gesundheitsversorgung helfen kann.

00:00:32: Hallo Herr Prof. Feisal, ich freue mich sehr, dass Sie direkt von London jetzt hier nach Stuttgart

00:00:39: zu uns gekommen sind.

00:00:41: Hallo, vielen Dank für die Einladung Frau Musser.

00:00:43: Sehr gerne, wir sind sehr gespannt, was Sie uns zu erzählen haben.

00:00:47: Sie sind ja Professor für KI und arbeiten sowohl in London als auch seit 2022 in Bayreuth.

00:00:58: Und ja, als Spezialistin Sie forschen tätig auch viel Mensch und Maschine.

00:01:05: Erzählen Sie uns doch einfach mal kurz so ein bisschen, dass wir uns das noch besser vorstellen können,

00:01:10: was Sie machen.

00:01:12: KI ist für uns nicht nur eine Technologie, die wir Spaß haben zu entwickeln, sondern auch

00:01:18: eine Lösung, die wirklich Menschen helfen kann.

00:01:20: Unsere Hauptanwendung ist KI in der Medizin oder in der Gesundheit.

00:01:24: Und das ist für uns sehr spannend, weil alle schweren Probleme, die Ingenieursprobleme in

00:01:29: der KI sind auch in der KI für die Medizin komplett vorhanden und zu sagen akut, weil

00:01:37: es geht um Menschenleben, es geht um Glück und Gesundheit.

00:01:40: Und das gibt uns praktisch einerseits eine Mission, Menschen zu helfen und andererseits

00:01:45: eine technische Herausforderung, an den wir Freude haben.

00:01:48: Also ich höre schon so raus.

00:01:51: Ich denke auch aufgrund Ihres Berufs, Sie sind sehr begeistert für dieses Thema, für die KI.

00:01:59: Nehmen Sie uns mal mit, was kann KI in der Medizin oder auch genau in dem Bereich, in dem Sie tätig sind.

00:02:08: Was kann uns da helfen in der Zukunft?

00:02:11: KI wird sicherlich in der Lage sein, in der Zukunft, wenn richtig angewendet, Kosten zu minimieren,

00:02:19: dafür zu sorgen, dass Leute schneller und überall Gesundheit erfahren können.

00:02:24: Also gerade in der Fläche, nicht nur in der Stadt zum Beispiel, es wird dir für sorgen, dass Diagnosen

00:02:29: schneller und früher gestellt werden, es wird dir für sorgen, dass Behandlung besser

00:02:33: und auf den individuellen Bedarf zugeschnitten sein kann.

00:02:37: Und es wird auch dafür sorgen, dass endlich Stärklichkeit zurückgeht, dass wir gesünder lange leben

00:02:45: und dass wir hoffentlich glücklichere Menschen darauf hin werden.

00:02:51: Okay, das wird schon mal recht große Versprechen oder Visionen, die Sie da beschreiben.

00:02:56: Also ich selber lebe ja auch auf dem Land, auch wenn ich hier in Stuttgart arbeite.

00:03:00: Und wenn Sie sagen so in der Fläche oder in der Region mehr zunehmend das Problem Fachkräftemangel,

00:03:07: was könnte da in der Region eine Lösung über KI sein auf dem Dorf zum Beispiel?

00:03:15: Also wir haben ja vielleicht einige schon erfahren, man kann es auch schon jetzt mit seinem Arzt

00:03:19: eine Videokonferenz machen, übers Handy anstatt da jetzt eine halbe Stunde bis zur nächsten Praxis zu fahren.

00:03:25: Das ist schon ein Eingestritt.

00:03:27: Woran wir hauptsächlich arbeiten sind Methoden, wo nicht die Technologie zwei Menschen miteinander verbindet,

00:03:33: sondern wir eine KI haben, die man deswegen auf dem Handy installiert ist, sozusagen auf dem Handy lädt

00:03:38: und sich um uns 24 Stunden, 7 Tage die Woche kümmern kann mit einer Aufmerksamkeit, die kein Mensch so zu Tage bringen könnte.

00:03:48: Und das könnte sein zum Beispiel, wo Menschen in ihrer Krankheit leiden, besser zu begleiten,

00:03:53: ständig über die zu wachen, zu wissen, ob es denen plötzlich schlecht geht.

00:03:57: Man kann jetzt ja auch gerade nicht nur im Bereich Gesundheit, sondern auch im Bereich Altenpflege übernacht denken.

00:04:03: Also wie können wir dafür sorgen, dass das Leute umhegt sind?

00:04:06: Das sind mögliche Anwendungen der KI.

00:04:08: Das andere Wichtige ist auch KI, die Entscheidung trifft in der Diagnose, in der Behandlung zum Beispiel,

00:04:15: bietet ein ungeheures Potenzial KI, also Zugang zu Medizin und zur besten Medizin zu demokratisieren.

00:04:22: Also Sie haben einen Wien-Gizern-Experten, der lebt in einer Großstadt,

00:04:26: aber besten Expertise möchten Sie landesweit zur Verfügung stellen, sozusagen.

00:04:30: Und KI-Systeme können von den besten Lernen und versuchen dann praktisch das als Entscheidungsunterstümpfungssysteme

00:04:38: überall im Land zur Verfügung zu stellen.

00:04:41: Jetzt frage ich mal ein bisschen provokativ.

00:04:43: Also ich auf dem Land spreche dann mit der KI und in der Stadt, sprich mal mit dem menschlichen Experten,

00:04:49: oder wie wäre da so das Zusammenspiel?

00:04:52: Ja, also wenn es genug Experten gibt, dass sie die auch noch in der Stadt anheffen können,

00:04:56: ist natürlich auch noch in der Haushalte rum.

00:04:58: Was interessant ist, die Zahlen sprechen für sich.

00:05:01: Wir haben einen Fachreffemangel und wir haben Papieranschinken in den Gesundheitskosten.

00:05:06: In Großbritannien habe ich die Zahlen mal ausgerechnet.

00:05:09: Da wechseln die Gesundheitskosten schneller als die Inflationsrate.

00:05:13: Und in den zweiten Jahren, 2050, müsste 100 Prozent des Motorsozialproduktes umgesetzt werden,

00:05:19: um dieselbe Gesundheitspflege vorsorgen und umsetzen zu können.

00:05:26: Also das kann sich kein Land beisten.

00:05:28: In Deutschland haben wir das in bessere Situationen noch.

00:05:31: Aber auch da gibt es Probleme, erstmal an die Fachkräfte zu kommen, die zu halten, aber danach das Ganze zu bezahlen.

00:05:37: Und hier können die KI-Systeme helfen, für Leute sofort einen Termin sozusagen zu bekommen.

00:05:43: Wann ich es brauche, wenn ich um zwei Uhr morgens aufwache und habe ein Problem,

00:05:47: dann kann ich mich idealerweise mit einer KI schon mal auseinandersetzen,

00:05:51: die mir helfen kann zu verstehen, was vorgeht,

00:05:54: unter Umständen dann sind eine Triage schon Entscheidungsfälle,

00:05:58: bis sie jetzt in die Notaufnahme oder jetzt bis morgen durchschlafen versuchen weiterzumachen.

00:06:03: Also da gibt es unterschiedliche Möglichkeiten, wie KI-Systeme wirklich jedem helfen kann,

00:06:07: ob die nah oder fern von den Ärzten leben.

00:06:09: Also ich hatte es auch so verstanden,

00:06:12: Sie sind ja auch Direktor von so einem Research Lab, a Behavioral Lab.

00:06:18: Und da wird ja auch versucht so die Interaktion Menschmaschine

00:06:23: oder komplexes Verhalten lernen.

00:06:26: Wie machen das Maschinen, wie machen das Menschen?

00:06:29: Was sind da die Einsatzgebiete oder wie kann ich das vorstellen?

00:06:34: Wir kennen das auf der Medizin, es gibt Ärzte, die sind gute Mediziner,

00:06:39: aber sozusagen keine guten Ärzte.

00:06:41: Und es gibt Ärzte, das sind toll in der menschlichen Interaktion.

00:06:44: Und ich habe das als eine der großen Sachen, die wir immer ein bisschen vernachsichtigen,

00:06:48: da ist es Technologie, es ist nicht Technologie für Technologie,

00:06:51: sondern es ist Technologie für den Menschen.

00:06:53: Und da müssen wir verstehen, wie denken Menschen, wie lernen Menschen,

00:06:56: wie regieren Menschen auf Dinge.

00:06:58: Und deswegen ist man dieser Menschmaschinen-Interaktion Arbeit,

00:07:01: grad bei Kainer Medizin.

00:07:03: Und in diesem Bereich gibt es halt sehr viele Möglichkeiten,

00:07:06: grad um Menschen, die jetzt nicht nur eine Behandlung brauchen

00:07:09: oder meinetwegen eine Diagnose brauchen,

00:07:11: sondern die ein Leben landen mit etwas Leben zum Beispiel,

00:07:14: weil die kärftetzgelehnt sind, wie können wir den Helfen sich zu bewegen.

00:07:18: Wie können wir den Helfen wieder praktisch Fähigkeiten zu erlangen,

00:07:23: durch Technologie, die sie aufgrund ihrer Behinderung verloren haben.

00:07:27: Und da arbeiten wir zum Beispiel an Menschmaschinen-Schnittstellen,

00:07:30: die teilweise mit Hirnströmen arbeiten,

00:07:33: aber teilweise auch mit ganz neuen, innovative Methoden versucht zu erraten,

00:07:37: zu verinterpretieren, was möchte der Mensch jetzt eigentlich tun,

00:07:41: also so wie ein guter Partner nach langer Jahr oder Ehe,

00:07:45: der weiß schon, was der andere möchte, ohne dass der was zu sagen hat.

00:07:48: Und genau so können wir auch eine KI bauen,

00:07:51: die Menschen praktisch in ihren Wünschen vervollständigen kann, was sie brauchen.

00:07:56: Okay, also das hört sich auch wirklich sehr spannend an.

00:08:01: Die Frage ist natürlich so ein bisschen,

00:08:04: was bedeutet das übernimmt die Maschine, dann die Kontrolle,

00:08:09: das sind ja manchmal so ein bisschen auch Sorgen, die dahinter stehen.

00:08:12: Also was sind so die Herausforderungen, damit man vielleicht auch Sorgen hat,

00:08:18: begegnen kann, die Menschen bei solchen Modellen haben.

00:08:21: Also das ist ja keine neue Problematik.

00:08:24: Also wenn Sie jetzt zum Beispiel die Hand verlieren und eine Handprothese bekommen, die

00:08:28: bionisch funktioniert, dann liest praktisch die Prothese aus den Signalen des Gehirns

00:08:36: ab, was die Hand tun möchte.

00:08:37: Also sozusagen hat der Mensch Kontrolle.

00:08:39: Obwohl die Maschine kann das auch fehl interpretieren und dann etwas anderes tun, aber das passiert

00:08:45: sehr selten, genauso wie ein anderer Mensch auch ein anderer Menschen fehl verschaden kann,

00:08:49: aber viel seltener.

00:08:50: Und genauso arbeiten diese Assistenz-Schnologien, an denen wir arbeiten.

00:08:53: Das sind so robotische Systeme, die zum Beispiel mir helfen, wenn mein Arm gelehmt ist, mein

00:08:57: Oberkörper gibt, um etwas zu greifen, Sparkanfei zum Beispiel.

00:09:00: Das sind dann auch Systeme, die wir zum Beispiel in der Reha helfen können, mit mir zu üben,

00:09:06: was ich wieder selbst anstellen möchte, weil die erraten, was ich tun möchte.

00:09:09: Ich möchte nach der Tasse zum Beispiel greifen.

00:09:12: Und gibt mir genug Kraft, dass ich die Bewegung ausführen kann, ohne mir praktisch den Willen

00:09:20: zu nehmen, dass ich selbst das noch ausführen muss.

00:09:22: Also das geht sehr viel in dem Bereich unterstützen, aber nicht sozusagen komplett überfahren.

00:09:28: Aber auch natürlich, wenn wir KI-Systeme haben, die dann größere Entscheidungen treffen können,

00:09:34: also bei Systemen denken, dass solche Bereiche demenzangewendig werden.

00:09:38: Oder Mensch als Entscheidungsträger noch teilweise vorhanden ist, aber dann doch die

00:09:43: Entscheidung irgendwie umgesetzt und getragen werden muss.

00:09:46: Da können dann KI-Systeme wirklich auch helfen, sich zu stellen, dass die richtigen Entscheidungen

00:09:51: getroffen werden, die Konsistenz sind mit Sicherheitsansforderungen, echtlichen Anforderungen.

00:09:56: Sprechen wir bei all dem, was wir jetzt gerade ansprechen, noch von dieser sogenannten schwachen

00:10:02: KI.

00:10:03: Es wird ja so unterschieden, soweit ich mich da jetzt gelesen habe.

00:10:07: Zwischen schwacher KI, die die menschlichen kognitiven Fähigkeiten versucht zu imitieren,

00:10:12: bis hin zu einer starken KI, die quasi gleichgestellt ist mit der menschlichen Intelligenz oder auch

00:10:19: schon da mehr übernimmt.

00:10:22: Also sie haben es einfach eingelesen.

00:10:25: Also aus diesem Grund, also vom Ansatz her, ich komme aus dem Bereich der KI-Forschung,

00:10:31: die heißt Maschine nennen es Lern.

00:10:33: Das heißt, die Idee ist hier, dass wir nicht die KI programmieren, sondern wie Lehrer

00:10:39: mit einem Kind versuchen, der KI, dass sie lernt aus Beispielen, aus Daten zu lernen,

00:10:45: wie man eine Lösung baut.

00:10:46: Und das ist grundsätzlich ein schwacher KI-Ansatz.

00:10:48: Dass dann die Systeme in ihrem Verhalten so leistungsfähig werden, dass sie intelligent

00:10:56: wirken, ist natürlich eine Herausforderung für die Leute, die starke KI machen wollen,

00:11:01: ist auch eine Fahrhaushaltung für uns Menschen, weil man kann intelligent wirken, ohne so

00:11:06: intelligent zu sein.

00:11:07: Ich war neulich auf einer Tagung im Schwarzwald, wo wir genau diese Thematik mit Neurowissenschaftern

00:11:13: und Informatikern gesprochen haben.

00:11:15: Wir haben jetzt zum Beispiel gesehen, was ChatGPT machen kann, Aufsätze schreiben, die

00:11:19: Achtungsprüfungen bestehen könnten.

00:11:21: Dann kann man sagen, das ist ein sehr tolles KI-System oder vielleicht ist ein Abitur

00:11:27: aufsatz zu schreiben, keine so große Leistung, in Vergleich zu anderen Legen zum Beispiel,

00:11:31: die zum Beispiel sich die Schuhe zuginden, was eigentlich viel schwerer fällt, wenn man

00:11:37: zum Beispiel eine Demo hat.

00:11:39: Okay, ja, das ist nachvollziehbar.

00:11:43: Komm mal vielleicht mal auch so ein bisschen zu dem Thema England, Deutschland.

00:11:49: Also ich habe mal hier so ein Zitat von Ihnen gefunden, dass Deutschland ist für Forscher

00:11:55: und Forscherinnen das Land der Möglichkeiten.

00:11:58: Wie können wir das denn verstehen?

00:12:02: Ich glaube, das müssen wir im Kontext sehen.

00:12:05: Als ich noch jünger war und überlegte, wo geht es hin zum Studium, dann war ganz

00:12:10: klar für alle, man geht nach England oder nach Amerika, weil dort die Möglichkeiten

00:12:15: in der Forschung am größten sind.

00:12:16: Und was uns fast schon inzwischen passiert ist über die letzten, ja, 10, 20 Jahren ist

00:12:21: das Deutschland wirklich systematisch versucht hat, nicht nur zu sein regional stark zu sein,

00:12:28: sondern auch international stark zu sein.

00:12:29: Das hängt mir zusammen, dass Leute international eingefahren werden, dass man Studiengänge

00:12:32: auf Englisch auch anbietet, wenn man auch die besten internationalen Stellen anziehen

00:12:36: kann und auch internationale Professoren.

00:12:38: Und dass entsprechende Gelder geflossen sind, um gerade im Bereich KI die Forschung wirklich

00:12:45: auf ein anderes Level zu heben als bisher möglich.

00:12:48: Ja, und deswegen ist es ein Land der Möglichkeiten geworden, weil die Mittel sind da, jetzt müssen

00:12:53: nur noch die Leute kommen.

00:12:54: Okay, aber Sie sind ja gekommen, das ist ja schon mal schön.

00:12:58: Auch wenn Sie sich es noch aufteilen zwischen Deutschland und England, aber vielleicht ist

00:13:03: das auch eine gute Verbindung, weil Sie da eben aus beiden Ländern vieles mit einbringen

00:13:09: können.

00:13:10: Ich würde gerne noch einmal kurz auf das Thema Herausforderungen KI eingehen.

00:13:16: Also die KI wird ja wahrscheinlich auch die Arbeitsplätze verändern.

00:13:22: Ist das eher ein schleichender Prozess?

00:13:25: Also ich bleibe auch im Gesundheitswesen.

00:13:27: Sie hatten ja vorhin Pflege zum Beispiel angesprochen, dass wir da Herausforderungen

00:13:30: haben, aber auch andere Arztberufe etc.

00:13:35: Müssten wir uns das so schleichend vorstellen, weil vieles läuft ja schon und wird ja auch

00:13:40: schon angewendet.

00:13:41: Oder ist das, kommt das irgendwann mit so einem Paukenschlag, dass es auf einmal alles

00:13:46: ganz anders ist?

00:13:47: Ja, also wir hatten eben über Abituraufsätze und Schuhezuschwören gesprochen und das

00:13:54: Letztere ist schwerer für eine KI mit einem Roboter als ein Text zu schreiben, denn Abiturprüfung

00:13:58: besteht.

00:13:59: Das heißt, ich habe sehr viele händische Tätigkeiten, werden noch für eine Zeit, ganze Zeit lang

00:14:05: sehr schwer zu sein, durch intelligente Maschinen ersetzt zu werden, in irgendeiner

00:14:11: Form oder unterstützt zu werden.

00:14:12: Das ist wirklich eine Herausforderung, das wird noch in der Forschung.

00:14:15: Während wir jetzt mit einem großen Anwaltskanzler einreden, die gehen davon aus, dass BIM dieses

00:14:20: Jahres werden 80% der justischen Texte von KI's geschrieben werden.

00:14:25: Also es ist ein großer Missmatch zwischen die Englern nennen das White Color Work und

00:14:30: Blue Color Work.

00:14:31: Und ich glaube, die Pflege und die gesundheitliche Praxis, das ist was was Pink Work nennt,

00:14:37: also wo man Menschen interagiert und wo die menschliche Interaktion Teil des Wesens ist,

00:14:43: was man haben möchte.

00:14:44: Ich möchte ja nicht nur mit einem Arzt reden, weil der, wie gesagt, eine Maschine ist, die

00:14:48: viel weiß, sondern weil es auch eine Menschliste nicht verstehen kann, der für mich eingehen

00:14:52: kann.

00:14:53: Und für manche Dinge möchten wir einfach Menschen haben und keine Maschinen.

00:14:56: Und ich glaube, diese Aspekte auch gerade in der Pflege werden so nicht verschwinden.

00:15:02: Was passieren wird, ist glaube ich, dass alle Menschen, die in diesen Bereichen arbeiten,

00:15:09: werden mit KI-Systemen arbeiten.

00:15:12: In unterschiedlichsten Formen.

00:15:14: Es kann sein, dass eine Stationsschwester hat dann ein Monitor, wo eine KI alle Patienten

00:15:19: auf der Station überwacht.

00:15:20: Anstatt dass sie jetzt ständig einen Rundgang machen muss und doch nur zwei Minuten oder

00:15:25: ein Minuten pro Patient hat.

00:15:27: Also dadurch kann, ist die Produktivität dieser Krankenschwester erhöht und sie kann sich

00:15:31: mehr auf die komplizierten Fälle oder mal wegen auch im Gespräch fokussieren.

00:15:35: Also das sind die Veränderungen, die ich in dem Bereich Pflege erwartet.

00:15:39: Genauso im medizinischen Bereich, glaube ich, wird es viel mehr KI-Systeme geben, die Entscheidungen

00:15:44: unterstützen, aber nicht abnehmen.

00:15:47: Weil wir zurzeit rechtlich noch in einem System sind, wo der Arzt der rechtlich verantwortlich

00:15:55: Entscheidungsträge ist.

00:15:56: Also das ist auch nochmal ein sehr spannender Aspekt, den Sie jetzt angesprochen haben.

00:16:02: Wer übernimmt die Verantwortung, ich könnte jetzt noch ewig weiter fragen.

00:16:07: Aber das zeigt einfach, was für ein großes Thema, glaube ich, die KI inzwischen ist.

00:16:13: Insofern danke ich Ihnen, dass wir schon mal so einen ersten Einblick jetzt mit Ihnen

00:16:17: gewinnen konnten.

00:16:18: Vielen Dank für die Fragen und das Gespräch.

00:16:21: Vielen Dank fürs Zuhören und bis zum nächsten Mal im Maschinenraum Gesundheit.

00:16:26: [Musik]

00:16:33: [Musik]