Chatbot liefert belastbares Wissen für Krebspatienten

Verständliche und verlässliche Informationen sind für Menschen mit einer Krebserkrankung entscheidend, aber häufig schwer zu finden. Medizinische Leitlinien sind oft so komplex formuliert, dass viele Patientinnen und Patienten sie nicht verstehen. Gleichzeitig kursieren im Internet viele Falschinformationen.

Forschende der Technischen Universität München (TUM) und des TUM Klinikums wollen hier für Abhilfe schaffen. Gemeinsam entwickeln sie ein KI-Werkzeug, das evidenzbasiertes Fachwissen in nachvollziehbare Antworten übersetzen soll. Ein weiteres Ziel besteht darin, das solchermaßen erhobene Wissen individuell anzupassen.

Status quo

TUM-Angaben zufolge suchen rund zwei Drittel aller Krebspatientinnen und -patienten online nach Informationen zu ihrer Erkrankung. Sie befragen Chatbots, scrollen durch Foren, klicken sich durch Portale und geraten dabei häufig an veraltete, unvollständige oder falsche Inhalte. Auch medizinisches Fachpersonal nutzt regelmäßig digitale Quellen, um nach Behandlungsmethoden oder der Dosierung für Medikamente zu recherchieren und ist mit den gleichen Problemen konfrontiert.

An dieser Stelle setzt der KI-Assistent an, den die Forschenden in den kommenden Jahren entwickeln und erproben wollen. Unterstützt werden sie dabei mit einer Förderung von 1,5 Millionen Dollar aus dem Google.org Accelerator. Die TUM wurde mit ihrem Projekt als eine von 20 gemeinnützigen Organisationen weltweit ausgewählt.

Gesicherte Informationen

Der KI-basierte „AIdvice Assistant“ soll ein Large Language Model (LLM) mit einer speziell entwickelten Wissensdatenbank kombinieren. Diese enthält relevante Leitlinien zur Krebstherapie. Nutzerinnen und Nutzer – ob Betroffene oder medizinisches Fachpersonal – können dem Assistenten Fragen rund um die Krebserkrankung stellen, ähnlich wie bei bekannten Sprachmodellen.

Im Unterschied zu diesen greift der Chatbot bei der Beantwortung der Fragen aber ausschließlich auf gesicherte Informationen zurück, die in der Datenbank enthalten sind. Dadurch wird das Risiko sogenannter Halluzinationen, also ausgedachter oder gar falscher Antworten minimiert.

„Das Sprachmodell soll aber nicht nur Antworten liefern, sondern sie dabei auch einer faktenbasierten Überprüfung unterziehen. Das Ziel ist, dass der Assistent jede Antwort in einzelne Aussagen zerlegt, diese mit der Wissensdatenbank abgleicht und mit den Originalquellen verknüpft. So lässt sich jede Information bis zur Ursprungsquelle zurückverfolgen – etwa eine Passage aus einer medizinischen Leitlinie“, sagt Florian Matthes, Professor für Software Engineering betrieblicher Informationssysteme an der TUM.

Der „AIdvice Assistant“ richtet sich einerseits an Patientinnen und Patienten sowie ihre Angehörigen, die nach Unterstützung bei Fragen beispielsweise zu Therapie, Nebenwirkungen oder Prävention suchen. Andererseits soll auch das medizinische Fachpersonal entlastet werden, das mit dem System evidenzbasiertes Wissen schneller finden und direkt auf Quellen zugreifen kann.

Einsatz im Klinikalltag

„In einer ersten Pilotphase wollen wir den Chatbot in der Klinikumgebung testen und unsere Wissensdatenbank kontinuierlich erweitern“, sagt PD Jan Peeken (Bild), geschäftsführender Oberarzt an der Klinik und Poliklinik für Radioonkologie und Strahlentherapie. „Das Ziel ist es, das System anschließend auch in Kliniken und Hausarztpraxen deutschlandweit einzusetzen und langfristig auf weitere europäische Länder auszuweiten.“

Die Daten der Patientinnen und Patienten werden in der Pilotphase auf den Servern der jeweiligen Kliniken gespeichert. Anschließend ist eine datenschutzkonforme Speicherung auf Servern in Deutschland geplant, die den Anforderungen des Gesundheits- und Pflegebereichs entspricht.