Laut neuesten Umfragen nutzt bereits mehr als die Hälfte der Menschen Künstliche Intelligenz (KI) für gesundheitsrelevante bzw. medizinische Fragen. In Sachen Krebs kann das besonders kritisch sein. Die Europäische Gesellschaft für medizinische Onkologie (ESMO) hat jetzt erste Leitlinien zur Verwendung von Large Language Models veröffentlicht: für Patienten, Ärzte und die Wissenschaft.
„Die Priorität der ESMO besteht darin, sicherzustellen, dass Innovationen zu messbarem Nutzen für Patienten und praktikablen Lösungen für Kliniker führen. Mit den Leitlinien zur Verwendung großer Sprachmodelle in der klinischen Praxis (ELCAP; Anm.) bietet ESMO einen pragmatischen, onkologiespezifischen Rahmen, der KI einbezieht und gleichzeitig klinische Verantwortung, Transparenz und robusten Datenschutz wahrt“, wurde Fabrice Andre, Präsident der europäischen Fachgesellschaft der Krebsspezialisten, in einer Aussendung zitiert. Die Gesellschaft hat in den vergangenen Tagen in Berlin ihren Jahreskongress abgehalten.
Da die Verwendung von Large Language Models (LLMs) in der Onkologie zunehme, sei man sich bewusst, dass Chancen und Risiken je nach Benutzer – ob Patienten, Kliniker oder Institutionen – variieren. Daher werden die Anforderungen an die KI-Systeme in drei Kategorien verankert.
Die ESMO: „Die erste Kategorie (Typ 1) befasst sich mit patientenorientierten Anwendungen wie Chatbots zur Aufklärung und Unterstützung bei Krankheitssymptomen, welche medizinische Versorgung ergänzen und im Rahmen überwachter Behandlungspfade je nach Notwendigkeit und einem verlässlichen Datenschutz betrieben werden sollen.“
In die zweite Gruppe dieser Systeme fallen demnach „Tools für medizinisches Fachpersonal wie Entscheidungsunterstützung, Dokumentation und Übersetzung, die eine formale Validierung, transparente Einschränkungen und expressis verbis eine Verantwortlichkeit der handelnden Menschen als Benutzer für Entscheidungen erfordern, die Patienten und ihre Behandlung etc. betreffen.
Die dritte Kategorie (Typ 3) betrifft institutionelle Hintergrundsysteme, die in elektronische Patientenakten integriert sind und Aufgaben wie Datengewinnung und Analyse, automatisch erstellte Zusammenfassungen und den Abgleich klinischer Studien übernehmen. Diese Systeme erfordern vor der Einführung Tests, eine kontinuierliche Überwachung auf Verzerrungen (Bias) und Leistungsänderungen, eine institutionelle Steuerung bzw. Übersicht (Governance) und eine erneute Überprüfung bzw. Bewertung bei Prozess- oder Datenquellenänderungen. „Kliniker sollten sich auch darüber bewusst sein, wann solche Systeme in ihrer Umgebung eingesetzt werden“, stellte die Fachgesellschaft der Onkologen fest.
In allen Umgebungen hänge die Zuverlässigkeit der Ergebnisse natürlich von der Vollständigkeit und Richtigkeit der Eingabedaten ab. „Lücken in der klinischen Dokumentation oder unvollständige Patientenanfragen können zu ungenauen oder irreführenden Antworten führen“, was die Notwendigkeit von Überwachung und Korrekturmaßnahmen gegen fehlerhafte Abläufe unterstreiche, so die Krebsspezialisten.
Was man sich aufseiten der ESMO von den neuen Systemen erwarte: „Überwachte Behandlungspfade für Patienten, validierte und transparente Tools für Kliniker sowie kontinuierlich überwachte, gut verwaltete Systeme, die in die elektronischen Gesundheitsakten eingebettet sind.“
(APA/red.)
