Je selbstverständlicher KI im klinischen Alltag wird, desto anspruchsvoller wird ihre wissenschaftliche Beurteilung. Implementierungen basieren oft auf Erfahrungswerten und nicht auf belastbarer Studienevidenz.
Der klassische Lichtkasten ist in der Radiologie längst digitalen Bildarchiven gewichen, ein wachsender Teil der Bildauswertung läuft heute über KI-gestützte Systeme. Künstliche Intelligenz eröffnet der Wissenschaft neue Möglichkeiten, bei der Erstellung von Publikationen ebenso wie im Reviewprozess selbst.
Bauchgefühl
schlägt Evidenz.
KI im Reviewprozess ist in der Medizin nicht nur eine technische, sondern eine grundlegende Standesfrage.
Orientierung im Reviewprozess
Die European Society of Radiology (ESR) hat klare Maßstäbe gesetzt. Orientierung bieten der offizielle „Guide for Reviewing AI Papers“ der European Radiology, die sogenannten „Survival Guides“ sowie weiterführende Materialien der ESR AI Working Group. Im Kern geht es dabei immer um dieselben Fragen: Wie verlässlich sind die Daten und Modelle? Welche Standards wurden eingehalten? Zeigt sich ein Bias in den Trainingsdaten? Ist das Vorgehen transparent nachvollziehbar? Und: Rechtfertigt der klinische Mehrwert den Aufwand und entspricht das Studiendesign den heutigen Anforderungen an Patientensicherheit und Governance?
Radiologe und Editor Daniel Pinto dos Santos bringt ein einprägsames Beispiel: Wenn man eine KI zur Bildverbesserung nur mit Fotos weißer Gesichter trainiert, prägt sich das System diese Merkmale ein. Ein Bild von Barack Obama würde dann wahrscheinlich falsch rekonstruiert werden. Daraus leitet er eine zentrale Frage für jedes Review ab: „Wird die KI auf einer Teilmenge der Daten trainiert und erst nach Abschluss der Entwicklung, wenn die finale, klinisch einsetzbare Version vorliegt, an einem separaten, unabhängigen Datensatz getestet? Wer diese Frage im Review nicht stellt, übersieht möglicherweise das grundlegendste methodische Risiko überhaupt.“
Kann KI Evidenz schaffen? Eine ethische Kernfrage
Jonathan McNulty ist Professor für Radiologie am University College Dublin und Editor. Er fragt sich: „Wenn generative KI eine Übersichtsarbeit zusammenfasst, bevor ein Protokoll geändert wird, praktiziert man dann noch evidenzbasierte Versorgung?“ Er warnt vor Halluzinationen, falschen Zitaten und eingebettetem Bias. KI solle als Assistenzsystem verstanden werden und nicht als Ersatz für kritisches Urteilsvermögen. Klassische Fähigkeiten der kritischen Literaturbewertung blieben unverzichtbar für tragfähige klinische Leitlinien. Eine aktuelle systematische Übersichtsarbeit zur KI-Diagnostik in der Radiologie kommt zu einem nüchternen Ergebnis: Die Implementierung stützt sich vielerorts eher auf Erfahrungswerte als auf belastbare Studienevidenz. KI im Reviewprozess ist damit nicht nur eine technische, sondern eine grundlegende Standesfrage. Bias, sich wandelnde Datenlagen und unzureichend getestete Modelle sind methodische Fallstricke, die Gutachter kennen sollten. Aus den Beiträgen von Pinto dos Santos und McNulty kristallisiert sich eine Haltung heraus, die weit über die Radiologie hinausweist, wenn ein Teil der Wissensproduktion zunehmend von Maschinen mitgestaltet wird: Informierte Neugier statt blindem Vertrauen, Verantwortungsbewusstsein statt technischer Bequemlichkeit. McNulty betont: „Verantwortlich bleibt immer der Mensch, nicht das Tool.“
Quellen und Links:
journals.myesr.org/eur-radiol/guide-for-reviewing-ai-papers
link.springer.com/article/10.1186/s13244-025-01905-x
