Foto: Uniklinik Freiburg

Interviews

Prof. Gerd Antes: Die unerhörte Wahrheit?

Algorithmen, Deep-Learning und Co. - überall im Gesundheitswesen wird über die verschiedensten Ausprägungen von Digitalisierung und Künstlicher Intelligenz geschwärmt. Das ist gefährlich, weil vor allem wissenschaftliche Prinzipien missachtet werden, meint einer der Wegbereiter der evidenzbasierten Medizin in Deutschland, Prof. Dr. Gerd Antes.

Sie werden oft als Kritiker der Digitalisierung dargestellt. Fühlen Sie sich oft falsch verstanden?

Prof. Dr. Gerd Antes: Nein, falsch verstanden fühle ich mich kaum, eher mit Erstaunen wahrgenommen. Oder auch einfach nur als störend. Wie kann jemand daherkommen und mitten in der Transformation in die goldene digitale Zukunft auf zentrale Aussagen der Verkündungen schauen und behaupten, dass sie substantiell falsch seien? Damit stehe ich jedoch nur scheinbar allein. Im Wissenschaftsbereich gibt es sehr viel Zustimmung und Unterstützung, die jedoch großenteils nicht artikuliert wird oder im marketinggetriebenen Hype untergeht. Begünstigt wird das durch ein massives Begriffswirrwarr, u. a. bedingt durch fehlende Definitionen selbst der grundlegenden Begriffe. Versuchen Sie mal, eine Definition für Digitalisierung oder künstliche Intelligenz zu finden. Das gelingt aus dem einfachen Grund nicht, dass uns etwas als neu verkauft wird, was nicht neu ist. Die Welt durch “0“ und “1“ darzustellen, wurde bereits in den 1940ern formuliert, vor 1960 in deutschen Gymnasien unterrichtet und Anfang der 1980er Jahre mit wesentlicher deutscher Beteiligung im mp3-Format für digitalisierte Audiodaten praktisch umgesetzt. Wir sind mitten in einer Entwicklung, was jedoch entweder kaum wahrgenommen wird oder bewusst ignoriert wird, da ein Hype Neuigkeit und Sensationen braucht. Das ist zum einen die Missachtung der enormen Leistungen der letzten 70 Jahre und zum anderen Ausgangspunkt für Fehlentwicklungen, wenn daran nicht angeknüpft wird. Das wird täglich durch vollmundige Ankündigungen demonstriert, die meistens von keiner Sachkenntnis getrübt sind. Dazu kommen massive Interessenkonflikte, die jedoch auch nicht thematisiert werden. Heraus kommt ein nebulöses Zukunftsbild, für das jeder analytische Blick störend ist. Insofern kann die Forderung auch nicht sein, dass KI richtig umgesetzt werden muss. Technisierung und Automatisierung gibt es in allen Lebensbereichen. Jede Weiterentwicklung muss bzgl. der Dimensionen Nutzen – Schadensrisiko – Kosten bewertet werden. Darauf unter der Schlagzeile „Künstliche Intelligenz“ zu verzichten und Digitalisierung als Ideologie zur Staatsraison zu erklären, birgt selbst ein großes Risiko und wird noch zu sehr viel Ernüchterung und bösem Erwachen führen.

Was wird denn gänzlich falsch gemacht?

Antes: Technischer Fortschritt und gesellschaftliche Weiterentwicklung erfordern präzise Analyse des Verhältnisses von Nutzen, Risiken und Kosten, intensiven Diskurs. Seit den 1960er Jahren gibt es dazu die Methodik der Technikfolgenabschätzung, deren Bestandteile wissenschaftlich begründet sind. Diese Prinzipien sind in den letzten zehn Jahren unter den Schlagworten Digitalisierung, Künstliche Intelligenz und Big Data komplett ignoriert worden und durch Versprechungen und Zukunftsvisionen ersetzt worden, die bei einer angemessenen Überprüfung ihre Schwachstellen zeigen würden. Es ist erstaunlich, mit welcher Konsequenz leicht zu durchschauende leere Versprechungen durch Wegschauen aller Verantwortlichen reüssieren und durch ständige Wiederholung den Status von Wahrheiten zu erlangen scheinen. Einen großen Teil der Verantwortung trägt dabei die Wissenschaft selbst. Eigentlich hätten die wissenschaftlichen Institutionen und hier vor allem die Fachgesellschaften für die Methodik der empirischen Forschung die Mittel und auch die Pflicht, die gegenwärtige Diskussion zu bewerten und einzuordnen. Genau das geschieht jedoch nicht. Von der Leopoldina bis zum Deutschen Ethikrat hin wird formuliert, dass Digitalisierung und künstliche Intelligenz der direkte Weg zu enormem Nutzenpotential sind, wobei im Nachsatz erwähnt wird, dabei auch ein bisschen auf mögliche Risiken zu achten. Artikel dazu beginnen üblicherweise damit, Tera- oder Petabyte Daten mit Auswertungen in Echtzeit anzupreisen und das mit entsprechend enormen neuen Erkenntnissen gleichzusetzen. Gerade das ist ohne profunde Diskussion in vielerlei Hinsicht zweifelhaft, in manchen Aussagen schlichtweg falsch. Hier versagt die Wissenschaft völlig und zeigt an vielen Stellen ein Verhalten, das nur als opportunistisches Mitschwimmen im Hype des gegenwärtigen Mainstream gesehen werden kann. Genau das ist jedoch nicht die Aufgabe von Wissenschaft. Die Aufgabe der wissenschaftlichen Eckpfeiler lässt sich festmachen an einer Publikation in der Zeitschrift Wired in 2008 (“The End of Theory: The Data Deluge Makes the Scientific Method Obsolete“). Der dort proklamierte Verzicht auf Theorie und deren Ersatz durch die kommende Datensintflut erlaube es, aus Korrelationen Kausalzusammenhänge zu erkennen. Die so erklärte neue Wissenschaftlichkeit ist Basis der Kritiklosigkeit und damit Voraussetzung für die Ideologisierung dessen, was unter Digitalisierung subsumiert wird.

Gibt es Wege, die Künstliche Intelligenz schnell und richtig umzusetzen? Oder braucht es mehr Fokus auf Ergebnisqualität und ausführliche Erprobungsstudien?

Antes: Um es noch einmal zu betonen: Die künstliche Intelligenz gibt es nicht. Einmal ist der Begriff nicht definiert und zum zweiten gibt es keine dazugehörige Methodik. Das zeigt sich daran, dass bei Studienergebnissen die übliche detaillierte Methodenbeschreibung gerade in den Medien auf das Schlagwort “mit Methoden der künstlichen Intelligenz“ schrumpft. Insofern ist es auch nicht die Frage, wie KI schnell und richtig umgesetzt werden kann. KI als fehlerfrei durch Datenüberfluss zu erklären, ist bequem, aber fahrlässig. Die als Erfolge von KI kursierenden Beispiele unterscheiden sich fundamental und erfordern deswegen unterschiedliche Methoden, die wiederum bzgl. der Erfolge rigoros bewertet werden müssen. Dafür benötigt man eine Fülle von Studien, die den Fragestellungen gerecht werden, die dafür nötige Geduld und die Nutzendefinition anhand patientenrelevanter Ziele anstatt durch Informatik formulierte Surrogate. Vor allem aber ist eine Rückbesinnung auf die Qualität in der Wissenschaft notwendig.

Bei wem sehen Sie die Schuld für das Schnell-Schnell bei der Digitalisierung? Hat sich die Selbstverwaltung das selbst eingebrockt oder ist der Gesetzgeber, der sich mit den Fortschritten bei der Digitalisierung schmücken will, zu übereifrig?

Antes: Die Frage nach der Schuld ist nicht mit dem Fingerzeig auf eine Tätergruppe zu beantworten, sondern in diesem komplexen Geschehen nehmen alle Interessensgruppen unseres Gesundheitssystems gleichzeitig die Täter- und Opferrolle ein. Eine zentrale Rolle spielen sicherlich die Internetkonzerne (GAFAM=Google, Amazon, Facebook, Apple, Microsoft), die uns weismachen, dass sie vor allem für eine bessere Welt arbeiten, dabei jedoch die wahren Interessen verschleiern. Selbstverwaltung und Gesetzgeber sind zentrale Mitspieler in dieser Entwicklung und müssen sich den Vorwurf gefallen lassen, den Hype mitzutragen und ihm mit einer unglaublichen Kritiklosigkeit gegenüberzustehen. Erster zu sein, scheint die alles dominierende Motivation zu sein, egal, ob Ziele und Wege dahin stimmen. Das kann in jedem Anwendungsgebiet extrem schädlich sein, besonders jedoch in der Medizin, wo es fehlender Nutzen sein kann, sehr wohl jedoch auch Risiko und Schaden für Patienten.

Mehr Wissen - bessere Entscheidungen!

Wir bieten Ihnen noch mehr! Werden Sie Insider und nutzen Sie unser Netzwerk zu Ihrem Vorteil. Profitieren Sie von unserer langjährigen Erfahrung im Gesundheitssektor durch aktuelle Informationen, ausführliche Analysen und treffen Sie künftig fundiertere Entscheidungen!
Jetzt Abo abschließen >

Das BMG hat mit dem Health Innovation Hub ein „unabhängiges Beratergremium zum Erkennen von Digital-Technologien und Überprüfen auf den Nutzen“ gegründet. Die elf Experten kommen vor allem aus der digitalen Gesundheitswirtschaft. Welchen Wert hat das Gremium? Fehlt Ihnen ein Gegengewicht? Oder taugt der Hub nur als Imageprojekt des Ministeriums?

Antes: Das wird sich anhand der oben genannten Schwachstellen relativ schnell zeigen. Das “Erkennen von Digital-Technologien und Überprüfen auf den Nutzen“ ist eine Aufgabenstellung, die neutral bewerkstelligt werden kann, sehr wohl jedoch auch als Einfallstor für Herstellerinteressen missbraucht werden kann. Eine Schlüsselfrage ist, ob die Medizin nicht nur durch Technik unterstützt werden soll, sondern vielmehr Informatik und Technik als Ersatz einer menschenorientierten Medizin angestrebt wird. Das sehe nicht nur ich außerordentlich kritisch. Ein ganzes Berufsleben in diesem Umfeld hat mir zu viele Durchbrüche und Blasen gezeigt, die alle stark technikgetrieben waren und sang- und klanglos verschwanden oder laut platzten. Zeigen wird sich das z. B. an der Behandlung der Heilsversprechen von Apps, die größtenteils nicht einzulösen sind. Hier ist die Regulierung überfällig. Die entscheidende Frage “Apps statt Arzt“ scheint jedoch bei vielen noch nicht angekommen zu sein. Selbst Fragen wie “Brauchen wir noch Ärzte?“ in Digitalisierungsbeiträgen der ARD scheint selbst bei der Ärzteschaft wenig Beunruhigung hervorzurufen.

Wenn sich das gesundheitspolitische Verständnis von Künstlicher Intelligenz nicht ändert – wo stehen wir dann in fünf oder zehn Jahren? Ihre Prognose?

Antes: Die Entwicklung wird entscheidend davon bestimmt werden, wie konsequent es gelingt, den patientenorientierten Nutzen in den Mittelpunkt zu stellen und dazu dem Qualitätsbegriff überragende Bedeutung zu geben. Medizin hat die Aufgabe, Maßnahmen mit hoher Qualität für den Patienten zu entwickeln und anzuwenden und nicht in erster Linie Informatikparameter als Ziel zu verfolgen. Diese Grundfesten sind erschüttert und müssen gestärkt werden. Viele der Aspekte, die die Medizin und Gesundheitsversorgung massiv betreffen, werden jedoch in anderen Zusammenhängen bestimmt. Deutschland als High-Tech-Land kann sich in diesen Trends im globalen Wettbewerb nicht verschließen. Das sollte jedoch nicht heißen, die Medizin durch eine hemmungslose Technisierung und Ökonomisierung zu beschädigen. Der Mensch soll und wird weiterhin im Mittelpunkt stehen. Viele der Erfolgsankündigungen werden sich von selbst erledigen, da die unvermeidlichen Risiken konsequent negiert werden. Die gewünschte Vernetzung wird zu immer schwieriger zu schützenden Daten führen, eine Verlockung für Hacker, die diese sicherlich nicht übersehen werden. Sicherheit wird überragende Bedeutung bekommen. Das aktuellste Beispiel, was künstliche Intelligenz bedeuten kann, sind – soweit heute bekannt - die zwei Abstürze der Boeing 737 max in Indonesien und Äthiopien. Verzweifelte Menschen, die Piloten, versuchen erfolglos, die Kontrolle über ihre Maschinen zurückzuerlangen. Das Ergebnis sind 346 Tote, die wohl hätten vermieden werden können, wenn es den roten Knopf gegeben hätte mit der Beschriftung: Mensch, bitte übernehmen.

Interview: Gunnar Göpel

Dieses Interview erscheint am 2. Mai 2019 im sgpINSIDER #8 und ist vorab exklusiv für INSIDERpro-Nutzer verfügbar.