Immer öfter beklagen Mediziner, dass der medizinische Algorithmus nicht ausgereift ist und Diagnosen fern ab von der eigenen Diagnose stellt. Die Folge ist für den Patienten nur schwer absehbar, die wenigsten Patienten wissen, was es mit dem medizinischen Algorithmus auf sich hat. Eine Studie der Universität Boston zeigt, dass sich sogar eine rassistische Formel eingeschlichen hat. Ist das System wirklich so fehlerhaft?
Was ist ein medizinischer Algorithmus?
Die künstliche Intelligenz kommt vor Allem im medizinischen Bereich immer häufiger zum Einsatz. Zunehmend wird der Patient zum Datenträger für die eingesetzte Software. Der Algorithmus ist eine Hilfestellung in der Programmiersprache, um Lösungsansätze für verschiedenste Probleme herbeiführen zu können. Dabei handelt es sich um mathematische Formeln, Berechnungen, statistische Auswertungen und andere Quellen, an denen sich die künstliche Intelligenz bedient.
Wann und wo wird der medizinische Algorithmus eingesetzt?
Der medizinische Algorithmus wird vor Allem im Diagnoseverfahren eingesetzt. Er gilt als Risikokalkulator, denn er ermittelt aus zahlreichen Datensätzen den Risikofaktor. Der Algorithmus kann Krankheiten besser und schneller erkennen, als Ärzte und Mediziner. Auch bei der Auswahl der richtigen Medikamente kann der Algorithmus gute Dienste leisten.
Welcher Unterschied besteht zwischen dem mathematischen und dem medizinischen Algorithmus?
Der mathematische Algorithmus bezieht sich lediglich auf mathematische Formeln und Berechnungen, die allesamt klar definiert sind. Der medizinische Algorithmus hingegen bezieht sich bei der Lösungssuche zudem auch auf Statistiken oder Auswertungen.
Die einzelnen Schritte, an denen sich der Algorithmus bedient, sind im Gegensatz zum medizinischen Algorithmus nicht klar definiert. Während der mathematische Algorithmus auch alle Verzweigungspunkte bei der Berechnung berücksichtigt, ist dies beim medizinischen Algorithmus nicht der Fall.
Welchen schwerwiegenden Fehler bemängeln die Ärzte?
Es gibt noch weitere Schwachstellen des medizinischen Algorithmus, die zur Irreführung in der Diagnose führen können. Die Ärzteschaft spricht auch von der medizinischen Inkompetenz des Algorithmus im Bereich des Diagnoseverfahrens. Es fehlt ein weltweiter Standard-Algorithmus und eine einheitliche Sprache für den medizinischen Gebrauch.
Welche Nachteile hat der medizinische Algorithmus für den Patienten?
Es klingt verlockend gut, wenn eine Maschine mit künstlicher Intelligenz, auf schnellstem Wege eine Diagnose stellen könnte, die zudem noch zuverlässig ist. Immer häufiger bemängeln die Mediziner die Kompetenz des medizinischen Algorithmus und beschreiben Fehler, die sie in Hand- und Lehrbüchern festhalten.
Der Nachteil für den Patienten ist zum einen die Alternativlosigkeit zur vorhandenen Diagnose. Zum anderen stellt es eine Gefahr dar, wenn der Arzt sich auf den medizinischen Algorithmus verlässt und somit Fehler in der Behandlung macht. Patienten, die falsch medikamentös behandelt werden, können körperliche und psychische Beschwerden davontragen, die bis zum Tod führen können.
Wie gefährlich ist der Einsatz eines medizinischen Algorithmus? – Studie zeigt Gefahr rassistischer Formeln
Die stetige Weiterentwicklung der künstlichen Intelligenz bringt Programme auf den Markt, die alles andere als transparent arbeiten. Ärzte an einer Bostoner Uniklinik wunderten sich, als sie mitbekamen wie unseriös der medizinische Algorithmus arbeitet. Häufiger wurden schwarze Mitbürger als High-Risk ausgewertet, als weiße Mitbürger und Patienten.
Es gibt tatsächlich einige Krankheiten, wie z.B. erhöhte Blutzuckerwerte, die häufiger bei schwarzen Menschen auftreten. Dennoch wurden die schwarzen Mitbürger und Patienten für die Vorsorge- und Präventionsmaßnahmen vom System seltener ausgewählt. Die Mediziner beklagten die rassistische Verzerrung der Diagnose und Prävention.
Welcher Fehler führt im Algorithmus zum rassistischen Hintergedanken?
Dem Hersteller des medizinischen Algorithmus ist ein folgeschwerer Fehler unterlaufen. Der Hersteller nahm zur Berechnung, die Gesundheitskosten der damaligen Patienten als Grundlage. Er berücksichtigte nicht, dass sozial schwache Menschen, seltener einen Arzt aufsuchen.
Wie konnte der Fehler überhaupt zu Stande kommen?
Das liegt zum Einen an den Kosten für die Behandlung, denn in vielen Ländern der Erde ist das Gesundheitssystem noch lange nicht ausgereift. Der Patient muss einen großen Teil der Kosten selbst tragen. Viele haben keine Krankenversicherung. Zum Anderen hat es psychologische Gründe , warum ein sozial schwacher Mensch seltener zum Arzt geht.
Häufig sind die Menschen durch ihr soziales Leid nicht in der Lage sich zur Behandlung motivieren zu lassen, sie haben mit dem täglichen Existenz- und Überlebenskampf genug zu tun und können nicht für einen längeren Zeitraum ausfallen, da sie die Familie ernähren müssen.
Fazit: Der medizinische Algorithmus muss neu definiert werden
Mediziner beklagen zu Recht, dass der medizinische Algorithmus fehlerbehaftet ist und rassistische Grundlagen zur Berechnung verwendet, auch wenn dies eventuell nicht beabsichtigt war.
Der schwerwiegende Fehler im System führt tatsächlich zur nachteiligen Behandlung schwarzer und sozial schwacher Patienten. Es gibt also noch eine Menge für die Entwickler zu tun, bevor die Hersteller von einem sicheren und zuverlässigen System sprechen können.
