ChatGPT: Ein zweischneidiges Schwert bei der Reduzierung von Ungleichheiten im Gesundheitswesen

ChatGPT, Bard und andere generative KIs sind sich rasant entwickelnde Technologien mit enormem Potenzial in vielen Bereichen, von der Verarbeitung natürlicher Sprache bis zur Bilderzeugung. In den richtigen Händen können sie mächtige Tools sein, die Ungerechtigkeit abbauen und Fairness in verschiedenen Bereichen fördern. Sie geben aber auch Anlass zur Sorge über mögliche Risiken und Folgen. Erfahren Sie mehr über die Vorteile und Herausforderungen des Einsatzes von generativer KI bei der Bekämpfung von Ungleichheiten im Gesundheitswesen und die unerwarteten Vorzüge der herkömmlichen Automatisierung.

Vorteile der generativen KI

Zugang zu effektiverer Bildung

Gesundheitskompetenz ist eine soziale Determinante der Gesundheit, und am Anfang steht die Bildung. Generative KI kann personalisierte Lernerfahrungen für Kinder oder Erwachsene schaffen, die sich an deren individuelles Alter, Hintergrund, Bedürfnisse, Stärken und Schwächen anpassen. Diese Technologie ermöglicht die Entwicklung relevanterer, personalisierter Bildungsinhalte und -ressourcen und gleicht den Mangel an qualifizierten Lehrkräften teilweise aus, wodurch der Zugang zu hochwertiger Bildung für marginalisierte und unterprivilegierte Bevölkerungsgruppen verbessert wird. Wird generative KI die Lehrkräfte ersetzen? Noch nicht.

Beseitigung von Sprachbarrieren

Mit Hilfe der generativen KI können fortschrittliche Übersetzungssysteme entwickelt werden, die es Menschen mit unterschiedlichem sprachlichem Hintergrund ermöglichen, effektiv zu kommunizieren. Dies kann die globale Zusammenarbeit fördern, marginalisierte Bevölkerungsgruppen stärken und den Zugang zu wichtigen Gesundheitsressourcen erleichtern. Unterlagen für die Patienten können leicht an Sprache, Alter, Bildungsstand, Kultur und viele andere Faktoren angepasst werden. In Zukunft könnte das sogar die Krankengeschichte und den Versicherungsschutz einschließen.

Verbesserung der Beschäftigungsmöglichkeiten

Das Einkommen ist eine weitere soziale Determinante der Gesundheit. Diese Technologie kann zur Rationalisierung des Einstellungsverfahrens eingesetzt werden, um Voreingenommenheit und Diskriminierung bei der Einstellung zu erkennen und zu verringern. Mit dieser Technologie lässt sich auch der künftige Bedarf an Arbeitskräften vorhersagen, sodass Regierungen und Organisationen gezielte Qualifikationsentwicklungsprogramme entwickeln können, um benachteiligten Bevölkerungsgruppen den Zugang zu besseren Beschäftigungsmöglichkeiten zu erleichtern.

Finanzielle Inklusion

Generative KI kann komplexe Finanzdaten analysieren und so die Entwicklung innovativer Finanzprodukte und -dienstleistungen ermöglichen, wie z. B. biometrische Verfahren zur Feststellung der Kundenidentität (Know Your Customer, KYC), die auf die Bedürfnisse einkommensschwacher und bankenferner Personen zugeschnitten sind. Möglicherweise geschieht dies in Partnerschaft mit Institutionen und Unternehmen, die Angebote für eine Neuordnung der finanziellen Situation machen. Diese Technologie kann dazu beitragen, marginalisierten Bevölkerungsgruppen den Zugang zu Krediten, Ersparnissen und Versicherungen zu erleichtern, die finanzielle Inklusion zu fördern und wirtschaftliche Ungleichheit zu verringern. Generative KI kann darüber hinaus unseriöse Kreditangebote aufzeigen und Alternativen für Menschen mit geringer Finanzkompetenz vorschlagen.

Verbesserung des Gesundheitswesens

Generative KI kann dabei helfen, Muster in komplexen medizinischen Daten zu erkennen, was zu schnelleren Diagnosen und effektiveren Behandlungsplänen für bestimmte Bevölkerungsgruppen führt und gleichzeitig wichtige Erkenntnisse über die Gesundheit der Bevölkerung liefert. Durch die Analyse von Krankenakten aus der Vergangenheit und die Vorhersage von Bedürfnissen der Patienten und Hürden kann diese Technologie unerwartete Erkenntnisse zutage fördern, die Behandlungsergebnisse verbessern und möglicherweise Ungleichheiten verringern.

Verteilung von Ressourcen

Aus Sicht der Allgemeinheit und ihrer politischen Entscheidungsträger können KI-Algorithmen komplexe historische Daten analysieren, um zu entscheiden, wie Ressourcen am effektivsten und gerecht verteilt werden können. So kann generative KI zum Beispiel dabei helfen, staatliche Mittel und Hilfen denjenigen Bevölkerungsgruppen zukommen zu lassen, die sie am dringendsten benötigen. So wird sichergestellt, dass die Ressourcen effizient eingesetzt werden und einen bedeutenden Einfluss auf die Verringerung der Ungleichheit haben.
 

Herausforderungen der generativen KI

Datenverzerrungen, die die Ungleichheit fortschreiben

Generative KI stützt sich auf Daten, um Vorhersagen zu treffen und Inhalte zu generieren, was ein erheblicher Nachteil sein kann, wenn die verwendeten Daten verzerrt oder voreingenommen, nicht repräsentativ oder unvollständig sind. Das Zugrundelegen verzerrter Daten oder falscher Annahmen kann zu verzerrten KI-Modellen führen, die bestehende Ungleichheiten widerspiegeln und marginalisierte Bevölkerungsgruppen in unfairer Weise treffen. Im Jahr 2019 wurde in einer Studie ein wichtiger Algorithmus untersucht, der von Anbietern und Versicherern eingesetzt wird, um den Bedarf an medizinischer Versorgung auf der Grundlage historischer Kosten zu prognostizieren, und zwar für 200 Millionen Menschen. Der Algorithmus kam zu dem Schluss, dass schwarze Patienten ein geringeres medizinisches Risiko haben, weil sie weniger Kosten verursachen. In Wirklichkeit wurde die Tatsache nicht berücksichtigt, dass einkommensschwächere Gruppen eine schlechtere Versorgung erhalten und weniger Vertrauen in Ärzte haben, die voreingenommen zu sein scheinen. Sie nehmen weniger Leistungen in Anspruch, sodass die Kosten für ihre Versorgung niedriger sind – trotz des größeren Bedarfs.

Ironischerweise ist dies der Punkt, an dem die herkömmliche regelbasierte Automatisierung wie die robotergesteuerte Prozessautomatisierung (RPA) einen unbestreitbaren Vorteil bietet. RPA basiert im Allgemeinen auf deterministischen, datengesteuerten Entscheidungen und Handlungen, deren Regeln klar definiert, stabil und konsensorientiert sind und als bewährte Verfahren oder Richtlinien gelten. Die Gründe für Entscheidungen sind klar, und solche regelgesteuerten Prozesse sind nicht anfällig für versteckte Voreingenommenheit (auch wenn die Regeln selbst Voreingenommenheit zeigen können). So könnte eine regelbasierte Selektion theoretisch die Voreingenommenheit bei medizinischen Diagnosen und Therapien beseitigen, die durch Vorurteile und Erfahrungen der Ärzte beeinflusst werden können, und den Zugang zur Versorgung verbessern.

Arbeitsplatzverdrängung

Generative KI kann zwar neue Beschäftigungsmöglichkeiten schaffen, sie kann aber auch zur Verdrängung von Arbeitsplätzen führen. Die Automatisierung kann unverhältnismäßig viele gering qualifizierte Arbeitsplätze betreffen, was die Einkommensungleichheit erhöht und die Kluft in der Gesundheitsversorgung verschärft. Sollte sich die KI auf breiter Front durchsetzen, könnten nach einer Schätzung bis zum Jahr 2030 15–30 % der Arbeitnehmer, d. h. 400 Millionen Menschen weltweit, ihren Arbeitsplatz verlieren. Das berufliche Umschulen bzw. die Weiterbildung der betroffenen Bevölkerungsgruppen muss daher bei jeder KI-Implementierung berücksichtigt werden.

Digitale Kluft

Die Vorteile der generativen KI sind möglicherweise nicht gleichmäßig verteilt, da der Zugang zu Technologie und digitalen Kenntnissen in den verschiedenen Gemeinschaften unterschiedlich ist. Die wachsende digitale Kluft könnte dazu führen, dass bestimmte Gruppen nicht in der Lage sind, von KI-gestützten Lösungen zu profitieren, was zu weiteren Ungleichheiten führt. Möglicherweise müssen sich die gesellschaftlichen Bemühungen im Hinblick auf die sozialen Auswirkungen auf den kleinsten gemeinsamen digitalen Nenner beschränken. Andererseits schätzt man, dass 91,40 % der Weltbevölkerung heute ein Smartphone oder ein Feature-Phone besitzt.

Potenzieller Missbrauch

Böswillige Akteure könnten generative KI für ihre eigenen Zwecke ausnutzen, z. B. für die Erstellung von Deepfakes, die Generierung von Fake News oder die Automatisierung von Cyberangriffen. Der Missbrauch von KI-Technologie könnte das Vertrauen in digitale Systeme untergraben und unverhältnismäßig viele verwundbare Bevölkerungsgruppen treffen. Umgekehrt können auch redliche Wahrheiten unbeachtet bleiben. Dies ist eine Chance für Start-ups, fortschrittliche Technologien wie KI-Detektoren zu entwickeln, um einen derartigen Missbrauch zu erkennen und zu verhindern.

KI für das Gute nutzen

Generative KI birgt ein enormes Potenzial für die Verringerung der Ungleichheit, aber sie bringt auch erhebliche Herausforderungen mit sich, die es zu bewältigen gilt. Um das positive Potenzial der KI zu nutzen, ist es wichtig, in die ethische Entwicklung von KI, unvoreingenommene Daten, digitale Infrastruktur und Bildung zu investieren. Die generative KI wächst vom Kleinkind zum Teenager heran, und wir sind gezwungen, die Dinge, mit denen sie konfrontiert wird, ihren Zweck, ihre Moral und ihre Pflichten zu gestalten. Wenn wir diese Technologie verantwortungsbewusst entwickeln, können wir eine Zukunft aufbauen, in der generative KI die menschliche Produktivität und Wertschöpfung ergänzt, anstatt sie zu beeinträchtigen.