Bias – die stille Ungerechtigkeit in der Medizin

KI in der Medizin: Wenn „neutral“ nicht neutral ist

Bias in der Medizin bedeutet: Diagnosen, Risiken und Therapien werden für manche Menschen systematisch ungenauer – oft, ohne dass es jemand merkt.

„Der Arzt hat halt seine Meinung.“ – sagen viele.

„Zum Glück – ich will keinen Algorithmus, ich will einen Arzt mit Erfahrung und Bauchgefühl.“ – sagen andere.

KI in der Medizin klingt für viele nach dem Ende solcher Diskussionen: objektiv, nüchtern, unbestechlich.

Nur: KI ist nicht automatisch neutral. Und genau hier beginnt das Thema Bias – eine stille Schieflage, durch die Ergebnisse für manche Menschen ungenauer werden, ohne dass es auf den ersten Blick auffällt.

Denn KI ist nicht der Gegenpol zum Menschen. KI ist eher ein Spiegel – und manchmal ein Verstärker. Sowohl Menschen als auch Maschinen können systematisch danebenliegen. Der Unterschied ist: Die eine Seite nennt es „Erfahrung“, die andere „Trainingsdaten“. In der Hausarztpraxis Dr. Augele sehe ich täglich, wie sehr Kontext zählt: Sprache, Vorgeschichte, Bauchgefühl – und die blinden Flecken von Daten.

Arzt vs. KI: Der Mythos vom objektiven Computer

Wir stellen uns gern vor:

• Ärzte sind subjektiv, KI ist objektiv.
• Ärzte sind langsam, KI ist schnell.
• Ärzte machen Fehler aus Stress, KI macht Fehler aus Technik.

Die Realität ist unbequemer – aber sie ist interessanter:

Ärzte und KI haben eine gemeinsame Schwachstelle: das, was sie „gesehen“ haben.

Beim Menschen sind es Fälle, Lehrmeinungen, Prägungen.

Bei der KI sind es Datensätze, Labels, Messmethoden.

Und wenn dieses „Gesehene“ nicht die ganze Wirklichkeit abbildet, entsteht Bias.

Die Gemeinsamkeiten: Wo beide unfair werden können (ohne es zu wollen)

1) Mustererkennung ist kein Verstehen

Menschen wie KI erkennen Muster. Beides kann brillant sein – und beides kann danebenliegen, wenn das Muster nur für einen Teil der Menschen passt.

2) Der Standardmensch ist eine gefährliche Erfindung

In der Medizin gibt es Normwerte, Leitlinien, typische Verläufe. Das hilft. Aber: Wer davon abweicht (Alter, Geschlecht, Hauttyp, Mehrfacherkrankungen, Sprache, soziale Lage), wird leichter übersehen – vom Menschen und von der KI.

3) Selbstbewusstsein ist kein Qualitätsmerkmal

Ein Mensch wirkt überzeugend, eine KI wirkt mathematisch. Beides kann eine falsche Sicherheit erzeugen – und genau dann wird es riskant.

Die Unterschiede: Wo die KI besser ist – und wo der Mensch

Was KI oft gut kann

• riesige Datenmengen schnell durchsuchen (Bilder, Muster, seltene Konstellationen)
• gleichförmig arbeiten (keine Müdigkeit, keine schlechte Laune)
• bei klaren, gut definierten Aufgaben erstaunlich präzise sein

Was Ärzte oft besser können

• Kontext verstehen: Lebensumstände, Dynamik, Zwischentöne
• „Unordnung“ aushalten: unklare Symptome, gemischte Ursachen
• Verantwortung tragen, priorisieren, erklären, gemeinsam entscheiden
• „Arzt oder Arzt:tin? In diesem Beitrag wird nicht gegendert. Nicht aus Ignoranz, sondern aus Eigenständigkeit. Maschinen folgen Mustern – Menschen dürfen sie brechen.“

Und jetzt der entscheidende Punkt:

KI ist oft besser in dem, was häufig und gut dokumentiert ist. Menschen sind oft besser in dem, was komplex und individuell ist. Bias entsteht, wenn man das verwechselt.

Provokant gesagt: KI kann Vorurteile skalieren

Ein einzelner Arzt kann sich irren. Das ist menschlich.

Eine KI kann denselben Irrtum tausendfach reproduzieren – leise, effizient und mit dem Anschein von Objektivität.

Darum ist die beste Rolle für KI in der Medizin selten „Entscheider“.

Sie ist Zweitblick, Warnsystem, Sortierhilfe – und braucht klare Grenzen. Bias in der Medizin ist keine Theorie, sondern eine Sicherheitsfrage.

5 Fragen, die Patienten stellen dürfen (ohne „technikfeindlich“ zu sein)

• „Wurde das System auch an Menschen wie mir getestet (Alter, Vorerkrankungen, Hauttyp, Sprache)?“
• „Ist KI hier entscheidend – oder nur ein Hinweis für den Arzt?“
• „Was passiert, wenn KI und klinischer Eindruck nicht zusammenpassen?“
• „Gibt es eine Alternative ohne KI – oder einen zweiten Blick?“
• „Wie werden meine Daten genutzt und geschützt?“ (Datenschutz/Transparenz)

Und vielleicht der wichtigste Satz:

Die beste Medizin ist nicht „Mensch oder Maschine“.
Sondern Mensch mit guter Maschine – und dem Mut, ihr zu widersprechen, wenn es nötig ist

Wer das Thema vertiefen will: Die WHO hat dazu klare Leitlinien zu Ethik und Governance von KI im Gesundheitswesen veröffentlicht.