Wenn große Sprachmodelle in einem vereinfachten Nierenzuteilungsfall zwischen Patientinnen und Patienten wählen sollen, gewichten sie konkurrierende Merkmale anders als Menschen und wählen die Option „unentschieden“ deutlich seltener. Das berichten John P. Dickerson, Hadi Hosseini, Samarth Khanna und Leona Pierce in einer Preprint-Studie auf arXiv. Der Befund bezieht sich auf stilisierte Textdilemmata unter Versuchsbedingungen. Er beschreibt keine reale Organvergabe und keine Entscheidung, die anstelle von Ärztinnen und Ärzten getroffen wurde.
Was die Studie getestet hat
Die Arbeit trägt den Titel „Who Gets the Kidney? Human-AI Alignment, Indecision, and Moral Values“ und ist auf arXiv abrufbar. Die Autorinnen und Autoren stellen Sprachmodellen Fälle zur Nierenzuteilung und vergleichen deren Antworten mit menschlichen Präferenzdaten. Der Versuchsaufbau besteht aus drei Teilen:
As an Amazon Associate I earn from qualifying purchases.
- Acht Patientenprofile mit binären Merkmalen wie Alter, Trinkgewohnheit und allgemeinem Gesundheitszustand, die paarweise gegeneinander gestellt werden.
- Menschliche Vergleichsdaten aus früheren Studien; für die Auswertung der Mehrmerkmalsfälle nennt die Arbeit 289 menschliche Befragte.
- 30 Agenten je Sprachmodell, die dieselben Fälle bearbeiten, sowie eine zusätzliche Antwortoption wie eine Entscheidung per Münzwurf, mit der sich Unentschiedenheit messen lässt.
Diese Zahlen gehören ausschließlich zum Experiment. Sie sind weder eine Schätzung für eine Bevölkerung noch eine Anzahl realer klinischer Fälle.
Die Befunde im Einzelnen
Gewichtung konkurrierender Merkmale
Bei der Auswertung mehrerer Merkmale gleichzeitig ordneten Menschen und Modelle die Kriterien nicht immer gleich. Die Autorinnen und Autoren berichten, dass Menschen dem Alter in dieser Auswertung tendenziell mehr Gewicht gaben, während etliche Modelle Trinkgewohnheiten höher einstuften. Diese Tendenz gilt für die untersuchten Szenarien. Sie ist keine allgemeine Aussage über jede Modellversion oder über alle Menschen.
#1 Best Overall
Unentschiedenheit als eigener Befund
Die Studie fragt nicht nur, welche Option die Mehrheit wählt. Sie betrachtet auch, wie oft eine Antwort „unentschieden“ ausfällt und wie stark die Urteile streuen. Bei der zusätzlichen Münzwurf-Option wählten die Modelle laut Autorinnen und Autoren wesentlich seltener Unentschiedenheit als menschliche Teilnehmende. Die Verteilung der menschlichen Antworten zeigt über die Szenarien hinweg mehr Unentschiedenheit und mehr Variation.
Was eine leichte Feinabstimmung bewirkte
Die Autorinnen und Autoren testeten außerdem eine leichte überwachte Feinabstimmung mit wenigen menschlichen Beispielen. Sie verbesserte nach ihren Angaben die Übereinstimmung mit aggregierten menschlichen Präferenzen und die modellierte Unentschiedenheit. Eine vollständige Abbildung menschlicher Unsicherheit gelang damit nicht. Die Verbesserung in einem Versuchsaufbau ist deshalb kein Nachweis dafür, dass ein solches Modell für reale Transplantationsentscheidungen geeignet ist.
Rank #2
Warum es keine einfache „richtige“ Antwort gibt
In moralisch umstrittenen Fällen existiert nicht zwingend eine einzige objektiv richtige Präferenz, die sich aus einem Modell abrufen ließe. Daraus folgern die Autorinnen und Autoren, dass Ausrichtung auf menschliche Werte auch die Verteilung plausibler Urteile und die Uneinigkeit der Menschen abbilden muss. Eine reine Mehrheitsantwort oder eine einzelne Modellausgabe reicht dafür nicht aus.
Was die Studie ausdrücklich nicht untersucht
Die Autorinnen und Autoren begrenzen ihren Anspruch selbst. Im Abschnitt „Scope and framing“ heißt es sinngemäß auf Englisch: „Our goal is not to operationalize or evaluate clinical allocation policies, which involve additional medical, logistical, and regulatory constraints, but to isolate value judgments that arise even in simplified high-stakes choices.“ Auf Deutsch: Ziel sei nicht, klinische Allokationsrichtlinien zu operationalisieren oder zu bewerten, da diese zusätzliche medizinische, logistische und regulatorische Vorgaben umfassten. Ziel sei es, Werturteile zu isolieren, die selbst in vereinfachten Entscheidungen mit hohen Einsätzen auftreten.
Nicht beantwortet sind damit Fragen nach medizinischer Eignung, Organverträglichkeit, Logistik, geltenden Zuteilungsregeln, Verantwortlichkeit und den Folgen für Patientinnen und Patienten. Die Studie sagt auch nichts darüber aus, ob Sprachmodelle in klinischen Teams eingesetzt werden.
Zum Veröffentlichungsstatus: Das Manuskript auf arXiv nennt als Einreichungsdatum den 30. Mai 2025. Die arXiv-Seite enthält zudem Konferenz- und Jahresangaben, die nicht plausibel wirken. Ein gesicherter Peer-Review- oder Konferenzstatus lässt sich daraus deshalb nicht ableiten.
Leberallokation ist ein anderer Gegenstand
Bei Lebertransplantationen gibt es bereits definierte Bewertungssysteme. Ein begutachteter Artikel beschreibt den MELD-Score als etabliertes Verfahren, das die Dringlichkeit anhand von Laborwerten einschätzt. Der britische Transplant Benefit Score verbindet Dringlichkeit mit dem erwarteten Überlebensnutzen. Solche algorithmischen Rangfolgen sind nicht dasselbe wie ein generatives Sprachmodell, das in einer Textvignette eine moralische Wahl treffen soll. Der Begriff „Algorithmus“ und der Begriff „Sprachmodell“ bezeichnen hier unterschiedliche Dinge.
Crashes, No Sound, or Screen Glitches?
Random freezes, missing sound and display glitches usually trace back to one bad driver. Find and replace yours safely.Free scan · under a minuteWindows Errors? Fix Them Before They Spread
Repair common Windows errors and clear accumulated junk for a smoother, more stable PC - no reinstall needed.Free scan · no reinstallÖffentliche Einstellungen zur KI-gestützten Leberallokation
Eine zweite Studie, veröffentlicht 2023 im Fachjournal BMC Medical Ethics, befragte online 200 Personen ab 18 Jahren im Vereinigten Königreich, die Englisch sprechen. Die Stichprobe war nach Geschlecht ausgeglichen. Die Autorinnen und Autoren beschreiben die Erhebung als begrenzte Pilotbefragung, nicht als repräsentative Erhebung. Ihre Ergebnisse gelten daher für diese Gruppe und diesen Zeitpunkt, nicht als globale Mehrheitsmeinung und nicht als Nachweis tatsächlicher Spendebereitschaft.
Best Value
Die Befragten waren uneins, ob ein KI-System aus früheren Entscheidungen lernen oder mit klar definierten Zielen programmiert werden sollte. Als relevante Faktoren nannten sie unter anderem Dringlichkeit, Überlebenswahrscheinlichkeit, gewonnene Lebensjahre, Alter, Therapietreue, Lebensqualität und Alkoholkonsum. Diese Studie untersucht nicht dieselben Nierenfälle und nicht dieselben Modellantworten wie die Arbeit von Dickerson und Kolleginnen und Kollegen.
Independent reader supportYour contribution helps us test, update, and keep practical guides available for everyone.Worauf ein fairer Vergleich zwischen Mensch und Modell achten sollte
Wer Antworten von Menschen und Sprachmodellen gegenüberstellt, sollte mindestens vier Fragen stellen:
- Welche Merkmale fließen ein? Etwa Dringlichkeit, erwarteter Nutzen, Alter oder Gesundheitszustand.
- Wie werden konkurrierende Merkmale kombiniert? Ein Modell kann einzelne Attribute plausibel behandeln und dennoch bei deren Kombination von menschlichen Präferenzen abweichen.
- Wie wird Uneinigkeit sichtbar? Relevant sind Antwortverteilungen und Enthaltungen, nicht nur eine Mehrheitswahl.
- Wie nachvollziehbar und verantwortbar ist die Entscheidung? Für ein reales Zuteilungssystem müssten Transparenz, Fairness, Genauigkeit, öffentliche Legitimität und menschliche Verantwortlichkeit gesondert geprüft werden. Die Leberstudie nennt diese Punkte als zentrale Gestaltungs- und Akzeptanzfragen.
Der Befund aus dem Nierendilemma-Experiment ist damit ein Hinweis darauf, wo Ausrichtungsprobleme liegen können. Er ist kein Urteil über die Eignung von KI in der Transplantationsmedizin.
| Aspekt | Menschliche Teilnehmende | Sprachmodelle |
|---|---|---|
| Gewichtung des Alters (Mehrmerkmalsfälle) | Tendenziell stärker gewichtet | Nicht als eigener Befund angegeben |
| Einordnung der Trinkgewohnheiten | Nicht als eigener Befund angegeben | Bei etlichen Modellen höher eingeordnet |
| Wahl der Option „unentschieden“ (Münzwurf) | Häufiger; mit mehr Variation über Szenarien | Wesentlich seltener |
| Geltungsbereich | 289 Befragte in der Mehrmerkmalsauswertung | 30 Agenten je Modell im Experiment |
Wie man solche Befunde lesen sollte
Ein Ergebnis aus stilisierten Textfällen lässt sich nicht einfach auf Spendeorgane übertragen. Entscheidend sind die Versuchsbedingungen, die genannten Fallzahlen und die ausdrücklich gezogenen Grenzen. Wer den Originaltext liest, sollte zuerst den Abschnitt zum Geltungsbereich prüfen und danach die Verteilungsdaten, nicht allein die Mehrheitsantwort.
Quick Recap
Product prices and availability are accurate as of the date/time indicated and are subject to change. Any price and availability information displayed on Amazon at the time of purchase will apply.
