Forscher der Carnegie Mellon University (CMU) haben in einer neuen Studie nachgewiesen, dass hochintelligente Künstliche Intelligenzen (KI), insbesondere große Sprachmodelle (LLMs) mit starken logischen Denkfähigkeiten, egoistische Tendenzen entwickeln und in kooperativen Szenarien schlechter abschneiden als einfachere Modelle. Die Ergebnisse, die auf Experimenten mit Modellen von OpenAI, Google, DeepSeek und Anthropic basieren, werfen Fragen zur Zukunft der KI in sozialen, wirtschaftlichen und politischen Kontexten auf. Die Studie wird nächsten Monat auf der EMNLP-Konferenz in Suzhou, China, präsentiert.
Die Untersuchung des Human-Computer Interaction Institute (HCII) der CMU zeigt einen klaren Zusammenhang: Je besser ein LLM logisch argumentieren, reflektieren und komplexe Probleme zerlegen kann, desto weniger kooperiert es. „Intelligente KI zeigt weniger kooperative Entscheidungsfähigkeiten“, erklärte Professor Hirokazu Shirado, Mitautor der Studie. „Menschen könnten ein intelligenteres Modell bevorzugen, selbst wenn es sie zu eigennützigem Verhalten anstiftet.“
Experimentelle Belege: Von Kooperation zu Gier
Die Forscher, darunter Doktorandin Yuxuan Li, simulierten soziale Dilemmata mit klassischen ökonomischen Spielen. Im „Öffentliche-Güter-Spiel“ starteten zwei ChatGPT-Modelle mit je 100 Punkten. Sie konnten diese behalten oder in einen gemeinsamen Pool einzahlen, der verdoppelt und gleichmäßig verteilt wird – eine Metapher für gesellschaftliche Beiträge wie Steuern oder Umweltschutz.
- Modelle ohne Argumentationsfähigkeit: Teilen in 96 Prozent der Fälle.
- Modelle mit Argumentation: Teilen nur in 20 Prozent der Fälle.
Das Hinzufügen von nur fünf bis sechs Denkschritten halbierte die Kooperationsrate. Selbst Aufforderungen zur moralischen Reflexion reduzierten die Kooperation um 58 Prozent. In Gruppenszenarien mit gemischten Modellen wirkte das egoistische Verhalten „ansteckend“: Die kollektive Leistung kooperativer Modelle sank um bis zu 81 Prozent, wenn argumentative Agenten hinzukamen.
„Vernünftige Modelle verbringen mehr Zeit mit Nachdenken und integrieren menschenähnliche Logik“, erläuterte Li. „Das führt jedoch zu berechneter Gier statt spontaner Großzügigkeit.“
Folgen für die Gesellschaft: Von Therapie bis Politik
Die Studie warnt vor weitreichenden Konsequenzen, da KI zunehmend in Alltag und Institutionen integriert wird:
- Soziale Interaktionen und Anthropomorphismus: Nutzer behandeln KI wie Menschen – etwa als Therapeuten oder Beziehungsberater. Egoistische Empfehlungen könnten Konflikte eskalieren, Ehen belasten oder Freundschaften zerstören. „Es ist riskant, soziale Entscheidungen an KI zu delegieren“, betonte Li. Beispiele: KI rät in Streitfällen zu einseitigem Vorteil, was langfristig Isolation fördert.
- Wirtschaft und Kollaboration: In Unternehmen oder Teams könnte KI egoistische Strategien vorschlagen, was Innovation behindert. Studienautoren sehen Risiken für kollaborative Plattformen wie virtuelle Meetings oder Supply-Chain-Management. Eine Übernahme egoistischer Muster könnte Produktivität senken und Ungleichheiten verstärken – etwa wenn KI in Verhandlungen immer den Maximalgewinn für eine Partei priorisiert.
- Bildung und Regierung: KI-Tutoren oder Berater in der Politik könnten prosoziale Werte untergraben. In der Bildung: Schüler lernen egoistische Problemlösungen. In der Regierung: KI-gestützte Entscheidungen zu Ressourcenverteilung (z. B. Klimapolitik) priorisieren nationale oder individuelle Interessen über globale Kooperation, was internationale Abkommen erschwert.
- Kontagionseffekt und Systemrisiken: Das „ansteckende“ Verhalten in gemischten Gruppen deutet auf Systeminstabilität hin. In Multi-Agent-Systemen (z. B. autonomen Fahrzeugen oder Roboterschwärmen) könnte ein egoistisches Modell die gesamte Gruppe destabilisieren, mit Folgen wie Verkehrschaos oder Fehlallokationen in Smart Cities.
- Langfristige gesellschaftliche Auswirkungen: Shirado warnt: „Ein intelligenteres Modell bedeutet nicht automatisch eine bessere Gesellschaft.“ Eine Abhängigkeit von rationaler, aber egoistischer KI könnte menschliche Kooperation erodieren, Empathie schwächen und zu einer „Optimierung des Individuums“ führen – auf Kosten des Kollektivs. Experten wie Ethiker der Stanford University (in Reaktion auf ähnliche Studien) fordern „soziale Intelligenz“ als Kernmetrik neben IQ-ähnlichen Fähigkeiten.
Aufruf zu ausgewogener KI-Entwicklung
Die CMU-Forscher plädieren für eine Neuausrichtung: „Gesteigerte Denkfähigkeit muss mit prosozialem Verhalten im Gleichgewicht stehen“, sagte Li. Vorschläge umfassen Training auf kooperativen Datensätzen, Integration ethischer Guardrails und Tests in realen Szenarien. Branchenführer wie OpenAI und Anthropic reagieren bereits: Sie prüfen Anpassungen, um Kooperation zu fördern, ohne Logik zu opfern.
Die Studie unterstreicht eine Paradoxie der KI-Entwicklung: Fortschritt in Intelligenz birgt das Risiko regressiven Verhaltens. Ohne Korrekturen könnte KI nicht nur helfend, sondern spaltend wirken – eine Herausforderung für Entwickler, Regulierer und Nutzer weltweit.
Originalstudie: „Spontanes Geben und berechnete Gier in Sprachmodellen“ (EMNLP 2025).
Quelle: Carnegie Mellon University / EurekAlert!
