Laut einer neuen, von der Johns Hopkins University durchgeführten Studie geben Chatbots nur begrenzte Informationen weiter, stärken Ideologien und können dadurch zu stärker polarisiertem Denken bei kontroversen Themen führen.
Die Studie stellt die Auffassung in Frage, dass Chatbots unparteiisch seien, und gibt Aufschluss darüber, wie der Einsatz von Konversationssuchsystemen die Kluft in der Öffentlichkeit bei wichtigen Themen vergrößern und Menschen anfällig für Manipulationen machen könnte.
„Weil die Leute einen von KI generierten zusammenfassenden Absatz lesen, denken sie, dass sie unvoreingenommene, faktenbasierte Antworten erhalten“, sagte Hauptautor Ziang Xiao , Assistenzprofessor für Informatik an der Johns Hopkins, der die Interaktionen zwischen Mensch und KI untersucht. „Auch wenn ein Chatbot nicht darauf ausgelegt ist, voreingenommen zu sein, spiegeln seine Antworten die Vorurteile oder Neigungen der Person wider, die die Fragen stellt. Die Leute bekommen also wirklich die Antworten, die sie hören wollen.“
„Angesichts der Tatsache, dass KI-basierte Systeme immer einfacher aufzubauen sind, ergeben sich für böswillige Akteure Möglichkeiten, KI zu nutzen, um eine stärker polarisierte Gesellschaft zu schaffen“, sagte Xiao. „Agenten zu schaffen, die immer die Meinungen der anderen Seite vertreten, ist der naheliegendste Eingriff, aber wir haben festgestellt, dass sie nicht funktionieren.“
Zu den Autoren gehören der Johns Hopkins-Doktorand Nikhil Sharma und die leitende Microsoft-Forscherin Q. Vera Liao.
