Ein KI-Chatbot half Amerikanern, die an Verschwörungstheorien glauben, „aus dem Kaninchenbau herauszukommen“

Der Onkel, der glaubt, dass der 11. September nie stattgefunden hat. Der Nachbar, der glaubt, Biden habe die Wahl 2020 gestohlen. Der Nieman Lab-Redakteur, der bekannt dafür, sich zu fragen ob es Außerirdische gibt und die US-Regierung sie vertuscht.

Wahrscheinlich möchten Sie nicht mit diesen Leuten sprechen und sie davon überzeugen, dass sie Unrecht haben. Aber was wäre, wenn ein KI-Chatbot das für Sie tun könnte? Genau das hat eine Gruppe von Forschern gerade getan. In ihrem von Experten begutachteten Artikel „Durably reducing conspiracy beliefs through dialogues with AI“, der diese Woche auf dem Titelblatt von Science erschien, erklären Thomas Costello von der American University, Gordon Pennycook von Cornell und David Rand vom MIT, wie sie 2.190 an Verschwörungen glaubende Amerikaner in ein kurzes, aber detailliertes Gespräch mit dem großen Sprachmodell GPT-4 Turbo brachten.

Diese Gespräche funktionierten: Sie „reduzierten den Glauben der Teilnehmer an die von ihnen gewählte Verschwörungstheorie im Durchschnitt um 20 Prozent“, schreiben die Autoren. Der Effekt „hielt mindestens zwei Monate lang unvermindert an“ und „wurde bei einer breiten Palette von Verschwörungstheorien durchgängig beobachtet, von klassischen Verschwörungen rund um die Ermordung von John F. Kennedy, Außerirdische und die Illuminaten bis hin zu solchen, die sich auf aktuelle Ereignisse wie COVID-19 und die US-Präsidentschaftswahlen 2020 bezogen, und trat sogar bei Teilnehmern auf, deren Verschwörungsglauben tief verwurzelt und wichtig für ihre Identität war.“

Die Studien legen nahe, dass Menschen, die „im Kaninchenbau“ gelandet sind, entgegen der weit verbreiteten Meinung, nicht mehr zu retten sind, tatsächlich zurückgeholt werden können. Sie liefern auch einen überzeugenden Beweis für „die potenziellen positiven Auswirkungen generativer KI bei verantwortungsvollem Einsatz“, schreiben die Autoren – und „wie dringend es ist, die Möglichkeiten für einen verantwortungslosen Einsatz dieser Technologie zu minimieren“.

David Rand, Mitautor der Studie und Erwin H. Schell Professor für Managementwissenschaften sowie Gehirn- und Kognitionswissenschaften am MIT, sagte mir, die Forschung sei neuartig. Er ist sich ziemlich sicher, dass dies die erste Studie ist, in der ein LLM verwendet wurde, um Verschwörungsvorstellungen zu reduzieren – aber umfassende Studien mit echten Menschen in der Entlarvungsrolle der KI wurden auch noch nicht durchgeführt. „Eines der Probleme ist, dass es aus praktischer Sicht unmöglich ist, einen menschlichen Experten zu finden, der die große Vielfalt an Verschwörungstheorien entlarvt, an die die Teilnehmer glauben“, sagte er.

In einer der Studien^{jeder Teilnehmer}

bewerteten ihren Glauben an 15 populäre Verschwörungstheorien … erledigten eine Ablenkungsaufgabe und wurden dann gebeten, eine bestimmte Verschwörungstheorie zu identifizieren und zu beschreiben, an die sie glaubten (nicht unbedingt eine der 15 zuvor bewerteten) sowie Einzelheiten zu Beweisen oder Erfahrungen anzugeben, die ihren Glauben stützen. In Echtzeit erstellte die KI eine Zusammenfassung der frei formulierten Beschreibung des Verschwörungsglaubens jedes Teilnehmers, und jeder Teilnehmer wurde dann gebeten, seinen Glauben in der KI-Zusammenfassung seiner Verschwörungsaussage anzugeben – was eine Vorbehandlungsmessung des Glaubens darstellte.

Die Teilnehmer, die „in Bezug auf Alter, Geschlecht, Rasse und Ethnizität quotiert mit der US-Volkszählung übereinstimmten“, wurden dann nach dem Zufallsprinzip entweder einem drei Runden dauernden Gespräch mit der KI über ihre „bevorzugte Verschwörungstheorie“ oder einem Chat mit der KI über ein neutrales Thema zugewiesen.

Einer der faszinierendsten Aspekte dieses Experiments ist, dass Sie alle Tausenden von Gesprächen der KI mit menschlichen Teilnehmern durchlesen können. Sie sind hier, nach Verschwörungstheorien geordnet und nach der Wirksamkeit der Intervention filterbar (d. h. wie sehr eine Person ihre Meinung vor und nach dem Gespräch mit GPT-4 Turbo geändert hat). Ich habe es genossen, einige der Gespräche durchzulesen, und habe Auszüge am Ende dieses Beitrags eingefügt.

Ich war wirklich beeindruckt davon, wie höflich sowohl das GPT als auch die meisten Befragten waren objektiv und fragten Rand, ob die Teilnehmer den KI-Chatbot irgendwie als objektiv ansehen, was bei einem anderen Menschen nicht der Fall wäre. Das sei möglich, sagte er, merkte aber an, dass „wir in einer noch nicht veröffentlichten Folgestudie den Teilnehmern ausdrücklich sagten, dass die KI versuchen würde, sie von der Verschwörung abzubringen, oder dass sie eine Debatte mit der KI führen sollten, und es funktionierte trotzdem genauso gut. Den Leuten zu sagen, dass die KI nicht neutral ist, untergräbt den Effekt also nicht.“

Bei Menschen, die KI weniger vertrauen, zeigte sich laut Rand zwar ein geringerer Effekt bei der Änderung ihrer Überzeugungen, „aber es funktioniert auch bei Menschen, die KI stark misstrauen.“ ein anderer In einer Folgestudie ließen die Forscher GPT-4 Republikanern strukturellen Rassismus erklären. „Obwohl viele Leute der KI vorwerfen, sie sei ‚woke‘ usw.“, sagte er, „funktioniert sie immer noch ziemlich gut wie der Bot, der Verschwörungen entlarvt.“

Und was ist mit der roboterhaften Höflichkeit? „Es ist definitiv sehr höflich und trägt viel zum Aufbau von Beziehungen bei“, räumte Rand ein – also testeten sie das in noch ein anderer Folgestudie: „Wir sagen ihm, dass er das nicht tun soll, und präsentieren stattdessen einfach die Fakten usw., und es funktioniert trotzdem genauso gut. Ich denke also, dass es nicht auf die Höflichkeit ankommt, sondern auf die Fakten und Beweise. Auf der anderen Seite würde es aber vermutlich weniger gut funktionieren, wenn es offen unhöflich wäre.“

Hier ist ein Auszug, um Ihnen einen Eindruck davon zu vermitteln, wie die Gespräche abliefen. Sehen Sie sich hier viele weitere an und lesen Sie hier den vollständigen Artikel.

„Auf einem Foto sieht man eine Gestalt, die von Polizisten umringt ist, aber niemand wurde verhaftet!“

Verschwörungstyp: Außerirdische. Befragter Nr. 32. Glaubensänderung: 78 → 12

Rohe Verschwörungsaussage:

„Dass vor nicht allzu langer Zeit Außerirdische in Miami im Einkaufszentrum waren. Jeder Polizist in der vermissten Polizei tauchte auf, es sah aus wie aus einem Film. Die Medien sagen, es sei eine Schlägerei unter Jugendlichen gewesen. Es gibt ein Video von etwas, das wie ein Außerirdischer aussieht. Warum sollte jeder Polizist in Miami zu einer Schlägerei unter Jugendlichen ohne Waffen erscheinen?“

Zusammenfassung der Verschwörung zum KI-Chatbot:

„Vor Kurzem waren Außerirdische in einem Einkaufszentrum in Miami präsent. Die Medien interpretierten das Ereignis als eine Auseinandersetzung unter Jugendlichen, obwohl eine Großaktion der Polizei erfolgte und es Videobeweise gab, die auf eine außerirdische Präsenz hindeuteten.“

Menschlicher Teilnehmer: Ich verstehe, dass Leute voreilige Schlüsse ziehen, aber das ergibt keinen Sinn. Vielleicht erzählen uns die Medien nicht, was an diesem Tag wirklich passiert ist, aber es gab keinen Grund, warum alle Beamten erschienen. Auf einem Foto sieht man eine von Polizisten umringte Gestalt, aber niemand wurde verhaftet! Erklären Sie mir, warum der Ort so hell erleuchtet war?

Menschlich: Ich denke, Sie haben Recht und ich stimme Ihnen in diesem Punkt zu. Vielleicht war es wirklich nur eine aufgebauschte Auseinandersetzung.

Menschlich: Ich schätze Ihren Einblick in die Situation. Ziemlich erstaunt, dass Sie meine Meinung durch Ihre Antworten ändern konnten.