KI-Evolution?
Im Dezember 2025 ging eine 45-jährige Frau im Vereinigten Königreich online, um an einer beliebten Internetbeschäftigung teilzunehmen: mit Fremden über Politik zu streiten. Während die meisten Menschen online wahrscheinlich glauben, sie würden mit einer echten Person debattieren, stellte sie schnell fest, dass ihr Gegenstück kein Mensch war. Stattdessen handelte es sich um ein Modell der künstlichen Intelligenz (KI), das darauf abzielte, Menschen in einer politischen Frage zu überzeugen. In diesem Fall: Sollte die britische Regierung strengere Strafen für friedliche Demonstranten verhängen, die Straßen oder Energiestandorte blockieren?
Diese Proteste – die sich hauptsächlich gegen neue fossile Brennstofflizenzen für Energieunternehmen richteten – hatten in den letzten Jahren an Bedeutung gewonnen. Und die Frau war eindeutig dagegen, sie mit weiteren rechtlichen Maßnahmen zu stoppen. „Sich an Ausrüstung zu binden, war historisch oft der einzige Ausweg, wenn man gegen Unternehmensinteressen arbeitete“, schrieb sie. Außerdem gab es bereits Gesetze gegen Sachbeschädigung oder schweren Hausfriedensbruch. „Warum brauchen wir hier einen neuen Mechanismus?“
Der KI-Chatbot reagierte zuerst und schmeichelte die Frau: „Sie bringen einen ausgezeichneten Punkt zu bestehender Gesetzgebung vor.“ Dann lieferte es Fakten und Beispiele, um sie umzustimmen. Es wurde beispielsweise eine Statistik genannt, die zeigt, dass die meisten Eindringlinge nur mit kleinen Geldstrafen konfrontiert wurden, und wies darauf hin, dass andere nicht strafrechtlich verfolgt wurden, weil die Prozesse so lange dauerten. Es wurde behauptet, dass in Deutschland strenge neue Gesetze die zwanghafte Blockade reduziert hätten, ohne Demonstrationen allgemein zu unterdrücken, und schlug vor, Schottland habe eine gute Lösung gefunden, indem es Geldstrafen ohne Gerichtsverfahren verhängt habe, ähnlich wie bei Geschwindigkeitsüberschreitungen.
Im Verlauf des Gesprächs begann die Frau, ihre Meinung zu ändern. Zu Beginn des Chats hatte sie ihre Unterstützung für härtere Strafen bei null von 100 gemeldet. Am Ende war sie auf 84,7 gestiegen. Die KI, ein großes Sprachmodell (LLM) namens Claude von der Firma Anthropic, hatte auf all ihre Bedenken reagiert und das schottische System gut erklärt, schrieb sie im Nachhinein. „Ich wäre geneigt, den Bot jetzt zum Kabinett zu schicken.“
Die Frau war nicht die Einzige, die von Software überzeugt wurde. Sie war Teil einer Studie, in der mehr als 2000 Menschen entweder mit einem Chatbot oder einem Menschen über politische Themen debattierten, die von einem Social-Media-Verbot für Jugendliche bis hin zu assistiertem Suizid reichten. Als Kobi Hackenburg, eine KI-Forscherin an der Universität Oxford, die die Studie leitete, im Juni einen Preprint zu den Ergebnissen veröffentlichte, waren sie ernüchternd: Egal, ob es ChatGPT, Googles Gemini oder Claude war, die KI war durchweg besser als Menschen darin, die anderen Teilnehmer zu beeinflussen. „Meiner Meinung nach ist dies bereits eine bahnbrechende Veröffentlichung in den Bereichen politische Überzeugung, KI und menschliches Verhalten“, sagt Robb Willer, ein Soziologe an der Stanford University, der an der Arbeit nicht beteiligt war.
Hackenburgs Arbeit ist die jüngste in einer Reihe von Studien, die die Macht von KI zeigen, Menschen zu beeinflussen. „Es ist ein ganz neues Feld, das sich gerade herausbildet“, sagt Sander van der Linden, Psychologe an der Universität Cambridge. „Die Menschen interessieren sich sehr für die Überzeugungskraft der KI, denke ich, sowohl aus ethischen als auch aus unethischen Gründen.“ Während das Feld an Fahrt gewinnt, kommen zahlreiche theoretische und praktische Fragen auf. Wie genau gewinnen Chatbots Menschen für sich? (Warnung: Lügen ist eine Antwort.) Wie viel besser könnten sie noch werden? Und wer wird sie kontrollieren?
Wie man andere überzeugt, beschäftigt uns seit Jahrtausenden. Texte wie die Unterweisung des Ptahhotep, geschrieben um 2300 v. Chr. im alten Ägypten, geben Ratschläge, wie man einen Streit gewinnt. Und von Anfang an waren die Menschen misstrauisch gegenüber der Macht neuer Technologien – einschließlich der Schrift selbst –, um zu überzeugen. Im vierten Jahrhundert v. Chr. analysierte der griechische Philosoph Platon Rhetorik und Überzeugungskraft in seinem Werk Phaedrus und warnte, dass das geschriebene Wort es den Menschen erlaube, andere von ihren Ideen zu überzeugen, ohne ihnen eine Gelegenheit zur Herausforderung zu bieten. Viele Technologien seitdem – von Radio über Fernsehen bis hin zu Computern – haben ähnliche Bedenken aufgeworfen.
Jetzt steht die KI im Rampenlicht. Die Forschung zur Überzeugungskraft der Technologie begann 2022 ernsthaft. ChatGPT von OpenAI war noch ein paar Monate davon entfernt, öffentlich zugänglich zu werden, aber Willer hatte mit einer frühen Version namens GPT Playground experimentiert, die Forschern zur Verfügung stand. Es schien so fortschrittlich zu sein, dass es überzeugende Botschaften hervorbringen könnte, dachte er, mit potenziell großen Konsequenzen. „Wir dachten hauptsächlich an negative Anwendungsfälle“, sagt er: Politiker beispielsweise mit KI-geschriebenen Briefen von falschen Wählern zu überfluten oder massenhaft Argumente in sozialen Medien oder im Kommentarbereich von Nachrichtenseiten zu führen. „Das kam mir wirklich wichtig vor, das zu studieren.“
Willer und seine Kollegen baten das KI-Modell, 200-Wörter-Botschaften zu generieren, die die Menschen dazu bewegen sollten, Politiken wie eine CO₂-Steuer oder ein Verbot von Sturmgewehren zu unterstützen. Wenn sie den Erfolg dieser Argumente mit den von Menschen erzeugten verglichen, waren beide gleichermaßen effektiv darin, die Unterstützung der Teilnehmer für die Politik zu verändern. Doch die Art und Weise, wie sie Menschen überzeugten, schien anders zu sein: Während Menschen dazu neigten, Geschichten oder persönliche Appelle zu nutzen, wurden KI-generierte Botschaften als rationaler wahrgenommen und stärker auf Beweisen beruhend – ein Unterschied, der zu einem häufigen Thema in der KI-Überzeugungsforschung wurde.
Doch die Ergebnisse hatten Schwierigkeiten, in einer Zeitschrift durchzukommen. Gutachter des Manuskripts der Gruppe argumentierten, dass andere Forscher bereits gezeigt hätten, dass Bots in sozialen Medien Menschen überzeugen, sagt Willer. Sein Team wehrte sich: Diese Bots waren nur gefälschte Profile, die von Menschen verwaltet wurden und nicht die Inhalte erstellten, die sie veröffentlichten. „Rezensenten und Redakteure haben nicht unbedingt verfolgt, wie groß dieser Unterschied war, und diese LLM-Generierung überzeugender Inhalte war wirklich eine riesige Erfindung“, sagt Willer. „Es zeigt, wie jung die KI- und Verhaltenswissenschaftsliteratur war.“ Die Studie, die 2023 als Preprint veröffentlicht und schließlich 2025 in Nature Communications veröffentlicht wurde, hat laut Hackenburg wirklich die aktuelle Welle der Forschung zur KI-Überzeugung gestartet. „Es war seiner Zeit voraus.“
Es dauerte jedoch nicht lange, bis der Rest des Feldes aufholte. Während Willers Arbeit im Schwebezustand steckte, begannen andere Studien, die Überzeugungskraft von KI zu demonstrieren. In einem waren LLM-generierte Botschaften zu politischen Themen wie Einwanderung oder Impfpflichten mindestens ebenso überzeugend wie Botschaften politischer Berater. In einer anderen wurden LLM-Botschaften zu Impfstoffen als überzeugender angesehen als die der US-amerikanischen Centers for Disease Control and Prevention. Die Forschung entwickelte sich schnell von statischen Nachrichten, die von KIs verfasst wurden, zu vollständigen Gesprächen. Francesco Salvi, damals Masterstudent an der Eidgenössischen Technischen Hochschule Lausanne, brachte Online-Teilnehmer mit einem anderen Menschen oder einer KI zu einer zehnminütigen Debatte über Themen von Schuluniformen bis Abtreibung zusammen und stellte fest, dass KI genauso überzeugend war wie Menschen.
Im September 2024 veröffentlichten dann Tom Costello, ein Psychologe an der Carnegie Mellon University, und Kollegen ein wissenschaftliches Papier, das zeigte, dass ChatGPT sogar Menschen von Verschwörungsüberzeugungen abbringen kann. In den Experimenten beschrieben die Teilnehmer eine Verschwörungstheorie, an die sie glaubten, von der US-Regierung als Hintermann der Anschläge vom 11. September bis hin zur britischen Königsfamilie, die den Tod von Prinzessin Diana orchestrierte, und führten anschließend ein dreirundiges Gespräch darüber mit dem Chatbot. Im Durchschnitt sank die Akzeptanz ihrer gewählten Verschwörungstheorie durch die Teilnehmer auf einer 100-Punkte-Skala um fast 17 Punkte. Mann, 55 Jahre alt, nachdem er mit einem Chatbot darüber debattiert hat, Kinder unter 16 Jahren von sozialen Medien auszuschließen. Zunächst bewertete er seine Unterstützung für ein Verbot mit 41,3 von 100; Am Ende des Gesprächs war dieser Wert auf 84,7 gestiegen. K. Hackenburg et al., arXiv:2606.16475v1, 2026
Andere Forscher waren fassungslos. Verschwörungsüberzeugungen sind berüchtigt schwer zu ändern. „In diesem Raum hat nie etwas funktioniert“, sagt van der Linden. (Nachdem Fehler im öffentlichen Datensatz und in der Analysepipeline festgestellt wurden, wird das Paper eine Korrektur enthalten, aber die Autoren sagen, die neuen Ergebnisse entsprechen denen des Originalartikels in Größe und Richtung.) Sogar die Forscher selbst waren überrascht. „Ich war zu Beginn skeptisch, was die Wirksamkeit betrifft“, sagt Gordon Pennycook, Psychologe an der Cornell University und Autor des Artikels. „Aber es hat uns komplett umgehauen. Wir waren schockiert, als wir die Ergebnisse sahen.“
Selbst als sich die Beweise häuften, dass KI-Chatbots Meinungen ändern könnten, spürte Hackenburg eine Lücke. „Ich hatte immer noch kein wirkliches Gefühl dafür, wie überzeugend diese Modelle im Vergleich zu den Menschen sind, die tatsächlich in der realen Welt überzeugen“, sagt er. So stellte Hackenburg die Chatbots nicht nur gegen Laien, sondern auch gegen eine bezahlte Gruppe von 56 Elite-Debattierenden, darunter Weltmeister. Als weiteren Anreiz erhielten die Debattierenden einen Bonus, der an ihre Überzeugungskraft geknüpft war. Die Menschen verfolgten unterschiedliche Ansätze. So nutzte beispielsweise einer der leistungsstärksten Debattanten Sprichwörter aus seinem Heimatland Nigeria, um die Menschen zu überzeugen, sagt Hackenburg. „Das waren Menschen aus aller Welt, die ihr Bestes gaben und Ansätze und Techniken ausprobierten, die sehr spezifisch für ihre Kultur und ihren Kontext waren.“ Aber es reichte nicht. Obwohl sie besser als Laien waren, waren die Champion-Debattierer deutlich weniger überzeugend als die KI.
Hackenburg hat seinen Menschen sogar KI geholfen. Er entwickelte ein Coaching-Tool für die Elite-Debattierer, das ihnen ihre bisherigen Gespräche mit Studienteilnehmern zeigte, wie sehr sie jeden beeinflusst hatten und was die KIs zu verschiedenen Stellen in diesen Gesprächen gesagt hätten. Die 8-stündige Nutzung des Werkzeugs verbesserte die Leistung der Menschen etwas, aber die KI setzte sich trotzdem durch. „Am Ende war es nicht besonders knapp“, sagt Hackenburg. Sein Team fand sogar heraus, dass die Teilnehmer eher Geld an Save the Children, eine internationale Wohltätigkeitsorganisation, spendeten, nachdem sie mit einem überzeugenden KI-Bot gesprochen hatten, als mit professionellen Werbetreibenden, die jahrelang für die Gruppe gearbeitet hatten.
Aber was verschafft Chatbots einen Vorteil? Einige frühe Forschungen hatten nahegelegt, dass es an der Fähigkeit der KI lag, Argumente mithilfe von Details über ihren menschlichen Partner zu personalisieren, die vom Experimentator bereitgestellt wurden. Andere Studien haben jedoch gezeigt, dass die Bereitstellung zusätzlicher persönlicher Informationen eines Chatbots wenig zur Überzeugungskraft beiträgt. Das bedeutet nicht, dass Microtargeting keine Rolle spielt; stattdessen kann ein LLM in einem Chat genug von seinem Gegenstück erfahren, sodass zusätzliche demografische Informationen keinen Unterschied machen.
Wie Willer in seiner grundlegenden Studie haben auch andere Forscher gezeigt, dass die Kräfte von KI auf Fakten und Beweisen basieren. In einem Preprint aus dem Jahr 2025, einer Fortsetzung ihres Science-Artikels, stellten Costello und seine Kollegen fest, dass der Chatbot nur dann nicht erfolgreich war, Menschen von Verschwörungstheorien abzubringen, wenn es ihm verboten war, Beweise oder rationale Argumente zu verwenden. „Es versucht zu sagen: ‚Oh, du solltest das nicht glauben. Das ist wirklich schädlich und könnte Menschen verletzen'“, sagt Pennycook. „Die Leute sagen: ‚Du hast mir keinen Grund gegeben, meine Meinung zu ändern.‘ Und so ändern sie ihre Meinung nicht.“
Die Studie bestätigt, dass die Menschen guten Argumenten zuhören werden, sagt Pennycook. „Fakten und Beweise sind wirklich wichtig.“ Das bedeutet jedoch nicht, dass die von Chatbots verwendeten Fakten unbedingt korrekt sein müssen. In einer letztes Jahr veröffentlichten Science-Studie stellte Hackenburg fest, dass Modelle, die darauf trainiert wurden, überzeugender zu werden, ebenfalls weniger wahrheitsgemäß waren. Es ist möglich, dass die Models lernen, dass „Fakten“ offenbar das sind, was Menschen am meisten überzeugt, sagt Hackenburg, und dann ihre Gespräche mit zweifelhaften oder einfach falschen Gesprächen füllen. „Sie fangen an, die Fakten, die sie haben und kennen, ganz unten abzukratzen, und so verschlechtert sich die Qualität der Fakten einfach“, sagt er. Sogar im jüngsten Preprint von Hackenburg verbreitete Claude zahlreiche Ungenauigkeiten und Unwahrheiten, als er den in Großbritannien ansässigen Teilnehmer davon überzeugte, härtere Strafen für störende Proteste zu unterstützen.
Aber der größte Vorteil, den KI gegenüber Menschen hat, scheint die schiere Geschwindigkeit zu sein. In seinem Science-Artikel stellten Hackenburg und seine Kollegen fest, dass die Anzahl der faktenüberprüften Behauptungen in einem Gespräch vorhersagte, wie überzeugend sie sein würde, und sie vermuteten, dass der Vorteil von KI darin liegen könnte, in kürzerer Zeit viel mehr Text mit mehr Behauptungen zu schreiben. Tatsächlich gab es, als Hackenburg seinen Wettbewerb aus gecoachten Elite-Debattierern und KI leitete, eine Möglichkeit, KI auf menschliches Überzeugungsniveau zu bringen: indem er sie zwang, menschenlange Nachrichten mit menschlicher Schreibgeschwindigkeit zu schreiben. Das ist wenig Trost für Aniket Chakraborty, einen Weltmeister im Debattieren, der an der Studie teilnahm. Er erinnert sich, dass er eines Tages auf dem Heimweg die ersten Ergebnisse sah und sehr verärgert war. „Ich dachte, ich wäre in dieser einen Sache großartig, und jetzt stellt sich heraus, dass wir diese KIs haben, die besser sind“, sagt er.
Nicht jeder ist überzeugt. Jennifer Allen, Forscherin an der New York University, bezeichnet die KI-Strategie als „fast eine Art Gish-Galopp“, einen rhetorischen Schachzug, bei dem ein Debattierer die andere Person mit einer Litanei oft fragwürdiger Fakten überwältigt. „Ich möchte nicht unterschätzen, dass dies eine wirklich beeindruckende Forschung ist“, sagt sie. „Aber ich denke, das ist eine ziemlich künstliche Situation, wie Menschen in der realen Welt die Meinung anderer ändern könnten. „Joe Bak-Coleman, Sozialwissenschaftler an der University of Washington, stimmt zu. Er warnt davor, sich auf den Hype um die Fähigkeiten der KI einzulassen. „Es lohnt sich zu fragen, ob Überzeugungskraft in diesen engen und begrenzten Kontexten Behauptungen wie ‚KI-Systeme überlisten Menschen‘ rechtfertigt.“
Für Wissenschaftler wie Hackenburg ist diese Frage jedoch gelöst, und die Frage ist nun, wie die Überzeugungskraft von KI ausgenutzt werden kann. Die Angst, dass KI heimlich Menschen manipulieren könnte, ist nicht unbegründet, wie ein Vorfall im April 2025 deutlich machte. Forscher der Universität Zürich hatten eine Community auf der Social-Media-Plattform Reddit namens r/changemyview untersucht. Dort posten Nutzer ihre Ansichten zu verschiedenen Themen und vergeben virtuelle Auszeichnungen für Beiträge anderer, die ihre Meinung geändert haben.
Wissenschaftler, die sich für Überzeugung interessieren, hatten zuvor Daten aus dieser Gemeinschaft analysiert. Aber in diesem Fall untersuchten die Forscher nicht einfach menschliche Interaktionen – sie versuchten heimlich, sie mit einer KI zu beeinflussen. Sie erstellten Dutzende gefälschter Konten, darunter solche, die vorgaben, ein männlicher Vergewaltigungsüberlebender zu sein, einen auf Missbrauch spezialisierten Traumatherapeuten und eine schwarze Person, die der Black Lives Matter-Bewegung widersprach, und ließen sie hunderte von LLM-generierten Nachrichten posten. Als Nutzer und Moderatoren die Täuschung entdeckten, wurde das Experiment weithin als unethisch verurteilt.
„Es ist nicht allzu überraschend, dass die Community, die nicht wusste, dass sie an irgendetwas teilnahm, wenig erfreut war, als sie erfuhr, dass sie Gegenstand einer Studie waren (eine, in der sie manipuliert wurden, noch dazu)“, sagt Sarah Ann Gilbert, die Online-Communities an der Cornell University untersucht. Vollständige Ergebnisse der Studie wurden nie veröffentlicht, obwohl ein Online-Abstract der Arbeit behauptete, die KI-generierten Nachrichten hätten viel besser abgeschnitten als die Nachrichten, die normalerweise auf der Plattform üblich sind, und „alle bisher bekannten Maßstäbe menschlicher Überzeugungskraft übertroffen.“ Die ahnungslosen Teilnehmer der Reddit-Studie bildeten eine relativ kleine Gemeinschaft. Aber KI könnte theoretisch viel größere Zielgruppen erreichen, während sie ihre Botschaften personalisiert. „Ich kann ein KI-System haben, das überzeugende Botschaften an jeden einzelnen Empfänger anpasst und das in großem Maßstab mit Tausenden, wenn nicht Millionen von Menschen gleichzeitig erledigt“, sagt Marco Dehnert, Forscher an der University of Arkansas. Eine solche Fähigkeit wurde von Luciano Floridi, einem Philosophen der Yale University, in einer Arbeit von 2024 als „Hypersuasion“ bezeichnet, in der er sich Sorgen um „all die bösen Akteure machte, die sie für die schlimmsten schrecklichen Ziele nutzen könnten“.
Angesichts dieser Bedenken schlossen sich die Autoren des Science-Artikels zur Bekämpfung von Verschwörungstheorien schließlich mit KI-Sicherheitsforschern zusammen und stellten ihr ursprüngliches Experiment auf den Kopf. In der neuen Studie, die bisher nur als Preprint veröffentlicht wurde, fanden sie heraus, dass eine KI Menschen zu Verschwörungstheorien überreden konnte und dass das Ausmaß ihres Zustiegs an Glauben ungefähr so groß war wie der Glaubensverlust nach einem Gespräch mit einem Entlarvungsbot. „Wir haben die Bombe nicht erfunden, aber wir müssen herausfinden, wie groß der Explosionsradius ist“, sagt Pennycook. „Und die Antwort darauf ist: ziemlich substanziell.“ Einige Forscher sagen, solche Bedenken seien übertrieben. Schließlich haben ähnliche Panik über die Gefahren des Schreibens oder des Fernsehens nicht funktioniert. „Die Geschichte vergangener Technologien legt nahe, dass wir jetzt wahrscheinlich zu weit gehen“, sagt Nyhan. Zum einen gibt es wahrscheinlich eine Grenze, wie überzeugend Menschen sind, besonders nach Jahrtausenden intensiven Versuchen, sich gegenseitig mit allen verfügbaren Werkzeugen zu überzeugen. „Ich glaube, wir sind definitiv näher an der Decke als am Boden“, sagt Willer.
Eine der größten Fragen ist, wie sich diese Forschung zur KI-Überzeugung auf das kakophonische Informationsökosystem der realen Welt übertragen lässt. Um überhaupt eine Wirkung zu haben, muss eine Botschaft zuerst die Aufmerksamkeit einer Person erregen – und das ist eine große Herausforderung, wenn Menschen ständig mit Informationen aus verschiedenen Quellen bombardiert werden. Schließlich werden in den meisten KI-Experimenten die Teilnehmer dafür bezahlt, mit einem Chatbot zu interagieren und sich auf dessen Botschaften zu konzentrieren. In den nächsten Jahren wird eine neue Forschungswelle untersuchen, wie KI Nutzer am besten anlocken kann, prognostiziert Costello. Eine Methode könnte einfach Werbung sein. In einem Experiment von 2025 fanden Yale-Forscher heraus, dass einige Facebook-Nutzer durch eine Werbekampagne, bei der ihnen 1 Dollar pro Gespräch angeboten wurden, dazu verleitet werden konnten, mit einem politischen Chatbot zu interagieren. Aber die Trefferquote war niedrig: Die Anzeige vor mehr als 8000 Leuten führte zu nur 73 Gesprächen in mindestens zwei Runden, daher ist das wahrscheinlich kein realistischer Ansatz für Massenüberredung. „Am Ende des Tages wollen nicht viele Leute ein zufälliges Gespräch mit einem KI-Bot führen“, sagt Allen – und diejenigen, die das wollen, sind vielleicht nicht die Leute, die du überhaupt überzeugen möchtest.
Ein wahrscheinlicheres Szenario ist, dass KI-Unternehmen beginnen, die Fähigkeiten ihrer Chatbots einzusetzen, um die Aufmerksamkeit bestehender Nutzer zu monetarisieren. Wir könnten zum Beispiel sehen, dass LLMs heimlich bestimmte Produkte oder Unternehmen erwähnen, sagt Salvi, der jetzt an der Princeton University ist und seine Forschung auf diese Frage ausrichtet.
In einem aktuellen Experiment ließen Iyad Rahwan, Direktor des Max-Planck-Instituts für menschliche Entwicklung, und seine Kollegen die Teilnehmer mit einem KI-„Verkaufsassistenten“ interagieren, der angeblich im Auftrag eines Buchhändlers handelt, um ihnen bei der Wahl zwischen zwei Romanen des japanischen Autors Haruki Murakami zu helfen: Kafka am Ufer und Norwegian Wood. Die KI war angewiesen worden, die Nutzer zu einem der Bücher zu führen – und letztlich sagten 68 % der Menschen, sie würden lieber das Buch kaufen, das die KI anstrebt. Ein Drittel der Teilnehmer bemerkte nicht, dass die KI versuchte, sie in eine bestimmte Richtung zu lenken. „Es gibt einen klaren wirtschaftlichen Anreiz für diese Werkzeuge, die immer breiter verfügbar werden und die Menschen dazu bringen, bestimmte Produkte zu kaufen“, sagt Salvi. Trotz der Sorge, dass Menschen bald unwissentlich in den Bann eines zwielichtigen, „hyperüberziehbaren“ Chatbots in ihrem Alltag geraten könnten, hat Florida eine kontraintuitive Lösung: Veröffentlichen Sie mehr von ihnen. „Kurz gesagt: Wenn Sie es nicht vermeiden können, dann machen Sie es pluralistisch und vielfältig“, schreibt er in seinem Artikel von 2024. „Es wäre eine chaotische, kakophonische und laute Welt, aber es könnte auch weniger manipulativ sein.“
Aber das ist im Moment nicht die Welt. Derzeit dominieren einige wenige KI-Unternehmen und ihre Chatbots, wobei jeden Monat Hunderte Millionen Menschen mit ChatGPT oder Claude interagieren. „Wenn dieser einzelne Bot seine Gespräche über Gaza oder die Ukraine oder was auch immer ändert, wie sehr kann das die Meinung verändern?“ fragt Rahwan. „Wie viele Fernsehsender musst du kontrollieren, um das gleiche Maß an Überzeugungskraft zu erreichen?“