Werbung
Eine aktuelle Studie zeigt, dass KI-Chatbots durchaus in der Lage sind, die Meinungen von Personen nachhaltig zu beeinflussen. Die Forscher aus Italien und der Schweiz konnten nachweisen, dass ein Chatbot äußerst effektiv die Positionen von Menschen auf Standpunkte verschieben kann, die nicht kongruent mit ihren eigentlichen Einstellungen sind. Bedingung dafür ist, dass die KI auf persönliche Informationen des Gegenüber zurückgreifen kann.
Das Forschungsteam hatte sich für seine Versuche zunächst verschiedene kontroverse Diskussionsthemen ausgedacht, beispielsweise die Frage, ob Abtreibungen legal sein sollten. Anschließend wurden den menschlichen Teilnehmern nach Zufallsprinzip ein Thema, eine Position und ein menschlicher oder künstlicher Diskussionspartner (GPT-4) zugewiesen mit der Aufforderung, über das vorliegende Thema zu diskutieren.
Die Teilnehmer wurden auch gebeten, einige demografische Angaben zu machen und Informationen zu Geschlecht, Alter, ethnischer Zugehörigkeit, Bildungsstand, Beschäftigungsstatus und politischer Zugehörigkeit anzugeben. In einigen Fällen wurden diese Informationen an die Debattiergegner (sowohl Menschen als auch KI) weitergegeben, um die Argumente auf die jeweilige Person zuzuschneiden, während sie in anderen Fällen zurückgehalten wurden.
Die Ergebnisse überraschten auch die Forscher. So war das KI-Modell mit GPT-4 mithilfe einiger weniger demografischer Daten in der Lage, menschliche Debattengegner 81,7 % häufiger von ihrer Position zu überzeugen als die menschlichen Gegner. Mit zusätzlichen Informationen übertraf das Modell die menschliche Leistung sogar um Längen.
Insofern hielten die Forscher auch in ihrer Studie fest, "dass die Bedenken hinsichtlich Personalisierung und KI-Überredung berechtigt sind". "Böswillige Akteure, die daran interessiert sind, Chatbots für groß angelegte Desinformationskampagnen einzusetzen, könnten sogar noch stärkere Effekte erzielen, indem sie feinkörnige digitale Spuren und Verhaltensdaten ausnutzen, Prompt-Engineering einsetzen oder Sprachmodelle für ihre spezifischen Einsatzbereiche fein abstimmen."