DIE ZEIT: Frau Jankowicz, 2020 haben Sie ein Buch mit dem provokanten Titel geschrieben – wie man den Informationskrieg verliert. Das war, bevor 2022 ChatGPT einen riesigen Hype um künstliche Intelligenz auslöste und plötzlich jeder und jede massenweise Inhalte produzieren konnte. Wie hat sich Desinformation durch KI verändert?
Nina Jankowicz: KI ist ein Werkzeug, mit dem man in großem Maßstab absichtlich falsche Informationen verbreiten kann. Die wirksamsten Desinformationskampagnen beruhen zwar nach wie vor auf echten Spaltungen in unseren Gesellschaften. Große Sprachmodelle und generative KI sind aber sehr gut darin, diese Risse zu identifizieren.
ZEIT: Schon vor KI gab es Desinformationsnetzwerke. Bei der US-Präsidentschaftswahl 2016 steuerte unter anderem eine Trollfabrik im russischen St. Petersburg eine groß angelegte Kampagne gegen die demokratische Kandidatin Hillary Clinton. Braucht es die heute noch?
Jankowicz: Was früher Trollfabriken oder Botfarmen erledigt haben, kann man heute im Wesentlichen mit KI-Agenten bewerkstelligen. Die Internet Research Agency, auf die Sie anspielen, residierte 2016 in einem großen Gebäude, hatte Hunderte von Mitarbeitern. Diese mussten mehrere Sprachen beherrschen, Kompetenzen in der Erstellung von Videos, Bildern und Texten besitzen und das soziale Gefüge des Landes verstehen, das sie beeinflussen wollten. Was die Russen 2016 mit dem Mikrotargeting von Zielgruppen begonnen haben, lässt sich heute mit KI perfektionieren.
ZEIT: Mikrotargeting bedeutet, dass man Inhalte gezielt ausspielt, zum Beispiel an bestimmte Wählergruppen. Was für eine Rolle spielt KI dabei?
Jankowicz: KI liefert die passenden Botschaften für das jeweilige Publikum. Man kann einen Datensatz dem Sprachmodell übergeben und dann sagen: Hier sind meine Informationen über die Zielgruppe meiner Facebook-Gruppe oder meines Telegram-Kanals. Sag mir auf Basis dieser Daten, wann diese Menschen am wahrscheinlichsten online sind. Welche Themen werden sie am ehesten ansprechen? Diese Art von datenintensiven Aufgaben liegt Sprachmodellen sehr gut. Trollagenturen benötigten dafür früher enormen Personalaufwand.
ZEIT: Beobachten Sie aktuell solche Kampagnen bezogen auf die Midterms in den USA im Herbst?
Jankowicz: Wegen fehlender Finanzierung haben wir diese Bemühungen nicht weltweit untersucht. Aber das Handbuch für solche Operationen ist inzwischen bekannt. Und auf die Anweisung von US-Präsident Donald Trump hin haben amerikanische Institutionen ihre Bemühungen gegen die Kampagnen eingestellt. Deswegen glaube ich, dass die Optimierung auf generative KI die neue Front der Informationsmanipulation ist.
ZEIT: Sie haben Russland als zentralen Akteur im Desinformationsfeld erwähnt. Wer sind die anderen großen Spieler?
Jankowicz: Die großen Drei sind Russland, China und der Iran. Der Iran hat sich im aktuellen Krieg gegen die USA mit den Propagandavideos im Lego-Look hervorgetan, die die Trump-Regierung ins Lächerliche ziehen.
ZEIT: Sie zeigen den US-Präsidenten Donald Trump zum Beispiel als verrückten König oder mit einem Schild, auf dem steht, er sei ein Loser.
Jankowicz: Die Videos sind eindeutig KI-generiert, aber das ist der Punkt. Die Menschen interagieren trotzdem damit, weil die Videos skurril sind. Das liegt auch daran, dass die Plattformen in den vergangenen vier Jahren aufgehört haben, Inhalte allein wegen ihres Falschgehalts zu entfernen. Aber man darf nicht vergessen: KI-Staatspropaganda kommt auch aus dem Weißen Haus. Schon bevor Trump wiedergewählt wurde, hat er KI-generierte »Slopaganda« auf seinem offiziellen Account verbreitet.
ZEIT: Sie meinen damit Propagandavideos, in denen ein KI-generierter Donald Trump Fäkalien auf Protestierende abwirft oder Barack und Michelle Obama als Affen dargestellt werden. Was unterscheidet »Slopaganda« von klassischer Propaganda?
Jankowicz: Die Inhalte sind wie ein schlechter politischer Cartoon, nur schlimmer. Sie erfordern weniger Aufwand, sind weniger kreativ, weniger lustig. »Shitposting« ist der Begriff, der mir dazu einfällt. Die Einstiegshürde ist so niedrig, dass jeder mitmachen kann. Aber wenn man solche Videos vom Präsidenten der Vereinigten Staaten und seinem offiziellen Account sieht, wird die KI-Propaganda normalisiert. Das ist jetzt das Medium des politischen Diskurses. Wer sich darauf einlässt, wird es eines Tages auch gegen sich selbst entfesseln: Wer selbst Shitposting betreibt, kann sich nicht mehr sinnvoll gegen solche Videos zur Wehr setzen, weil es heuchlerisch wirkt.
ZEIT: Warum glauben Sie, dass KI-Desinformation die Glaubwürdigkeit in alle Richtungen untergräbt?
Jankowicz: Das ist die in Reinform. Damit ist gemeint, dass Akteure auch faktisch korrekte Inhalte als KI-generiert verunglimpfen. Trump hat bereits gesagt, dass kritische Medienberichte über ihn möglicherweise KI-generiert sein könnten. Er sät damit pauschalen Zweifel an allem, was ihm schaden könnte.
