Joe Biden lässt endlich die Maske fallen und schimpft über eine Transgender-Person. "Sie werden nie eine richtige Frau sein", knurrt der Präsident.

Willkommen bei Amerikas Präsidentschaftswahlen 2024, bei denen die Realität zum Greifen nah ist.

Die Deepfakes von Clinton und Biden - realistische, aber gefälschte Videos, die von KI-Algorithmen erstellt wurden, die auf umfangreichem Online-Material trainiert wurden - gehören zu den Tausenden, die in den sozialen Medien auftauchen und in der polarisierten Welt der US-Politik Fakten und Fiktion verschwimmen lassen.

Solche synthetischen Medien gibt es zwar schon seit einigen Jahren, aber im letzten Jahr wurde die Entwicklung durch eine Reihe neuer "generativer KI"-Tools wie Midjourney beschleunigt, die es billig und einfach machen, überzeugende Fälschungen zu erstellen. Dies geht aus Reuters-Interviews mit etwa zwei Dutzend Spezialisten aus den Bereichen KI, Online-Fehlinformation und politischer Aktivismus hervor.

"Es wird für die Wähler sehr schwierig sein, das Echte vom Gefälschten zu unterscheiden. Und Sie können sich vorstellen, wie entweder Trump-Anhänger oder Biden-Anhänger diese Technologie nutzen könnten, um den Gegner schlecht aussehen zu lassen", sagte Darrell West, Senior Fellow am Center for Technology Innovation der Brookings Institution.

"Es könnte Dinge geben, die kurz vor der Wahl auftauchen und die niemand abschalten kann.

Tools, die Deepfakes erzeugen können, werden mit wenigen oder unvollkommenen Leitplanken veröffentlicht, um schädliche Fehlinformationen zu verhindern, da sich der Technologiesektor in einem KI-Wettrüsten befindet, sagte Aza Raskin, Mitbegründerin des Center for Human Technology, einer gemeinnützigen Organisation, die die Auswirkungen der Technologie auf die Gesellschaft untersucht.

Der ehemalige Präsident Donald Trump, der mit DeSantis und anderen um die republikanische Nominierung konkurriert, um gegen Biden anzutreten, hat Anfang des Monats selbst ein manipuliertes Video des CNN-Moderators Anderson Cooper auf seiner Social-Media-Plattform Truth Social veröffentlicht.

"Das war Präsident Donald J. Trump, der uns hier in der CNN-Live-Townhall der Präsidentschaftskandidaten ein neues Arschloch reißt", sagt Cooper in dem Video, obwohl die Worte nicht zu seinen Lippenbewegungen passen.

CNN sagte, das Video sei ein Deepfake. Ein Vertreter von Trump reagierte nicht auf eine Anfrage nach einem Kommentar zu dem Clip, der diese Woche noch auf der Twitter-Seite seines Sohnes Donald Jr. zu sehen war.

Die großen Social-Media-Plattformen wie Facebook, Twitter und YouTube haben zwar Anstrengungen unternommen, um Deepfakes zu verbieten und zu entfernen, aber ihre Wirksamkeit bei der Kontrolle solcher Inhalte ist unterschiedlich.

DEEPFAKE PENCE, NICHT TRUMP

Laut DeepMedia, einem Unternehmen, das an Werkzeugen zur Erkennung synthetischer Medien arbeitet, wurden in diesem Jahr dreimal so viele Video-Deefakes aller Art und achtmal so viele Sprach-Deefakes online gestellt wie im gleichen Zeitraum des Jahres 2022.

DeepMedia schätzt, dass im Jahr 2023 insgesamt etwa 500.000 Video- und Stimmfälschungen auf Social-Media-Websites weltweit verbreitet werden. Das Klonen einer Stimme kostete bis Ende letzten Jahres 10.000 Dollar an Server- und KI-Trainingskosten, aber jetzt bieten Startups dies für ein paar Dollar an, heißt es.

Niemand ist sich sicher, wohin der Weg der generativen KI führt oder wie man sich wirksam gegen ihre Macht zur massenhaften Fehlinformation schützen kann, so die Befragten.

Der Branchenführer OpenAI, der in den letzten Monaten mit der Veröffentlichung von ChatGPT und dem aktualisierten Modell GPT-4 das Spiel verändert hat, kämpft selbst mit diesem Problem. CEO Sam Altman sagte diesen Monat vor dem Kongress, dass die Integrität von Wahlen ein "erhebliches Problem" sei und drängte auf eine schnelle Regulierung des Sektors.

Im Gegensatz zu einigen kleineren Startups hat OpenAI Schritte unternommen, um die Nutzung seiner Produkte in der Politik einzuschränken. Dies geht aus einer Reuters-Analyse der Nutzungsbedingungen von einem halben Dutzend führender Unternehmen hervor, die generative KI-Dienste anbieten.

Die Leitplanken haben jedoch Lücken.

OpenAI sagt zum Beispiel, dass es seinem Bildgenerator DALL-E verbietet, Personen des öffentlichen Lebens zu erstellen. Als Reuters versuchte, Bilder von Trump und Biden zu erstellen, wurde die Anfrage blockiert und eine Meldung erschien, die besagte, dass dies "möglicherweise nicht unserer Inhaltspolitik entspricht".

Dennoch war Reuters in der Lage, Bilder von mindestens einem Dutzend anderer US-Politiker zu erstellen, darunter der ehemalige Vizepräsident Mike Pence, der ebenfalls eine Kandidatur für das Weiße Haus im Jahr 2024 erwägt.

OpenAI schränkt auch jede "skalierte" Nutzung seiner Produkte für politische Zwecke ein. Das bedeutet, dass die KI nicht dazu verwendet werden darf, personalisierte Massen-E-Mails an Wähler zu verschicken.

Das Unternehmen, das von Microsoft unterstützt wird, erläuterte seine politischen Richtlinien in einem Interview mit Reuters, reagierte aber nicht auf weitere Anfragen zur Durchsetzung von Lücken in seinen Richtlinien, wie z.B. die Blockierung der Erstellung von Bildern von Politikern.

Mehrere kleinere Startups haben keine ausdrücklichen Beschränkungen für politische Inhalte.

Midjourney, das im vergangenen Jahr an den Start ging, ist mit 16 Millionen Nutzern auf seinem offiziellen Discord-Server der führende Anbieter von KI-generierten Bildern. Die App, die je nach Faktoren wie Bildmenge und Geschwindigkeit zwischen kostenlos und 60 Dollar pro Monat kostet, ist laut vier befragten KI-Forschern und -Schöpfern ein Favorit von KI-Designern und Künstlern, weil sie hyperrealistische Bilder von Prominenten und Politikern erzeugen kann.

Midjourney hat auf die Bitte um einen Kommentar für diesen Artikel nicht reagiert. Während eines Online-Chats auf Discord letzte Woche sagte CEO David Holz, dass das Unternehmen wahrscheinlich noch vor der Wahl Änderungen vornehmen wird, um Fehlinformationen zu bekämpfen.

Midjourney will an einer Industrielösung mitarbeiten, um die Rückverfolgbarkeit von KI-generierten Bildern mit einem digitalen Äquivalent eines Wasserzeichens zu ermöglichen und würde in Erwägung ziehen, Bilder von politischen Kandidaten zu blockieren, fügte Holz hinzu.

KI-GENERIERTE WERBUNG DER REPUBLIKANER

Während die Branche noch damit ringt, wie man Missbrauch verhindern kann, versuchen einige politische Akteure selbst, die Macht der generativen KI zu nutzen, um ihre Kampagnen aufzupeppen.

Bislang war die einzige öffentlichkeitswirksame KI-generierte politische Werbung in den USA eine, die Ende April vom Republican National Committee veröffentlicht wurde. Der 30-sekündige Werbespot, der nach Angaben des RNC vollständig von KI generiert wurde, verwendete gefälschte Bilder, um ein Katastrophenszenario für den Fall einer Wiederwahl Bidens zu suggerieren, in dem China in Taiwan einmarschiert und San Francisco von der Kriminalität lahmgelegt wird.

Das RNC reagierte nicht auf Anfragen nach einem Kommentar zu der Anzeige oder dem weiteren Einsatz von KI. Das Demokratische Nationale Komitee lehnte es ab, sich zu seinem Einsatz der Technologie zu äußern.

Reuters befragte alle republikanischen Präsidentschaftskampagnen zu ihrem Einsatz von KI. Die meisten haben nicht geantwortet, obwohl das Team von Nikki Haley sagte, dass sie die Technologie nicht verwenden und die Kampagne des aussichtslosen Kandidaten Perry Johnson sagte, dass sie KI für die "Generierung und Iteration von Texten" verwenden, ohne weitere Details zu nennen.

Das Potenzial der generativen KI für die Erstellung von Wahlkampf-E-Mails, Posts und Anzeigen ist für einige Aktivisten unwiderstehlich, die glauben, dass die kostengünstige Technologie das Spielfeld bei Wahlen ebnen könnte.

Selbst im ländlichen Hillsdale, Michigan, ist die maschinelle Intelligenz auf dem Vormarsch.

Jon Smith, der republikanische Vorsitzende des 5. Kongressdistrikts von Michigan, veranstaltet mehrere Fortbildungsveranstaltungen, damit seine Verbündeten lernen können, wie man KI für soziale Medien und die Erstellung von Anzeigen nutzt.

"KI hilft uns, gegen die großen Katzen zu spielen", sagte er. "Ich sehe den größten Aufschwung bei den lokalen Rennen. Jemand, der 65 Jahre alt ist, Landwirt und Bezirksbevollmächtigter, könnte mit Hilfe der Technologie leicht von einer jüngeren Katze übertrumpft werden."

Auch Politikberatungsunternehmen versuchen, sich KI zunutze zu machen, wodurch die Grenze zwischen real und unecht weiter verwischt wird.

Numinar Analytics, ein politisches Datenunternehmen, das sich auf republikanische Kunden konzentriert, hat begonnen, mit der Generierung von KI-Inhalten für Audio- und Bildmaterial zu experimentieren, ebenso wie mit der Generierung von Stimmen, um möglicherweise personalisierte Botschaften in der Stimme eines Kandidaten zu erstellen, sagte der Gründer Will Long in einem Interview.

Das demokratische Meinungsforschungs- und Strategieunternehmen Honan Strategy Group versucht unterdessen, einen KI-Umfrage-Bot zu entwickeln. Das Unternehmen hofft, bis zu den Kommunalwahlen 2023 einen weiblichen Bot auf den Markt bringen zu können, sagte CEO Bradley Honan. Er beruft sich auf Untersuchungen, die zeigen, dass sowohl Männer als auch Frauen eher mit einem weiblichen Interviewer sprechen.