In einem 30-sekündigen Video, in dem Aamir Khan zu sehen ist, und einem weiteren 41-sekündigen Clip mit Ranveer Singh sagen die beiden Bollywood-Schauspieler angeblich, dass Modi seine Wahlversprechen nicht eingehalten und während seiner zwei Amtszeiten als Premierminister kritische wirtschaftliche Probleme nicht angegangen sei.
Beide KI-generierten Videos enden mit dem Wahlkampfsymbol des Kongresses und dem Slogan: "Wählen Sie Gerechtigkeit, wählen Sie den Kongress".
Die beiden Videos wurden seit letzter Woche mehr als eine halbe Million Mal in den sozialen Medien aufgerufen, wie eine Auswertung von Reuters zeigt.
Ihre Verbreitung unterstreicht die potenzielle Rolle, die solche von künstlicher Intelligenz (KI) erzeugten Inhalte bei den gigantischen indischen Wahlen spielen können, die am Freitag begonnen haben und bis Juni andauern werden. KI und KI-generierte Fälschungen, sogenannte Deepfakes, werden zunehmend bei Wahlen in anderen Teilen der Welt eingesetzt, darunter in den USA, Pakistan und Indonesien.
Der Wahlkampf in Indien konzentrierte sich lange Zeit auf Hausbesuche und öffentliche Kundgebungen, aber seit 2019 werden WhatsApp und Facebook in großem Umfang als Wahlkampfinstrumente eingesetzt. Die diesjährigen Parlamentswahlen - bei denen Modi voraussichtlich eine seltene dritte Amtszeit erreichen wird - sind die ersten, bei denen KI eingesetzt wird.
Eine Sprecherin des Kongresses, Sujata Paul, teilte das Video des Schauspielers Singh am 17. April mit ihren 16.000 Followern auf X. Bis Samstagnachmittag wurde ihr Beitrag 2.900 Mal geteilt, 8.700 Mal geliked und 438.000 Mal aufgerufen.
Paul sagte Reuters am Telefon, sie habe gewusst, dass das Video von X als "manipulierte Medien" gekennzeichnet worden sei, aber sie habe es nicht löschen wollen, da sie beim Posten dachte, die Person sei Singh ähnlich und "es hat sicher Kreativität".
Der Beitrag war am Sonntag nicht mehr auf X zu sehen, Stunden nachdem Reuters eine Anfrage an den Leiter der Social-Media-Zelle des Kongresses geschickt hatte, der jedoch nicht reagierte.
Beide Schauspieler haben erklärt, die Videos seien gefälscht. Facebook, X und mindestens acht Fact-Checking-Websites haben erklärt, dass sie verändert oder manipuliert wurden, was auch die digitale Prüfstelle von Reuters bestätigt hat.
Reuters konnte nicht herausfinden, wer die Videos erstellt hat. Khan war "beunruhigt" über das virale "gefälschte" Video und Singhs Team untersuchte die Angelegenheit, so ein Sprecher der beiden Schauspieler. Singh schrieb am Freitag auf X: "Hütet euch vor Deepfakes, Freunde".
Modis Büro und der IT-Chef seiner Bharatiya Janata Partei reagierten nicht auf Bitten um einen Kommentar.
POLIZEILICHE UNTERSUCHUNG
Fast 900 Millionen Menschen in Indien haben Zugang zum Internet und eine Umfrage der Forschungsorganisation Esya Centre und der Indian Institute of Management Business School hat ergeben, dass ein durchschnittlicher Inder mehr als drei Stunden pro Tag in den sozialen Medien verbringt. Das Land hat fast eine Milliarde Wähler.
Einige Versionen der Videos wurden in den sozialen Medien blockiert, aber mindestens 14 waren am Samstag noch auf X zu sehen. Facebook löschte zwei Videos, die Reuters dem Unternehmen gemeldet hatte, aber ein weiteres war noch sichtbar.
Facebook erklärte in einer Erklärung, es habe die Videos wegen Verletzung seiner Richtlinien "entfernt". X hat auf Anfragen von Reuters nicht reagiert.
Die Videos haben eine polizeiliche Untersuchung ausgelöst. Khan hat am 17. April in Mumbai einen Fall gegen ungenannte Personen wegen angeblicher Nachahmung und Betrugs bei der Erstellung des gefälschten Videos registriert.
Die Polizei von Mumbai antwortete nicht auf eine Anfrage nach einem Kommentar, aber zwei Beamte, die an Khans Fall arbeiten und nicht namentlich genannt werden wollten, sagten, sie hätten Facebook und X angeschrieben, um das Video zu entfernen, und die Unternehmen hätten gesagt, das sei bereits geschehen.
Die Beamten sagten, sie seien am Freitag bis 2 Uhr morgens auf den Beinen gewesen, um zu überprüfen, ob Khans Online-Videos entfernt worden waren. Auf die Frage nach den Fortschritten in diesem Fall sagte einer von ihnen: "Solche technischen Untersuchungen brauchen Zeit".
AI VIDEO VON TOTEM VATER
Bei der diesjährigen Wahl nutzen Politiker KI auf andere Weise.
In Südindien sagte der Sprecher des Kongressführers Vijay Vasanth, sein Team habe mit Hilfe von KI einen 2-minütigen Audio-Video-Clip erstellt, der auf Social Media-Plattformen geteilt wurde und seinen inzwischen verstorbenen, aber populäreren Politiker-Vater H. Vasanthakumar zeigt, der für ihn um Stimmen wirbt.
Der verstorbene Politiker ist zu sehen, wie er sagt: "Auch wenn mein Körper euch alle verlassen hat, ist meine Seele noch da."
In Videos, die von der Kommunistischen Partei Indiens - Marxisten (CPM) auf YouTube veröffentlicht wurden, kritisiert Samata, eine von der KI generierte Moderatorin, die einen traditionellen Saree trägt und in einem Stil spricht, der an normale Nachrichtensender erinnert, die Regierungspartei im Bundesstaat Westbengalen.
In einem Clip behauptet die Moderatorin, die Partei kümmere sich nicht um die Umwelt, da viele Gewässer durch illegale Bauten verschwunden seien.
Ein Sprecher der Regierungspartei wies die Behauptung zurück und sagte, die Regierung des Bundesstaates habe dafür gesorgt, dass keine derartigen Bauvorhaben stattfinden. Die CPM reagierte nicht auf Bitten um einen Kommentar.
In dem Video, das bereits 12.000 Mal angesehen wurde, erklärt der Moderator Samata: "Dies sind Fragen, über die wir, die Bürger dieser Stadt, nachdenken müssen."
