Anrufe mit KI-generierten Stimmen sind illegal, so die Federal Communications Commission am Donnerstag, nachdem ein gefälschter Robo-Anruf, der Präsident Joe Biden imitierte, die Menschen davon abhalten wollte, bei den Vorwahlen der Demokraten in New Hampshire für ihn zu stimmen.

Die Feststellungsverfügung gibt den Generalstaatsanwälten der Bundesstaaten neue Instrumente an die Hand, um gegen die Unternehmen vorzugehen, die hinter den Robocalls stecken, sagte die FCC-Vorsitzende Jessica Rosenworcel.

"Böswillige Akteure verwenden KI-generierte Stimmen in unaufgeforderten Roboanrufen, um gefährdete Familienmitglieder zu erpressen, Prominente zu imitieren und Wähler falsch zu informieren. Wir haben die Betrüger, die hinter diesen Anrufen stecken, gewarnt", sagte Rosenworcel.

Die FCC wies darauf hin, dass die Generalstaatsanwälte der Bundesstaaten bisher das Ergebnis eines unerwünschten, von einer KI-Stimme erzeugten Robo-Anrufs ins Visier nehmen konnten, aber die neue Maßnahme macht den Einsatz von KI zur Erzeugung einer Stimme in diesen Robo-Anrufen selbst illegal.

Anfang dieser Woche sagte der Generalstaatsanwalt von New Hampshire, John Formella, dass der gefälschte Biden-Robo-Call

zu dem in Texas ansässigen Unternehmen Life Corp zurückverfolgt

. Er sagte, dass dem Unternehmen, das von Walter Monk geleitet wird, eine Unterlassungserklärung zugestellt wurde und dass eine strafrechtliche Untersuchung im Gange ist.

"Der Einsatz von generativer KI hat eine neue Bedrohung für die Unterdrückung von Wählern und die Wahlkampfsaison mit sich gebracht, da gefälschte Robocalls immer glaubwürdiger werden", sagte der demokratische FCC-Kommissar Geoffrey Starks.

"Das Klonen von Stimmen", so die FCC, "kann einen Anrufer davon überzeugen, dass eine vertrauenswürdige Person oder eine Person, die ihm wichtig ist, wie z.B. ein Familienmitglied, von ihm eine Handlung verlangt oder benötigt, die er andernfalls nicht durchführen würde.

Die FCC in

2023 eine Geldstrafe in Höhe von 5,1 Millionen Dollar festgesetzt.

gegen konservative Aktivisten wegen mehr als 1.100 illegaler Robocalls im Vorfeld der US-Wahl 2020.

Die Anrufe zielten darauf ab, potenzielle Wähler von der Stimmabgabe abzuschrecken, indem sie ihnen mitteilten, dass ihre "persönlichen Informationen Teil einer öffentlichen Datenbank sein werden, die von Polizeibehörden verwendet wird, um alte Haftbefehle aufzuspüren und von Kreditkartenunternehmen genutzt wird, um ausstehende Schulden einzutreiben."