Unternehmen müssen fortschrittliche Werkzeuge einsetzen, um Desinformation und Deepfake-Inhalte zu erkennen und zu unterbinden. So sollen die wachsenden Risiken von Wahlmanipulationen und Finanzbetrug eingedämmt werden, forderte die Internationale Fernmeldeunion (ITU) der Vereinten Nationen am Freitag in einem Bericht.

Deepfakes wie durch KI generierte Bilder und Videos sowie Audioaufnahmen, die echte Personen täuschend echt imitieren, stellen laut ITU zunehmende Gefahren dar, wie der Bericht auf dem ,,AI for Good Summit" in Genf darlegte.

Die ITU rief zu robusten Standards im Kampf gegen manipulierte Multimedia-Inhalte auf und empfahl, dass Inhaltsverteiler wie soziale Medien digitale Verifizierungstools einsetzen, um Bilder und Videos vor der Veröffentlichung zu authentifizieren.

,,Das Vertrauen in soziale Medien ist deutlich gesunken, weil die Menschen nicht mehr wissen, was echt und was gefälscht ist", erklärte Bilel Jamoussi, Leiter der Studiengruppenabteilung im Standardisierungsbüro der ITU. Die Bekämpfung von Deepfakes sei eine der größten Herausforderungen, da generative KI in der Lage sei, realistische Multimedia-Inhalte zu erzeugen, sagte er.

Leonard Rosenthol von Adobe, einem führenden Unternehmen für digitale Bearbeitungssoftware, das sich bereits seit 2019 mit Deepfakes beschäftigt, betonte die Bedeutung der Herkunftsnachweise digitaler Inhalte, um Nutzern die Einschätzung der Vertrauenswürdigkeit zu erleichtern.

,,Wir brauchen mehr Orte, an denen Nutzer diese Informationen zu den Inhalten sehen können ... Wenn Sie durch Ihre Feeds scrollen, möchten Sie wissen: 'Kann ich diesem Bild, diesem Video vertrauen?'", sagte Rosenthol.

Dr. Farzaneh Badiei, Gründerin der Forschungsfirma für digitale Governance Digital Medusa, hob die Notwendigkeit eines globalen Ansatzes hervor, da es bislang keine einzige internationale Aufsichtsbehörde gibt, die sich auf die Erkennung manipulierter Materialien konzentriert.

,,Wenn wir Flickenteppiche aus Standards und Lösungen haben, dann können schädliche Deepfakes noch effektiver sein", sagte sie gegenüber Reuters.

Die ITU entwickelt derzeit Standards für Wasserzeichen in Videos - die 80% des Internetverkehrs ausmachen -, um Herkunftsdaten wie Urheberidentität und Zeitstempel einzubetten.

Tomaz Levak, Gründer des in der Schweiz ansässigen Unternehmens Umanitek, forderte den Privatsektor auf, proaktiv Sicherheitsmaßnahmen umzusetzen und Nutzer zu schulen.

,,KI wird nur noch leistungsfähiger, schneller und intelligenter ... Wir müssen die Menschen weiterbilden, damit sie nicht Opfer dieser Systeme werden", sagte er.