26.02.2024

Deepfakes

Kennzeichnung von KI-Artefakten ungenügend

Fachleute warnen vor erheblichen Defiziten bei heutigen Methoden zur Auszeichnung von Bildern, Videos und Audio-Aufnahmen, die mit Hilfe Künstlicher Intelligenz erzeugt wurden.
Deepfakes: Kennzeichnung von KI-Artefakten ungenügend
Fotografie oder künstlich generiertes Bild des Papsts? Ohne klare Kennzeichnung zunehmend schwieriger herauszufinden. (Bild generiert mit Playground-v2)

Für die Nutzer sichtbare Markierungen könnten irreführend und schwer zu entdecken sein – und seien zugleich relativ einfach zu entfernen, betonte die Internet-Stiftung Mozilla in einem am Montag veröffentlichten Bericht.

Technische Wasserzeichen, die automatisch in von KI erzeugte Inhalte eingebettet werden, seien zwar die robustere Lösung. Auch hier gebe es jedoch den Vorbehalt, dass diese Informationen erst von der Software auf den Geräten der Nutzer ausgelesen und für sie dargestellt werden müsse.

Mehr Druck, wenn Selbstregulierung nicht greift

Vorschriften zur Auszeichnung von Inhalten liefen oft ins Leere, warnte Mozilla-Forscherin Ramak Molavi Vasse'i. Die sogenannten Deepfakes würden schliesslich meistens extra dafür erstellt, um in die Irre zu führen. Wenn die Branche mit Selbstregulierung nicht vorankomme, müsse es mehr Druck geben.

Generell sei es ein Problem, dass gerade eine Technologie in Umlauf gebracht werde, bei der Massnahmen gegen einen böswilligen Einsatz nicht von Anfang an durchdacht und eingebaut würden. Ausserdem gebe es noch einen Wildwuchs aus mehreren Verfahren dafür statt eines einheitlichen Standards.

Hinweis auf KI in Sora-Software nur klein

Mit KI-Software kann man immer realistischere Fotos aus Text-Vorgaben erzeugen. Und inzwischen wird auf diese Weise auch immer häufiger Video generiert – so stellte der ChatGPT-Entwickler OpenAI jüngst seine Video-Software Sora vor. Die sichtbare Markierung, die auf eine KI-Herkunft hinweise, sei bei Sora klein und oft schwer zu sehen, kritisierte die Mozilla-Expertin.

Insbesondere in diesem Jahr mit der US-Präsidentenwahl und der Europawahl gibt es die grosse Sorge, dass mithilfe von KI erstellte Fälschungen verwendet werden könnten, um ihren Ausgang zu beeinflussen. In den USA gab es bereits kurz vor der Vorwahl der Demokratischen Partei im Bundesstaat New Hampshire automatisierte Anrufe, bei denen mit der täuschend echt wirkenden Stimme von Präsident Joe Biden dazu aufgerufen wurde, der Abstimmung fernzubleiben.

Solche Audio-Fakes gelten allein schon deshalb als grosses Problem, weil es weniger Möglichkeiten gibt, sie anhand von Fehlern oder Kennzeichen zu erkennen. Es gab bereits Fälle, in denen solche Aufnahmen für den sogenannten Enkel-Trick angewendet wurden, bei dem Kriminelle versuchen, Geld im Namen von Verwandten zu erbeuten. (sda/nil)



Kommentar wird gesendet...

Kommentare

Kommentarfunktion wurde geschlossen

Diese Artikel könnten Sie auch interessieren:

Zum Seitenanfang20240414
persönlich Exemplar
Die neue «persönlich»-Ausgabe ist da - jetzt Probeabo bestellen.