Die EU-Kommission hat sich am Donnerstag entschlossen gezeigt, gegen die Plattform Hugging Face vorzugehen. «Wir haben Kenntnis von dieser Untersuchung und prüfen die Schlussfolgerungen», sagte Thomas Regnier, Sprecher der EU für Digitales, vor den Medien. Er erinnerte daran, dass die Erstellung von Nacktbildern ohne Einwilligung der Betroffenen in der EU verboten sei.
«Wir arbeiten intensiv an diesem Dossier und sind bereit, die nötigen und angemessenen Massnahmen zu ergreifen», fügte er an.
Die französische Hochkommissarin für Kindheit, Sarah El Haïry, hatte am Mittwoch angekündigt, nach den Enthüllungen der NGO die EU-Kommission anzurufen.
Laut AI Forensics erlauben es sieben der neun von der Plattform am stärksten beworbenen KI-Modelle zur Bildbearbeitung, Personen mit einfachen Texteingaben – sogenannten Prompts – zu entkleiden.
Die Behörden in Europa haben solche Entkleidungssysteme im Visier. Auslöser war eine vor mehreren Monaten in Grok – dem KI-Assistenten von Elon Musk – ergänzte Funktion. Diese ermöglichte es Nutzern, hyperrealistische Montagen (sogenannte Deepfakes) von nackten Erwachsenen und Kindern erstellen zu lassen.
Der Fall hatte in zahlreichen Ländern einen Aufschrei ausgelöst und zur Eröffnung einer Untersuchung durch die EU-Kommission geführt.
In der Folge verabschiedete die EU ein Gesetz, das KI-Dienste zum «Entkleiden» von Personen ohne deren Einwilligung ausdrücklich verbietet. Es tritt Anfang Dezember in Kraft.
Brüssel verfügt aber bereits über Handlungsmöglichkeiten, namentlich im Rahmen des europäischen KI-Gesetzes (AI Act). Mehrere von dessen Bestimmungen treten am Sonntag in Kraft und verleihen der Kommission neue Befugnisse zur Regulierung von Anbietern von KI-Modellen. (sda/nil)
