Der Nationalrat will Anbieter von generativer KI an die Leine nehmen. KI-Anbieter sollen für den nötigen Schutz sorgen müssen, wenn ihre Tools sexualisierte Deepfake-Inhalte herstellen können. Eine Prüfinstanz soll, falls nötig, Sanktionen aussprechen können.
Oppositionslos nahm er am Dienstag eine Motion von Raphaël Mahaim (Grüne/VD) an. Mit dem Auftrag ist der Bundesrat einverstanden. Untermauert wird die Forderung mit dem KI-Tool «Grok», das in die Plattform X integriert ist. Auch der Bundesrat ist mit dem Vorstoss einverstanden. Nun hat noch der Ständerat zu entscheiden.
Dieses habe Bilder von Frauen und Kindern so abgeändert, dass diese äusserst knapp gekleidet aufreizend posiert hätten, machte Mahaim geltend. Derartige Deepfakes könnten besonders für Kinder potenziell schwerwiegende, dauerhafte Folgen haben. Eine nachträgliche strafrechtliche Verfolgung solcher Verstösse reiche nicht.
Es gibt nie einen Grund, eine Person ohne deren Zustimmung zu entkleiden, sowohl in der realen als auch in der virtuellen Welt, sagte Mahaim im Rat. «Mit zwei Klicks könne ein Video mit sexuellem Charakter erstellt und verbreitet werden.» Jeder und jede sei potenziell bedroht. Deshalb brauche es Schutz.
In der Schweiz könnten Urheber von Deep Fakes schon heute sanktioniert werden, sagte Justizminister Beat Jans, aber erst, wenn der Verstoss bereits stattgefunden habe. Der Bundesrat wolle die KI-Konventionen des Europarates ratifizieren und plane dazu eine Vernehmlassung. Dort werde das Anliegen aufgegriffen.
EU-Parlament stimmt zu
Das Europaparlament hat einem Verbot von KI-Anwendungen, mit denen sexualisierte Deepfakes erstellt werden können, zugestimmt. Eine grosse Mehrheit von 423 Abgeordneten stimmte in Strassburg für eine entsprechende Änderung des europäischen KI-Gesetzes. 57 lehnten sie ab, 174 Parlamentarier enthielten sich.
Nun fehlt noch die formelle Zustimmung der EU-Staaten. Das Verbot würde dann ab 2. Dezember 2026 federführend vom KI-Amt der EU durchgesetzt werden, das vor zwei Jahren geschaffen wurde.
Bei Deepfakes werden mit Hilfe Künstlicher Intelligenz täuschend echt wirkende Bild-, Video- oder Tonaufnahmen manipuliert oder erzeugt. Das neue Verbot soll die bisherigen Regeln ergänzen, indem es neben den Nutzenden auch die Anbieter der entsprechenden digitalen Werkzeuge ins Visier nimmt. Die an den Verhandlungen beteiligten Abgeordneten hatten betont, dass das Verbot nicht dazu führen soll, die Erstellung oder Manipulation von Bildern übermässig stark einzuschränken.
Was genau verboten sein soll
Dafür soll in dem neuen Gesetz genau definiert sein, was sexualisierte Inhalte sind und was nicht. Das Verbot zielt demnach auf KI-Anwendungen ab, die etwa die Erstellung von realistischen Bildern oder Videos vom Intimbereich erlauben – insbesondere von Genitalien, dem Anus, Po oder entblössten weiblichen Brüsten sowie von sexuell eindeutigen Handlungen.
Satirische Karikaturen sollen also ausgenommen bleiben. Auch nicht-einvernehmliche Bikini-Bilder, wie sie von Grok erstellt und auf X verbreitet wurden, könnten demnach erlaubt bleiben. Das neue Verbot soll aber explizit auch auf das Erstellen von Inhalten abzielen, die sexuellen Kindesmissbrauch darstellen.
Weitere Änderungen am KI-Gesetz sollen der KI-Branche zunächst zusätzliche Pflichten ersparen und auch die Anwendung von künstlicher Intelligenz in der Wirtschaft mit Regelvereinfachungen erleichtern. An Teile des Gesetzes, die das Europäische KI-Amt ursprünglich bereits ab August durchsetzen sollte, müssen sich die Firmen hinter ChatGPT, Claude und Co. jetzt erst ab Dezember 2026 halten. Spätestens dann sollen die Anbieter KI-Inhalte etwa deutlich als solche kennzeichnen – generierte Bilder und Videos müssten sie also mit Wasserzeichen markieren. (sda/awp/dpa/cbe)
