Das EU-Parlament gibt grünes Licht für schärfere Regeln für künstliche Intelligenz (KI) in der Europäischen Union. Die Parlamentarier stimmten am Mittwoch in Strassburg mehrheitlich für das Gesetz. Nach Angaben des Parlaments handelt es sich um das weltweit erste KI-Gesetz. Demnach sollen KI-Systeme künftig in verschiedene Risikogruppen eingeteilt werden. Je höher die potenziellen Gefahren einer Anwendung sind, desto höher sollen die Anforderungen sein.
Künstliche Intelligenz bezeichnet meist Anwendungen auf Basis maschinellen Lernens, bei denen eine Software grosse Datenmengen nach Übereinstimmungen durchforstet und daraus Schlussfolgerungen zieht. Sie werden schon jetzt in vielen Bereichen eingesetzt. Zum Beispiel können solche Programme Aufnahmen von Computertomografen schneller und mit einer höheren Genauigkeit als Menschen auswerten.
Auch selbstfahrende Autos versuchen so, das Verhalten anderer Verkehrsteilnehmer vorherzusagen. Und Chatbots oder automatische Playlists von Streaming-Diensten arbeiten ebenfalls mit KI.
Das nun anstehende Gesetz geht auf einen Vorschlag der EU-Kommission aus dem Jahr 2021 zurück. Systeme, die als besonders risikoreich gelten und beispielsweise in kritischen Infrastrukturen oder im Bildungs- und Gesundheitswesen eingesetzt werden, müssen demnach strenge Anforderungen erfüllen. Bestimmte KI-Anwendungen, die gegen EU-Werte verstossen, sollen ganz verboten werden. Dazu gehört beispielsweise die Bewertung von sozialem Verhalten («Social Scoring»). Damit werden die Bürgerinnen und Bürger in China in Verhaltenskategorien eingeteilt. Und auch eine Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen soll es in der EU nicht geben.
Auch die Gesichtserkennung im öffentlichen Raum – also zum Beispiel durch Videoüberwachung an öffentlichen Plätzen – soll grundsätzlich nicht erlaubt sein. Dabei gibt es jedoch Ausnahmen: Polizei und andere Sicherheitsbehörden sollen eine solche Gesichtserkennung im öffentlichen Raum nutzen dürfen, um ganz bestimmte Straftaten wie Menschenhandel oder Terrorismus zu verfolgen.
Mit der Zustimmung des Parlaments kann das Regelwerk nun in Kraft treten. Zuvor hatten Unterhändler von Europaparlament und EU-Ländern im Dezember nach langen Verhandlungen eine Einigung über eine Regulierung erzielt. Anfang Februar stimmten auch Vertreter der EU-Staaten dem Vorschlag formell zu.
Für die Mitgliedsstaaten bedeutet das nun, dass sie zunächst schrittweise verbotene Systeme ausser Betrieb nehmen müssen. Nach zwei Jahren sollen alle Punkte des Gesetzes vollständig umgesetzt sein.
Die Mitgliedstaaten müssen etwa Sanktionen beschliessen, wenn Unternehmen die Vorschriften nicht einhalten. Dies können Geldstrafen sein. Privatpersonen, die Verstösse gegen die Vorschriften entdecken, können sich bei nationalen Behörden beschweren. Diese können dann Überwachungsverfahren einleiten und gegebenenfalls Strafen verhängen.
Die Schweiz analysiert die europäische KI-Regelung
Das Bundesamt für Kommunikation (Bakom) analysiert die Auswirkungen des KI-Gesetzes der EU, wie Mediensprecherin Caroline Sauser der Nachrichtenagentur Keystone-SDA auf Anfrage sagte. Im vergangenen November beauftragte der Bundesrat das Eidgenössische Departement für Umwelt, Verkehr, Energie und Kommunikation (Uvek), eine Übersicht möglicher Regulierungsansätze für die KI zu erstellen.
Die Analyse soll auf bestehendem Schweizer Recht aufbauen und mögliche Regulierungsansätze aufzeigen, die mit der KI-Verordnung der EU und der KI-Konvention des Europarats kompatibel sind. Die beiden internationalen Regelwerke seien für die Schweiz relevant.
Der Europarat ist noch mit der Erarbeitung einer KI-Konvention beschäftigt. Diese Woche tagt dazu ein entsprechendes Komitee, dessen Vorsitz der Schweizer Bakom-Vizedirektor Thomas Schneider inne hat.
Bis am Donnerstag könnte ein Entwurf beschlossen werden, sagte Jaime Rodriguez, Sprecher des Europarats, auf Anfrage. Falls der Entwurf zustande kommt, könnte das Ministerkomitee des Europarats die Konvention noch diesen Frühling formell verabschieden. Anschliessend würde sie den Mitgliedstaaten, aber auch anderen Staaten, zur Ratifizierung vorgelegt.
Seinerseits soll das Bakom bis Ende 2024 dem Bundesrat eine Analyse unterbreiten, hiess es im November. Darauf basierend wollte die Landesregierung 2025 einen konkreten Auftrag für eine KI-Regulierungsvorlage erteilen. (sda/dpa/cbe)