Herr Schneider, seit rund einem Jahr hält der Hype an um künstliche Intelligenz. Überrascht Sie diese Dynamik?
Nicht wirklich. Bisher stellten sich die Leute unter künstlicher Intelligenz menschenähnliche Roboter vor, wie Arnold Schwarzenegger in Terminator. Bis ChatGPT kam, war vielen nicht bewusst, dass fast jede Website, jede grosse Online-Plattform KI oder algorithmische Systeme einsetzt, um den Nutzerinnen und Nutzern irgendwelche Sachen vorzuschlagen oder mit ihnen zu sprechen wie Siri oder Alexa. Das gibt es zwar schon seit Jahren. Aber das hat man nicht als künstliche Intelligenz wahrgenommen, sondern als Spielerei oder Statistik und Algorithmen. Jetzt merken die Leute langsam, dass KI kein Spielzeug einiger Nerds ist, sondern in unserem Alltag schon lange da ist. Und sie sehen, was man damit alles machen kann.
Nehmen Sie ein verstärktes Problembewusstsein wahr?
Im Moment sind gewisse Ängste sehr präsent, etwa dass man die Kontrolle verliert, weil Maschinen die Kontrolle übernehmen und uns manipulieren. Da gibt es natürlich Risiken.
«Früher haben Dampfmaschinen die repetitive physische Arbeit ersetzt, jetzt ersetzt KI repetitive geistige Arbeit.»
Sind die Ängste begründet?
Jede technische Revolution hat das Machtgefüge durcheinandergebracht und neue Akteure, neue Möglichkeiten hervorgebracht, wirtschaftlich wie politisch. Früher haben Dampfmaschinen die repetitive physische Arbeit ersetzt, jetzt ersetzt KI repetitive geistige Arbeit. Das weckt natürlich Ängste.
Seit April 2022 amtieren Sie als Vorsitzender des Europarat-Komitees für künstliche Intelligenz. Was hat Sie für diesen Posten qualifiziert?
Ich bin seit bald 20 Jahren im Europarat tätig und beschäftigte mich ebenso lange mit Internet-Gouvernanz und auch digitaler Gouvernanz. Dazu habe ich verschiedene Expertengruppen geleitet im Europarat. Was sicher auch eine Rolle spielte für mein Wahl: Ich war von 2014 bis 2017 bei der ICANN Regierungsratsvorsitzender, als wir die grösste Reform in der Geschichte der Internet-Regulierungsbehörde verhandelten. Nach den Snowden-Enthüllungen war die US-Regierung bereit, Kontrolle abzugeben. Ich habe diesen Prozess verhandelt, das war eine relativ komplexe Aufgabe. Die Leute im Europarat haben das gewusst und gefunden, ich könnte allenfalls einer sein, der das auf die Reihe kriegt.
Spielte es auch eine Rolle, dass Sie Schweizer sind?
Das kann ich nicht beurteilen. Es ist jedoch vorstellbar, dass die 46 Mitgliedsländer des Europarats, von denen ja 27 auch EU-Mitglieder sind, mit meiner Wahl auch ein Signal an die nichteuropäischen Länder senden wollte, dass hier nicht einfach EU-Recht in eine Europaratskonvention überführt werden soll, sondern dass man eine Konvention erarbeiten möchte, die für möglichst viele Länder auf der Welt attraktiv sein soll.
Welche Kenntnisse haben Sie von den technischen Grundlagen?
Relativ wenig (lacht). Ich bin Historiker, Ökonom und Anglizist. Aber über das Engagement in verschiedenen internationalen Gremien in den letzten 20 Jahren habe ich ein sehr breites Netzwerk an Experten aus verschiedenen Bereichen. Wir haben allein schon im Bakom ein breites Wissen über digitale Infrastruktur, Inhalte und Märkte, was auch international einzigartig ist. Behörden im Ausland sind viel segmentierter aufgestellt.
«Der Europarat versucht, gewisse Grundprinzipien festzulegen auf möglichst globaler Ebene»
Der Europarat will bis Ende Jahr verbindliche Rahmenbedingungen schaffen für den Umgang mit künstlicher Intelligenz. Was ist das Ziel dieser Konvention?
Damit versucht der Europarat, gewisse Grundprinzipien festzulegen auf möglichst globaler Ebene. Die Konvention ist zwar vom Europarat, aber da können auch aussereuropäische Länder mitmachen. Bei den Verhandlungen sind auch die USA dabei oder Kanada, Japan und Israel, alles Länder, die in gewissen Forschungsbereichen zur KI führend sind. Die Länder, die dann die Konvention unterzeichnen, verpflichten sich, diese Grundprinzipien zu respektieren. Sie sollen aber den Spielraum haben, dies nach der Logik ihres eigenen Rechtssystems und ihrer institutionellen Gegebenheiten zu tun.
Um welche Fragen drehen sich die Verhandlungen?
Es geht zum Beispiel darum, ob der Nutzer immer erfahren soll, wenn irgendwo KI eingesetzt wird. Oder muss er es nur dann wissen, wenn es für sein Leben relevant ist? Wenn mir ein algorithmisches System auf einer Musikplattform den nächsten Song vorschlägt, dann ist das etwas anderes, als wenn das gleiche System einem Arzt einen bestimmten Eingriff empfiehlt oder einen Vollzugsbeamten über die künftige Rückfallquote eines Straffälligen informiert. Ebenfalls wichtig ist die Frage, ob man gegen Entscheide vorgehen kann, die mithilfe von KI gefällt wurden. Soll es eine Rekursmöglichkeit geben, und soll man verlangen können, dass ein Mensch den Entscheid fällt?
Auf welcher Grundlage verhandelt der Europarat?
Die Konvention basiert auf den Standards des Europarats zu Menschenrechten, Demokratie und Rechtsstaatlichkeit. Gleichzeitig soll die Regulierung Innovation nicht hemmen, um wettbewerbsfähig zu bleiben gegenüber Ländern, die sich nicht der Konvention unterwerfen. Das Ganze soll möglichst einfach und möglichst unbürokratisch sein.
«Regulierung kann innovationsfördernd wirken, weil sie klare Verhältnisse schafft»
Vertragen sich die Werte des Europarats, also Rechtsstaatlichkeit, Demokratie und Grundrechte, mit der angestrebten Innovationsfreundlichkeit der KI-Konvention? Ergibt das keinen Zielkonflikt?
Es kann ein Zielkonflikt sein, wenn man es nicht geschickt macht. Man ist sich aber weitgehend einig, dass Regulierung innovationsfördernd wirken kann, weil sie klare Verhältnisse schafft, etwa zu Haftungsfragen, damit ein Unternehmen weiss, was erlaubt ist und was nicht. Rechtssicherheit ist ein wichtiger Faktor.
Wie verbindlich sind die Bestimmungen der KI-Konvention des Europarats?
Die Konvention verpflichtet die Staaten, die sie unterzeichnen, bestimmte Grundprinzipien einzuhalten. Auf nationaler Ebene besteht dann ein gewisser Spielraum, wie die Länder diese Prinzipien anwenden. Das können alle Staaten unterschiedlich regeln.
Wie griffig ist die Regulierung des Europarats, wenn am Ende die Staaten über deren Umsetzung entscheiden?
Wenn beispielsweise ChatGPT dazu führt, dass Menschen diskriminiert werden, dann muss ein Staat, der die Konvention unterzeichnet hat, Rahmenbedingungen schaffen, damit diese Diskriminierung aufhört.
Neben dem Europarat ist auch die EU daran, KI zu regulieren. Wie wirkt sich das auf einen Nichtmitgliedsstaat wie die Schweiz aus?
Die EU-Regulierung sieht vor, dass jeder Akteur, der im EU-Markt tätig ist, die Regeln einhalten muss. Das gilt somit auch für solche aus der Schweiz. Das ist nichts Neues. Auf nationaler Ebene sind wir grundsätzlich frei und müssen nicht alles gleich machen wie die EU, aber es ist wahrscheinlich in unserem Interesse, nicht etwas zu machen, was völlig inkompatibel mit der EU wäre.
Spüren Sie bei den Verhandlungen im Europarat das Lobbying der Big-Tech-Firmen, deren Geschäft teilweise stark auf KI und algorithmischen Systemen basiert?
Im Europarat spüren wir das weniger, weil wir ein Abkommen über Grundprinzipien verhandeln. Die haben weniger direkte Auswirkungen als eine Marktregulierung, wie sie etwa die EU plant. Ein Unternehmen lobbyiert darum eher in Brüssel, wo die konkreten Gesetze geschrieben werden.
«Diese Konvention wird nicht alles regeln – und will das auch gar nicht»
Wie gross ist die Wahrscheinlichkeit, dass die Konvention des Europarats ein wirkungsloses Dokument bleibt?
Was man sich bewusst sein muss: Diese Konvention wird nicht alles regeln – und will das auch gar nicht. Es ist ein verbindliches Instrument auf der Ebene der Grundprinzipien und dient als Fundament für die Regulierung einerseits im nationalen Rahmen und andererseits in einzelnen Sektoren. Da diskutiert man dann beispielsweise über KI in der Bildung oder dem Gesundheitswesen und verhandelt dann entsprechende zusätzliche sektorielle Abkommen oder Empfehlungen.
Bei der Regulierung neuer Technologien verhält sich die Schweiz eher zurückhaltend, nach dem Motto: lieber weniger als mehr Regeln, respektive: die Branche weiss selber, was für sie gut ist. Gilt das auch bei der Regulierung der künstlichen Intelligenz?
In der Schweiz geht man von einem mündigen, verantwortungsvollen Bürger aus, von verantwortungsvollen Unternehmen und will deshalb nicht überregulieren und nur dort Regeln einführen, wo die Gesellschaft das notwendig findet. Eine Behörde wie das Bakom kann aufzeigen, wo die Herausforderungen und Probleme liegen, wie komplex sie sind und welche Regulierungsmöglichkeiten es gibt. Am Ende entscheiden das Parlament und die Stimmbürgerinnen und Stimmbürger. Dass wir diese nicht in jedem Bereich vor sich selber schützen wollen, das ist nicht neu und wird auch von der Bevölkerung so gewünscht. Man versucht, so viel Freiheit wie möglich zu gewähren und so viel Schutz wie nötig.
Wo hat die Schweiz bereits Entscheide gefällt in Sachen KI-Regulierung?
In gewissen Sektoren ist man bereits aktiv geworden. So hat man sich zum Beispiel im Medienbereich entschieden, eine Regulierung für Plattformen zu entwickeln. Diese Plattformen basieren auf der Verarbeitung von grossen Datenmengen mit Algorithmen und KI-Systemen, um ihren Nutzern Inhalte anzubieten. Insofern ist natürlich jede Plattformregulierung auch eine KI-Regulierung.
Kann man künstliche Intelligenz noch mit den bekannten Ansätzen regulieren?
Bei Technologien, die sich sehr schnell entwickeln, muss man sich schon fragen, wie sinnvoll es überhaupt noch ist, fünf bis zehn Jahre an einem Gesetz zu arbeiten, das dann fünf Jahre in Kraft ist, bevor man sich wieder an die Erneuerung machen muss. Eigentlich versuchen wir, mit Mitteln aus dem 19. Jahrhundert die Probleme des 21. Jahrhunderts zu lösen.
Wirklich?
De facto ist das schon noch so. Aber die Systeme haben sich schon auch weiterentwickelt. Da gibt es den Multi-Stakeholder-Ansatz, dass auch die Zivilgesellschaft und die Wirtschaft mitverhandeln, wie jetzt im Europarat zur KI-Regulierung. Regierungen haben nicht mehr das gleiche Durchsetzungsvermögen wie früher. Ein Plattform-Unternehmen kann heute weltweit Spielregeln definieren, die die Menschen direkter betreffen als eine staatliche Regulierung. Aber in Zukunft müssen solche Regulierungsprozesse in Richtung einer rollenden Entwicklung gehen, die schneller und feiner reagieren kann und gleichzeitig auch private Akteure klarer in eine gewisse Verantwortung nimmt. Viele, die sich mit den Technologien beschäftigen, sind sich bewusst, dass es in diese Richtung gehen muss.
«Jede Generation hat immer den Eindruck, sie stehe an einem Wendepunkt»
Ist bei der künstlichen Intelligenz der strukturelle Rückstand der Regulierung auf seinen Gegenstand umso grösser, weil sie sich schneller entwickelt als frühere Technologien?
Jede Generation hat immer den Eindruck, sie stehe an einem Wendepunkt, wo die Welt nachher nicht mehr die Gleiche ist wie vorher. Das war beim Buchdruck so, bei der Dampfmaschine, beim Radio, dem Fernsehen und dem Internet. Gleichzeitig hat sich an den Grundbedürfnissen des Menschen nichts geändert. Leute wollen geliebt werden, wollen einen Job haben, wollen in die Ferien fahren. Was sich geändert hat, sind die Möglichkeiten, wie wir unsere Grundbedürfnisse befriedigen.
Kürzlich verlangten KI-Experten und Tech-Grössen um Elon Musk in einem offenen Brief ein Forschungsmoratorium für Systeme, die mächtiger sind als GPT4. Braucht es diese Denkpause?
Es ist ein relativ simplifizierender Aufruf. Der offene Brief ignoriert, dass KI immer kontextabhängig ist, je nachdem, wie und wo man sie einsetzt. Wichtig ist, dass man in einer Gesellschaft die Diskussion führt. Was wollen wir erlauben? Was lassen wir laufen? Wo setzen wir Schranken von Anfang an? Wo schauen wir zuerst einmal und setzen nachher Schranken? Mit der Atomenergie hat man in der Schweiz auch experimentiert, da gab es in den 1960er-Jahren einen Unfall, und heute produzieren Kernkraftwerke immer noch Strom. Gleichzeitig diskutiert man weiterhin über die Risiken.
In letzter Zeit war verschiedentlich zu lesen, die KI-Revolution drohe, sich zur grösseren Herausforderung für die Menschheit zu entwickeln als der Klimawandel. Teilen Sie diese Einschätzung?
Das ist eine gute Schlagzeile. Der Klimawandel ist unausweichlich, weil da tatsächlich etwas geschieht, das alle betrifft. KI dagegen sind in vielen Fällen Anwendungen, die man benutzen kann oder nicht. Man kann sich ein Stück weit entziehen, was beim Klimawandel nicht möglich ist. Aber es ist natürlich schon so, dass KI eine neue Welt der Möglichkeit für die Menschheit eröffnet, wo sich sehr stark die Frage stellt, wie die Menschheit diese Möglichkeiten nutzen wird. Mittlerweile ist allen klar, dass KI das Potenzial hat, unser Leben im Alltag fundamental zu beeinflussen – ob zum Guten oder zum Schlechten, das hängt davon ab, wie die Menschen dieses Potenzial nutzen.