26.02.2021

Twitter

«Safety Mode» gegen Cybermobber geplant

Ein innovativer KI-basierter Algorithmus blockiert automatisch Accounts mit Hasskommentaren.

Die US-Mikroblogging-Plattform Twitter plant einen «Safety Mode», der für individuelle User automatisch Accounts von Cybermobbern blockiert. Aktivieren Anwender das Tool, sperrt die Künstliche Intelligenz (KI) der Plattform alle Postings, die Beleidigungen oder Hasskommentare enthalten.

User sollen laut Twitter selbst entscheiden können, ob sie den Safety Mode aktivieren oder nicht. Der Algorithmus achtet vor allem auf bestimmte Schlüsselwörter, die mit Cybermobbing in Verbindung stehen. Darunter sind Schimpfwörter und beleidigende Ausdrücke. Ist ein Account gegenüber Usern bösartig, blockiert das System dessen Bemerkungen für den Zeitraum von sieben Tagen.

Jedes Mal, wenn die Twitter-KI einen Account blockiert, erhalten Anwender eine entsprechende Benachrichtigung. Der Plattform zufolge kann der Algorithmus mehr als 50 Prozent der Hasskommentare entdecken, bevor Nutzer diese melden. Jedoch kann eine KI hier oft Fehler machen. Einer neuen Studie der Carnegie Mellon University zufolge hält sie etwa harmlose Konversationen zu Themen wie Schach häufig für Rassismus.

«Der Ansatz einer technologischen Lösung für das Problem des Cybermobbings ist nicht von der Hand zu weisen. Aber ein kompletter Schutz ist nicht garantiert», sagt Matthias Jax, Projektleiter bei Saferinternet, gegenüber Pressetext. «Algorithmen werden zwar immer genauer, können jedoch oft nicht zwischen den Zeilen lesen. Sie neigen auch dazu, deutlich radikaler und undifferenzierter zu sein als Menschen. Auch ist Transparanz dabei wichtig, wer die KI programmiert hat und ob sie dadurch befangen ist.» (pte/cbe)



Kommentar wird gesendet...

Kommentare

Kommentarfunktion wurde geschlossen

Diese Artikel könnten Sie auch interessieren:

Zum Seitenanfang20210418

Die Branchennews täglich erhalten!

Jetzt Newsletter abonnieren.