Anfang 2024 tauchten auf Instagram und anderen Plattformen Werbeanzeigen auf, in denen «SRF Meteo»-Moderatorin Sandra Boner im Zusammenhang mit reisserischen Schlagzeilen auftauchte (persoenlich.com berichtete). In einer Anzeige war sie auf einer gefälschten Todesmeldung zu sehen, in einer anderen wurde ihr Bild für trügerische Bitcoin-Investitionen verwendet. Die Masche: Mit KI-generierten Inhalten und dem Vertrauen in prominente Gesichter sollten Nutzerinnen und Nutzer zu Investitionen verleitet werden.
Solche manipulierten Anzeigen sind keine Neuheiten mehr. Google reagiert seit Jahren auf die Entwicklung von sogenannten «bad Ads», das heisst, Publikationen, die gegen die Werberichtlinien verstossen. Es handelt sich hierbei etwa um sexuelle oder gewalttätige Inhalte oder eben auch um Falschdarstellungen und Betrugsfälle.
Letztes Jahr wurden 5,1 Milliarden Anzeigen vor der Publikation blockiert oder danach entfernt. Es zeigt sich damit eine sinkende Tendenz, im Vorjahr waren es immerhin noch rund 5,5 Milliarden. Die Zahl stammt aus dem Ads Safety Report 2024, der am Mittwoch publiziert wurde.
Die grosse Hilfe: KI-Modelle
Bei der Bekämpfung der böswilligen Werbeanzeigen setzt Google besonders auf grosse Sprachmodelle (Large Language Models, LLMs), wie das 2023 lancierte Google Gemini. Im vergangenen Jahr wurden 50 Verbesserungen an der Technologie eingeführt. Die KI-Systeme beschleunigen Untersuchungen, ermöglichen Früherkennung von Betrugsversuchen und helfen dabei, die Aktivitäten von Wiederholungstätern einzudämmen.
Dass die Strategie anschlägt, zeigen die Zahlen im Bericht: Bei der Publisher-Durchsetzung haben KI-Modelle zur Erkennung und Durchsetzung von rund 97 Prozent der Fälle beigetragen. «Ohne Mithilfe der KI wären solch hohe Ziffern unmöglich», sagte Alex Rodriguez, General Manager für Anzeigensicherheit bei Google an einem virtuellen Mediengespräch.
Die Kontrollfunktion des «human Processing»
Trotz der Fortschritte der KI betont Rodriguez die Wichtigkeit der menschlichen Kontrolle, das sogenannte «human Processing». «Während unsere KI-Systeme bei eindeutig schädlichen Anzeigen autonom handeln können, werden bei Grenzfällen weiterhin menschliche Experten in den Entscheidungsprozess einbezogen», so Rodriguez.
Google hat im Jahr 2024 dafür ein Team von 100 Experten zusammengestellt, die sich besonders mit Deepfakes auseinandersetzten. Hintergrund ist ein branchenweites Phänomen: Betrüger nutzen vermehrt KI-erzeugte Bilder und Audioinhalte, um den Eindruck zu erwecken, Berühmtheiten werben für zweifelhafte Produkte. Durch die personelle Verstärkung konnten laut Bericht über 700'000 Werbekonten permanent gesperrt werden. Die Meldungen von Betrugsanzeigen reduzierten sich dadurch um 90 Prozent.
Prävention über Reaktion
Im Zentrum von Googles Strategie steht klar die Prävention. «Unser Ziel ist es, Schaden zu verhindern, bevor dieser überhaupt entstehen kann», so Rodriguez. Ein wesentlicher Teil ist die frühzeitige Sperrung von Wiederholungstätern. So konnten allein im letzten Jahr über 39,2 Millionen verdächtige Konten gesperrt werden.
Eine Methode besteht laut Bericht darin, Signale wie Unternehmensimitationen und illegitime Zahlungsdetails als frühe Indikatoren für Betrug zu nutzen. «Natürlich können wir nicht all unsere Strategien öffentlich bekanntgeben. Doch ein Punkt unserer Taktik ist, dass wir Signale von Betrügern analysieren, wie etwa ihre E-Mail-Adressen, um wahrscheinliche Verbindungspunkte zu identifizieren und tiefergehende Untersuchungen einzuleiten», erklärt Rodriguez.
Die Verifizierung der Werbetreibenden-Identität ist ein weiteres wichtiges Instrument. Das Programm deckt mehr als 200 Länder und Gebiete ab, sodass rund 90 Prozent der Anzeigen auf Google von verifizierten Werbetreibenden stammen.
Global Signal Exchange
Ein wichtiger Baustein der Zukunftsstrategie ist laut Rodriguez die internationale, branchenübergreifende Zusammenarbeit. Im Oktober 2024 wurde das Projekt Global Signal Exchange (GSE) in Partnerschaft mit der Global Anti-Scam Alliance (GASA) und der DNS Research Federation (DNS RF) gestartet.
Über eine gemeinsame Plattform stellte Google bereits über 100'000 unseriöse URLs und eine Million Scam-Signale zur Verfügung. Ziel ist es, den Austausch und die Zusammenarbeit zwischen Unternehmen und Organisationen zu stärken, wenn missbräuchliche Signale entdeckt werden. Ausserdem sollen KI-Systeme trainiert werden, um zukünftig Betrugsmuster zu erkennen und so Nutzerinnen und Nutzer zu schützen.
