Dass Cyberkriminelle künstliche Intelligenz (KI) einsetzen, ist kein Geheimnis. Erst vergangene Woche wurde bekannt, dass Internetgangster hierzulande einen CEO mithilfe von KI geklont haben. Sie wollten damit Geld von einem Unternehmen ergaunern. Der Versuch schlug fehl, wie das Bundesamt für Cybersicherheit mitteilte.
Das Problem: Generative KI, also die Erzeugung von Text, Bild, Ton und Video mit KI, ist so schnell so gut geworden, dass laut Google die Hürde für den Einsatz der Technologie bei Cyberangriffen dramatisch gesunken ist. Dies habe in den vergangenen Monaten zu einer Welle von qualitativ hochwertigen Betrugsmails geführt, so der IT-Riese.
Angriff mit gleichen Waffen
Die Angreifer verwenden grosse Sprachmodelle, um überzeugende Phishing-Mails zu verfassen. Mit den Mails versuchen die Cyberkriminellen, über manipulierte Websites die Zugangsdaten der Empfänger für verschiedene Dienste abzufangen. Jetzt schlägt Google zurück: mit den gleichen Waffen, die auch die Angreifer einsetzen.
Dazu trainiert Google eigene Sprachmodelle mit den neuesten Betrugs-, Spam- und Phishing-Mails, die im Umlauf sind. So können gefährliche Mails jetzt viel zuverlässiger und auch viel schneller erkannt werden. Laut Google sind KI-Modelle einzigartig in ihrer Fähigkeit, semantisch ähnliche schädliche Inhalte in grossem Umfang zu erkennen.
So viele Mails fängt Google ab
Ende 2023 gingen die ersten KI-Tools an den Start und inzwischen «sind die Ergebnisse sehr beeindruckend», wie das Unternehmen kürzlich auf der Konferenz Cloud Next erklärte. Laut Google hat die KI-Abwehr seither rund 20 Prozent mehr Spam erkannt und kann fast doppelt so schnell auf neue Phishing-Bedrohungen reagieren. Zudem würden dank der Funktion 1000 Prozent mehr von Nutzern gemeldete E-Mails überprüft. Nach Angaben des Unternehmens werden 99,9 Prozent des Spams abgefangen. Es sind zehn Millionen betrügerische E-Mails – pro Minute.
Man arbeite aber intensiv daran, nun auch die letzten 0,1 Prozent zu bekämpfen, erklärte eine Google-Sprecherin gegenüber «Forbes». Die KI-Funktionen stehen den mehr als drei Milliarden Nutzern von Gmail und Google Workspace bereits zur Verfügung.
Kostenpflichtige Version von Chrome
Auf der Cloud Next Konferenz stellte der Konzern weitere KI-Funktionen rund um das Thema Sicherheit für Unternehmenskunden vor. Zum Beispiel eine Premium-Version von Google Chrome. Die kostenpflichtige Version des Browsers bietet Unternehmenskunden einen besseren Schutz vor Datenverlust und erweiterte Scans auf Schadsoftware. Ausserdem sollen vertrauliche Daten in Google Drive automatisch identifiziert und besser geschützt werden. Dieser KI-gestützte Datenschutz soll 10 Dollar pro Monat und Nutzer kosten, zusätzlich zum bestehenden Workspace-Abonnement.