Auf einen Blick
- Sam Altman will Deepfakes mit World ID bekämpfen
- Projekt nutzt Iris-Scans und Blockchain für digitale Identitäten
- 7,4 Millionen Menschen nutzen World in 19 Ländern
Traue nicht allem, was du online siehst. Im Internet kursieren immer wieder gefälschte Videos, um die Bevölkerung zu verwirren, aufzuwiegeln oder abzuzocken. Ein aktuelles Beispiel: Vor drei Tagen warnte das FBI vor zwei im Netz zirkulierenden Videos, die mit Falschbehauptungen Einfluss auf die US-Wahlen nehmen sollten – erstellt von einer russischen Desinformationsgruppe.
Insbesondere die Fortschritte bei der künstlichen Intelligenz (KI) haben dazu geführt, dass solche Deepfake-Videos stark zugenommen haben. Nun will ausgerechnet Sam Altman (39), dessen Unternehmen Open AI mit Chat GPT den KI-Hype ausgelöst hat, eine Lösung für das Problem gefunden haben: Sein Projekt World erstellt eine Internet-Identität von echten Menschen, um gefälschte Software-Kopien als solche zu erkennen. Es handelt sich dabei um eine Methode, die stark umstritten ist. Blick klärt alle wichtigen Fragen dazu:
Was hat Sam Altman mit seinem Projekt vor?
2019 gründete Sam Altman zusammen mit dem Harvard-Abgänger Max Novendstern (34) und dem deutschen Physiker Alexander Blania (30) das Start-up Tools for Humanity. Das ambitionierte Vorhaben: sichere Online-Identität, Kryptowährung, universelles Grundeinkommen. Dafür riefen die drei Unternehmensgründer im gleichen Jahr das Identifikations-Projekt Worldcoin ins Leben.
Für dieses Projekt erfasst das Start-up mit kugelrunden Augen-Scannern die Iris von Personen. Die Bilder von den Augen wandeln sie dann in codierte Computersprache um und speichern sie in der Blockchain. Die gescannten Personen verfügen dadurch über eine digitale Identität, die sogenannte «World ID». Als Gegenwert bekommen die Teilnehmer einen Betrag in der Kryptowährung Worldcoin. Mitte Oktober benannten Altman und Co. das Projekt in World um und stellten von den Scannern namens Orb neue Modelle vor. Das Ziel ist, dass sich Milliarden von Menschen erfassen lassen.
Was nützt die «World ID»?
Dank der digitalen Identität sind die gescannten Personen auch im Internet als echte Menschen verifizierbar. Die Lösung von World mit dem Namen «Deep Face» ist, dass Videos mit den Augen-Scans abgeglichen werden, um so Deepfakes zu erkennen. Dabei will Tools for Humanity eine eigene Kamera-Schnittstelle auf den Geräten der Nutzer anbieten. Die Software soll mit viel genutzten Video-Apps wie Whatsapp, Zoom, Microsofts Teams der Apples FaceTime kompatibel sein.
Wie weit ist das Projekt fortgeschritten?
Seit der Lancierung vor fünf Jahren hat das Projekt 250 Millionen Dollar von Investoren eingesammelt. 2023 begann das Projekt, mit dem Scannen von Augen. 7,4 Millionen Menschen haben das World-Angebot laut Firmenangaben bisher in Anspruch genommen. Verfügbar ist der Verifizierungsdienst in total 19 Ländern – darunter sind die USA, Brasilien und Argentinien, Japan und Südkorea, aber auch unsere beiden Nachbarländer Deutschland und Österreich. Die Schweiz ist hingegen nicht aufgeführt.
Wo gibt es Widerstand?
In den USA erhalten die gescannten Personen keine Worldcoins als «Bezahlung», weil sich die dortige Aufsicht die Kryptowährung bisher nicht erlaubt hat – aus Bedenken hinsichtlich des Datenschutzes und der möglichen Verwendung für «betrügerische Zwecke». Datenschutzbedenken gibt es auch in Europa. Schliesslich handelt es sich bei den Iris-Scans um biometrische Daten, die als besonders schützenswert gelten. So haben sich Frankreich, Italien, Portugal und Spanien den Dienst von World verboten.
Auch in Kenia ist das Projekt aktuell nicht mehr zugelassen. Das Problem: Die Kenianerinnen und Kenianer strömten scharenweise zu den Augen-Scannern, um sich Worldcoins im Wert von umgerechnet 50 Franken zu sichern. Die Scanns führt Tools for Humanity aber nicht mit eigenen Angestellten durch, sondern engagiert dafür selbständige Dienstleister, die für jede gescannte Person eine Kommission erhalten. Gerade in Ländern mit hoher Armutsquote besteht die Gefahr von Missbrauch. In einer Recherche von 2022 deckte das Magazin «MIT Technology Review» problematische Vorgehensweisen in weiteren Ländern fest. Darin erhebt das Magazin den Vorwurf des «Datenkolonialismus».
Was sagt Tools for Humanity zu den Vorwürfen?
World reagierte auf die Kritik mit einer 32-seitigen Gegendarstellung. Darin stellen die Projektverantwortlichen klar: Worldcoin sei kein Daten-Unternehmen, und das Geschäftsmodell basiere nicht auf der Ausbeutung oder dem Verkauf von persönlichen Nutzerdaten. Gegenüber der «Neuen Zürcher Zeitung» sagte Damien Kieran, Leiter Recht und Datenschutz bei Tools for Humanity: Das Risiko, dass ein Orb manipuliert oder gehackt werde, sei klein. Man sei zudem daran, den Orb noch sicherer machen. Und ganz generell: Man sei überzeugt, dass World konform sei mit dem Datenschutzgesetz, so Kieran, der bis Ende 2022 als Chief Privacy Officer beim Kurznachrichtendienst X gearbeitet hatte.
Ist das Projekt überhaupt legal?
Ob das World-Projekt wirklich konform ist mit dem Datenschutzgesetz, wird derzeit geklärt – zumindest auf Stufe EU. Denn das Bayerische Landesamt für Datenschutzaufsicht prüft aktuell die Legalität des Dienstes. Das Amt ist dafür zuständig, weil Tool for Humanity seinen europäischen Hauptsitz im bayrischen Erlangen hat. Das Ergebnis der Untersuchung soll bald vorliegen: «Wir gehen davon aus, dass uns ein Abschluss des Verfahrens noch vor Ende des Jahres 2024 möglich sein sollte», so die bayrische Datenschutzbehörde gegenüber der «NZZ».