Es sieht aus wie ein Ausschnitt aus einer Newssendung des US-TV-Dienstes CBSN: Facebook-Gründer und Konzernchef Mark Zuckerberg (35) ist live aus seinem Büro zugeschaltet und sagt Ungeheuerliches: «Stellt Euch vor, es gäbe einen Mann, der hätte die totale Kontrolle über die gestohlenen Daten von Millionen Menschen, über alle Geheimnisse, das gesamte Privatleben und ihre Zukunft.»
Zuckerberg gesteht, dass er alles «Spectre» zu verdanken habe. «Wer die Daten kontrolliert, kontrolliert die Zukunft», sagt der Facebook-Boss zum Schluss des kurzen Clips, der unter anderem auf Instagram und Facebook kursiert.
Doch Zuckerberg hat das nie gesagt. Das Video ist von Anfang bis Ende gefälscht, ein sogenannter Deepfake. Das bedeutet: Jemand hat aus Original-Bildern und einem von einem Schauspieler gesprochenen Text ein neues Video zusammengebaut. Dabei werden vom Computer Mimik, Lippenbewegungen und Gestik perfekt auf die neue Tonspur abgestimmt. Optisch ist kaum zu erkennen, dass es sich um ein Fake-Video handelt.
Videos werden nicht entfernt
Auch wenn Mark Zuckerberg brisante Aussagen in den Mund gelegt werden, wird der Clip nicht gelöscht. Facebook und das zum gleichen Konzern gehörende Instagram lassen also zu, dass ein Fake-Video des eigenen Chefs kursiert. Zwar werden die Clips markiert und von den Plattformen nicht mehr aktiv gefördert, aber eben nicht entfernt.
Der Clip ist Teil einer Kunstausstellung - und zumindest in der ursprünglichen Version als Deepfake gekennzeichnet. Der gefälschte Mark Zuckerberg gehören zur Installation «Spectre» der britischen Künstler Bill Posters und Daniel Howe, die momentan am «Sheffield Doc/Fest» zu sehen ist, einem Dokumentarfilm-Festival in der Stadt im Norden Englands.
Die Künstler haben noch andere Fake-Videos erstellt, so gesteht Social-Media-Star Kim Kardashian (38) etwa, dass die Daten der User sie unglaublich reicht gemacht haben. Sie liebe es, Leute online zu manipulieren, um Geld zu verdienen.
Und US-Präsident Donald Trump (72) gesteht, dass er nicht nur wegen seines «grossen Gehirns» so populär sei, sondern wegen den Algorithmen und den Daten. «Ich habe den grössten Betrug des Jahrhunderts aufgezogen, und die Leute haben keine Ahnung», sagt Trump im täuschend echt aussehenden Video.
Auch «echte» Fake Videos bleiben aufgeschaltet
Die Clips zeigen eindrücklich, was heute mit künstlicher Intelligenz technisch möglich ist. Das ist erschreckend, weil man so seinen eigenen Augen nicht mehr trauen kann. Die Künstler weisen aber auch gleich noch auf ein zweites Problem hin.
Zwar ist im ursprünglichen Post vermerkt, dass es sich um Fake-Videos handelt. Doch über Social Media kursieren bereits Dutzende Kopien der Filmchen und nicht immer ist klar, dass sie Teil einer Kunstaktion sind. Sprich: Die Fake Videos entwickeln ein Eigenleben und können von jedermann weiterverbreitet und auch in einen neuen Kontext gesetzt werden.
Die Massnahmen von Facebook und Co. gegen solche gefälschten Informationen sind völlig ungenügend. Das zeigt nicht nur die Kunstaktion, sondern auch ein Fall von Ende Mai. In einem veränderten Video ist Nancy Pelosi (79), die Sprecherin des US-Repräsentantenhauses, zu sehen, die scheinbar lallend Auskunft über ein Treffen mit dem US-Präsidenten Auskunft gibt.
Zwar wurde der Clip von Youtube schnell gelöscht, bei Facebook und Twitter jedoch nicht. Dort gab es nur ein Downranking, sprich die Aufnahme wird weniger Usern aktiv angezeigt. Trotzdem erreichte eine Kopie des Fake Videos auf Facebook 2,5 Millionen Zuschauer.