Wie viele Steine sollte ich pro Tag essen? Was kann man tun, damit der Mozzarella nicht von der Pizza rutscht? Welcher US-Präsident war Muslim? Auf diese und viele andere Fragen gibt Google mit seiner Suchmaschine Antworten.
Doch die fallen anders aus, als man denkt. So empfahl Google in den vergangenen Tagen, Mozzarella mit Klebstoff anzureichern. Sagte, dass man mindestens einen kleinen Stein pro Tag essen sollte – wegen der Mineralien. Und: Barack Obama wurde kurzerhand zum Muslim gemacht. Was ist da los?
Kritik an AI Overviews
Die Ergebnisse wurden mit der neuen Funktion AI Overview generiert, die Google in den USA Mitte Mai für Millionen von Nutzerinnen und Nutzer freigeschaltet hat. AI Overview zeigt mit Hilfe von künstlicher Intelligenz Antworten auf Fragen direkt in der Google-Suche an.
In den letzten Tagen wurde die öffentliche Kritik immer lauter. Denn Googles KI lieferte zum Teil unsinnige oder ungenaue Ergebnisse auf Fragen. Screenshots davon gingen in den sozialen Medien viral – viele davon echt, bei einige wurde allerdings auch mit Photoshop nachgeholfen.
Wie kam es dazu?
Kritisiert wurde vor allem, dass die Nutzerinnen und Nutzer die Funktion nicht einfach abschalten können. «Google spielt ein gefährliches Spiel, wenn die KI Fragen über Krebs, Herzinfarkte und Diätpillen beantwortet», so theatlantic.com. Andere Stimmen in den sozialen Medien behaupten sogar, Google zerstöre mit der neuen Funktion seinen Ruf und sein wertvollstes Produkt, die Suche.
Die KI-Antworten von Google sorgten bereits vor dem Start für Aufsehen. Vor allem Website-Betreiber befürchteten einen Einbruch des Google-Traffics. Denn die Nutzer hätten ja so keinen Grund mehr, Google zu verlassen, wenn die Ergebnisse ihre Fragen direkt beantworten.
Nachdem es von allen Seiten Kritik gehagelt hatte, sah sich Google gezwungen zu reagieren. Liz Reid, die Chefin der Suche, äusserte sich persönlich in einem Blogeintrag zu der Kritik. «Angesichts der grossen Aufmerksamkeit, die die AI Overviews erhalten haben, möchten wir erklären, was passiert ist und welche Schritte wir nun unternommen haben», beginnt die Google-Managerin.
Dann kommt die Erklärung rund um die KI-Fieberträume. AI Overviews funktionierten anders als andere Chatbots, sagt Google. «Weil sie nicht einfach einen Output auf Basis von Trainingsdaten erzeugen und deshalb auch nicht halluzinieren können», erklärt Reid. Halluzinationen sind oft ein Problem bei anderen grossen Sprachmodellen. Wenn die KI Overviews falsch einschätzt, hat das andere Gründe: «Das sind Fehlinterpretationen von Abfragen oder die mangelnde Verfügbarkeit von Daten, sogenannte Datenlücken», sagt Reid.
Von Steinen und Leim
Genau das geschah bei den Steinen. Bevor sich die Frage «Wie viele Steine soll ich essen?» als viraler Gag verbreitete, hatte, wenig erstaunlich, kaum jemand diese Frage an die Suchmaschine gestellt. Das Netz hielt kaum Antworten darauf bereit. «Es gab aber satirische Inhalte zum Thema, die zufällig auch auf der Website eines Anbieters von Geologie-Software veröffentlicht wurden», erklärt Reid. Die Folge: Google nahm diese Antwort ernst und nahm sie in die KI-Übersicht auf.
Im Februar zahlte Goodle zudem dem Mega-Internetforum reddit.com 60 Millionen Dollar, um sein KI-Modell mit den Beiträgen der Plattform zu trainieren. Auch von dort fanden nun sarkastische oder trollige Inhalte zum Theme Steine essen nun den Weg in die Übersicht.
Schnell wurde klar: Die KI kann Shitposting offenbar nicht von echten Informationen unterscheiden. Unter Shitposting versteht man das bewusste Teilen von Inhalten, die sinnlos, irrelevant, provokativ oder einfach nur dumm sind.
«Foren sind oft eine grossartige Quelle für authentische Informationen aus erster Hand», hält Reid fest. «Aber in einigen Fällen können sie zu wenig hilfreichen Ratschlägen führen, wie zum Beispiel, wie man den Käse mit Klebstoff auf der Pizza hält.»
Aus diesem Grund wurden mehrere Verbesserungen an der Suche vorgenommen. Zum einen werden AI Overviews künftig seltener ausgelöst. Ausserdem sollen Satire, Humor und von Nutzern generierte Inhalte eingeschränkt werden, da sie irreführende Informationen liefern könnten. Ebenso sollen AI Overviews bei aktuellen Themen oder gesundheitsbezogenen Anfragen verbessert werden.