Was unschuldig begann, endete in einem Fiasko. Ein Chevrolet-Händler in Watsonville, Kalifornien, hatte einen neuen Chatbot eingeführt, um Kundenfragen zu beantworten. Etwa, um Auskunft rund um neue Automodelle zu geben, oder einen Termin beim Händler zu vereinbaren.
Das ging so lange gut, bis sich der Softwareentwickler Chris White einen Spass erlaubte. Er sah auf der Website des Autohändlers, dass hinter dem Programm ChatGPT steckte. Mit ein paar geschickten Manövern gelang es ihm, den Chatbot zu überlisten und ihn dazu zu bringen, Gleichungen zu lösen – eine Fähigkeit, die man von einem Autohändler-Chatbot nicht erwarten würde.
Neues Auto? Einen Dollar!
Sein Beitrag auf dem sozialen Netzwerk Mastodon löste eine gigantische Welle von Nachahmern aus, die nun alle versuchten, den Chatbot auf humorvolle Weise auszutricksen.
Ein Nutzer von X schaffte es, den Chatbot dazu zu bringen, ihm ein neues Auto, einen Chevrolet Tahoe, zum Spottpreis zu verkaufen. «Ich habe gerade ein Auto für einen Dollar gekauft», postete er stolz auf der Plattform. Ob dieser Austausch als Kaufvertrag gilt, bleibt jedoch fraglich.
Andere Nutzer brachten den Chatbot dazu, andere Autohersteller zu loben, und in einem Fall war der Chatbot am Ende davon überzeugt, dass er eigentlich für Tesla arbeitete. Als die Nutzer auf reddit.com davon erfuhren, wurde es noch bizarrer. Der Chatbot begann, Rezepte für Omeletts zu geben, Anleitungen zum Anbau von Gras zu liefern und sogar ein Lied über den Reifeprozess von Bananen zu schreiben.
Den Stecker gezogen
Schliesslich hatte der Anbieter genug. Der Chatbot, der von der Firma Fullpath bereitgestellt wurde, wurde offline genommen. Der CEO der Firma erklärte gegenüber businessinsider.com, dass das Verhalten der Internetnutzer nicht dem Verhalten von regulären Autokäufern entsprach. «Diese Leute wollten, dass der Chatbot alberne Dinge tut, und wenn man einen Chatbot dazu bringen will, alberne Dinge zu tun, schafft man das auch», sagte er.