Insbesondere Kompetenz und Integrität seien wichtige Kriterien dafür, dass Menschen einen KI-Chatbot als vertrauenswürdig wahrnehmen, so die Studie in der Fachzeitschrift «Journal of Experimental Psychology: General».
Auch bei Menschen gelten Integrität, Kompetenz als vertrauensfördernde Eigenschaften, wie die Universität Basel in einer Mitteilung zur Studie vom Mittwoch erklärte. Dazu spielt bei Menschen auch die Eigenschaft Wohlwollen eine Rolle. Bei der Beurteilung der Vertrauenswürdigkeit von Chatbots ist Wohlwollen hingegen weniger wichtig, wenn die beiden anderen Dimensionen bedient werden.
Als eigenständiges Wesen wahrgenommen
Zudem zeigt die Studie, dass die Befragten diese Eigenschaften der Künstlichen Intelligenz (KI) direkt zuschreiben, nicht dem Unternehmen dahinter. Sie nehmen die KI also gewissermassen als eigenständiges Wesen wahr, wie die Forschenden erklärten. «Wir projizieren mehr in KI-Systeme hinein, als tatsächlich vorhanden ist», sagte die Studienleiterin Fanny Lalot laut der Mitteilung.
Umso wichtiger seien deshalb vertrauenswürdige KI-Systeme; ein Chatbot sollte uns weder belügen, noch alles, was wir sagen, ohne Wenn und Aber gutheissen, so die Forscherin.
In der Studie wurden Testpersonen mit Beispielen von Konversationen zwischen Nutzenden und dem fiktiven Chatbot Conversea konfrontiert. Dann stellten sie sich vor, dass sie selber mit Conversea interagierten.