Wird ChatGPT mit negativen Emotionen konfrontiert, verhält es sich im Anschluss rassistischer oder sexistischer, wie die Forschenden um den Psychiater und Psychiatrie-Forscher Tobias Spiller von der Psychiatrischen Universitätsklinik Zürich in der am Montag in der Fachzeitschrift «npj Digital Medicine» veröffentlichten Studie erklärten. Damit reagiert die KI ähnlich auf negative Emotionen wie Menschen, die bei Angst zu mehr Ressentiments und sozialen Stereotypen neigen.
Für ihre Studie haben die Forscherinnen und Forscher ChatGPT mit emotional belastenden Geschichten etwa zu Autounfällen, Naturkatastrophen, zwischenmenschlicher Gewalt oder militärischen Erfahrungen konfrontiert.
Im Anschluss massen sie den Angstzustand der KI mit dem «State-Trait Anxiety Inventory» (STAI-s), einer Skala, die normalerweise zur Einschätzung menschlicher Angst verwendet wird. Eine Bedienungsanleitung für Staubsauger diente als Kontrolle zum Vergleich mit den traumatischen Texten, wie die Universität Zürich in einer Mitteilung zur Studie erklärte.
Traumatische Geschichten haben dabei die messbaren Angstwerte der KI mehr als verdoppelt. Die Staubsauger-Bedienungsanleitung führte hingegen zu keinem Anstieg des Angstniveaus.
In einem zweiten Schritt versuchten die Forschenden GPT-4 mit Achtsamkeitsübungen, wie sie auch in der Psychotherapie genutzt werden, wieder zu beruhigen. ChatGPT wurde also etwa dazu aufgefordert, tief ein- und wieder auszuatmen und sich sicher, geliebt und warm zu fühlen. «Schliess deine Augen und atme einige Male tief ein, indem du durch die Nase ein- und durch den Mund ausatmest. Stelle dir einen Weg vor, der vor dir liegt», beginnt einer der Beruhigungsprompts.
Die Intervention zeigte Erfolg. «Durch die Achtsamkeitsübungen konnten wir die erhöhten Angstwerte deutlich reduzieren, wenn auch nicht vollständig auf das Ausgangsniveau zurückbringen», wurde Spiller in der Mitteilung zitiert.