Technologie-Milliardär Elon Musk (51) und zahlreiche Experten haben eine Pause bei der Entwicklung von besonders fortgeschrittener künstlicher Intelligenz (KI) gefordert. «KI-Systeme mit einer Intelligenz, die Menschen Konkurrenz macht, können grosse Risiken für Gesellschaft und Menschheit bergen», heisst es in dem am Mittwoch veröffentlichten offenen Brief mit mehr als 1000 Unterzeichnern.
«Mächtige KI-Systeme sollten erst dann entwickelt werden, wenn wir zuversichtlich sind, dass ihre Auswirkungen positiv und ihre Risiken kontrollierbar sind.»
Auch Apple-Mitbegründer will KI-Entwicklung pausieren
Der Brief ist eine Reaktion auf die Veröffentlichung der neuen Version des Chatbots ChatGPT, GPT-4, durch das kalifornische Unternehmen OpenAI Mitte März. Die Unterzeichner des Briefes, unter ihnen auch Apple-Mitbegründer Steve Wozniak (72), fordern, «dass alle KI-Labore sofort und für mindestens sechs Monate das Training von KI-Systemen stoppen, die mächtiger sind als GPT-4».
Sollten die Unternehmen sich darauf nicht einigen, müssten Regierungen einschreiten und eine Frist auferlegen. Die sechs Monate sollen demnach genutzt werden, um Sicherheitsprotokolle zu entwickeln.
GPT-4 erstellt mithilfe von künstlicher Intelligenz Texte. Nutzer können einzelne Befehle oder Sätze vorgeben, die das System dann mithilfe von Unmengen von Daten aus dem Internet eigenständig ergänzt.
Die rasante Entwicklung von künstlicher Intelligenz wird in vielen Bereichen – etwa in der Medizin – als grosse Chance gesehen, hat aber auch zahlreiche Kritiker auf den Plan gerufen. Diese warnen unter anderem, künstliche Intelligenz könnte zu Diskriminierung, Verbreitung von Falschinformationen und einem Verlust von Arbeitsplätzen führen und letztlich durch Menschen nicht mehr kontrollierbar werden.
Nicht nur Kritiker haben den Brief unterschrieben
In dem offenen Brief zu einem Stopp der KI-Entwicklung verweisen die Verfasser auf einen Satz von OpenAI-Gründer Sam Altman (37), demzufolge irgendwann eine «unabhängige» Überprüfung notwendig sei, bevor mit dem Training neuer Systeme begonnen werde. «Wir stimmen zu», schreiben die Verfasser des Briefes. «Der Zeitpunkt ist jetzt.»
Musk selbst war einer der frühen Investoren bei OpenAI. Der von ihm geführte Elektroautobauer Tesla entwickelt KI-Systeme für autonomes Fahren. Unterschrieben wurde der Brief nicht nur von Kritikern von künstlicher Intelligenz, sondern auch von Wettbewerbern von OpenAI wie dem Chef des Unternehmens Stability AI, Emad Mostaque (39). (AFP/dzc)