Zack Kass ist als ehemaliger Produktentwickler bei Open AI einer der führenden Experten in Sachen künstliche Intelligenz. Unternehmen stehen erst ganz am Anfang, das Potenzial dieser Technologie zu heben, KI kann helfen, den weiteren technischen Fortschritt, etwa bei der Entwicklung neuer Medikamente, massiv zu beschleunigen.
Dieser Artikel wurde erstmals im kostenpflichtigen Angebot von handelszeitung.ch veröffentlicht. Blick+-Nutzer haben exklusiv Zugriff im Rahmen ihres Abonnements. Weitere spannende Artikel findest du unter www.handelszeitung.ch.
Dieser Artikel wurde erstmals im kostenpflichtigen Angebot von handelszeitung.ch veröffentlicht. Blick+-Nutzer haben exklusiv Zugriff im Rahmen ihres Abonnements. Weitere spannende Artikel findest du unter www.handelszeitung.ch.
Doch die Technik birgt auch gesellschaftliche Gefahren. Im Gespräch mit der «Handelszeitung» warnt Kass davor, dass eine zu hohe Automatisierung die Gefahr birgt, dass Menschen den Bezug zur Arbeit verlieren.
Blick: Die Einschätzungen zu den Folgen der künstlichen Intelligenz (KI) gehen auseinander. Einige sagen, dass wir trotz den eindrücklichen Anwendungen bei den Produktivitätszahlen bisher wenig sehen. Was sagen Sie dazu?
Zack Kass: Die Produktivitätszahlen sind bemerkenswert. Allein der US-Börsenindex S&P 500 hat seit der Einführung von GPT-4 um 6 Billionen Dollar an Marktkapitalisierung zugelegt. Das liegt daran, dass die Einnahmen der Tech-Unternehmen explodiert sind und sich ihre Betriebskosten dank KI verbessert haben. Das sind frühe Anzeichen dafür, dass KI branchenübergreifend tiefgreifende Auswirkungen sowohl auf die Einnahmen als auch auf die Betriebskosten haben wird.
Das sind die Unternehmen, die selbst an KI arbeiten, zum Beispiel Google, Microsoft oder Meta. Welches sind die Auswirkungen darüber hinaus, etwa in der Industrie?
Dort zeigen sich die Wirkungen bisher noch weniger. Aber wir stehen erst am Anfang. Wir werden unglaubliche Ergebnisse sehen. Pharmaunternehmen wie Moderna zum Beispiel haben kürzlich angekündigt, die Arzneimittelforschung ebenfalls mit KI zu betreiben.
Wie beurteilen Sie weitere Folgen der KI-Entwicklung für die Gesellschaft?
Ich bin Optimist, aber auch Historiker. Heute ist der beste Tag der Geschichte, um geboren zu werden. Und morgen ist ein noch besserer Tag, und es gibt keinen Grund, daran zu zweifeln, dass das so weitergeht. Unsere Lebensqualität wird weiter stark zunehmen.
Was sind die gesellschaftlichen Kosten?
Diese Entwicklung wird nicht ohne grosse gesellschaftliche Kosten bleiben. Wir stehen ja erst am Anfang. Meine grösste Sorge ist, dass KI letztlich zu dem führt, was meine Theorie der Idiokratie ausdrückt.
Die Herrschaft der Idiotie. Was meinen Sie damit?
Gemeint ist die Vorstellung, dass wir alle unsere Probleme lösen werden, dadurch aber nur dümmer werden. Und ich habe auch eine Theorie der Identitätsverdrängung. Sie besagt, dass wir am Ende so viel von unserer Arbeit automatisieren werden, dass wir die Identität verlieren werden, die uns unsere Jobs aktuell noch geben. Das wird unserem kollektiven Selbstverständnis schaden.
Kann das auch ein Risiko für die Gesellschaft sein, weil das den politischen Extremismus befeuert?
Ja, ich denke, das ist möglich.
Und doch sind Sie unter dem Strich optimistisch?
Ja, ich denke, wenn wir den Wert der neuen Technologie und ihre Bedeutung erkennen, dann lohnt es sich, auf die Risiken und Kosten einzugehen. Wir werden eine Reihe von schlimmen Krankheiten heilen können. Wir stehen kurz davor, Quantencomputer, Nanotechnologie und Fusionsenergie zu entwickeln. Wir werden die Langlebigkeit in einigen Fällen verbessern. Viele unglaubliche Dinge kommen auf uns zu.
Unser Gespräch findet in der Schweiz statt. Wie beurteilen Sie die Entwicklung der KI oder der Technologie in der Schweiz im Allgemeinen?
Die Schweiz hat eine Reihe von offensichtlichen wirtschaftlichen Vorteilen. Sie ist ein sehr wohlhabendes Land und bietet einen aussergewöhnlich hohen Lebensstandard. Aber die Schweiz hat auch einige Nachteile.
An welche Nachteile denken Sie?
Sie ist ein eher konservatives Land und die Kultur ist eher risikoscheu. Hier ist man weniger als andernorts geneigt, Startups in der Frühphase zu gründen. Aber ich denke, dass die Kosten für den Aufbau von Unternehmen sinken werden, so dass Risikokapital in der Frühphase weniger wichtig wird. Das könnte der Schweiz helfen.
Was bedeutet Ihre Einschätzung für die wirtschaftliche Zukunft der Schweiz?
Dass die Schweiz in Sachen digitale Wirtschaft nicht führend ist, bedeutet nicht, dass sie in der neuen Ära schlecht abschneiden wird. Menschen werden sich weiterhin für aussergewöhnliche Orte entscheiden. Mit ihrem extrem hohen Lebensstandard und ihrem aussergewöhnlichen Bildungssystem ist die Schweiz genau so ein Ort. Diese Elemente werden den Erfolg der Schweiz in den nächsten hundert Jahren bestimmen – mehr noch als ihre Kapitalmärkte.
Sprechen wir über den strategischen Wettbewerb zwischen China und den USA. Welche Rolle spielt hier die KI, und welche Risiken ergeben sich hier aus der technologischen Entwicklung?
Ich sehe in Bezug auf KI hier kein Wettrennen. Je mehr wir KI als Wettrennen betrachten, desto ungesunder der Wettbewerb, den wir auslösen. Wir sollten damit beginnen, bei diesem Thema das kollektive Interesse zu betonen. Es war schon immer eine Fiktion, dass Erfinder von neuen Technologien die einzigen Nutzniesser bleiben. Gewinnerin war immer die gesamte Menschheit.
Also kein Risiko durch die strategische Konkurrenz der Supermächte?
Ich weigere mich, das Narrativ zu nähren, dass wir auf einen verheerenden Wettstreit zusteuern. Wir vernachlässigen die Entwicklung des Überflusses. Wir bewegen uns nicht mehr in einer Welt, in der die Ressourcen knapp sind, in der wir wirtschaftlich um diese konkurrieren müssen.
Kommen wir zu den Folgen der KI für Unternehmen. Welche Risiken sehen Sie hier für die Datensicherheit, und was würden Sie Unternehmen empfehlen, worauf sollten sie besonders achten?
Ich denke, gute CEOs sollten sich klar werden, wo die Kernkompetenzen ihrer Unternehmen sind und wo sie sich mit ihren Anwendungen von der Entwicklung der gesamten Branche abgrenzen müssen, denn dort wird es immer mehr generelle Lösungen geben. Es war schon immer die Folge von technologischen Entwicklungen, dass vieles, was einzigartig war, für alle breit zugänglich wird.
Wie schnell wird KI auch in Bereiche Einzug halten, die bisher vor allem von Handarbeit geprägt wurde?
Unsere humanistischen Qualitäten und die Leistungen, die wir mit unseren Händen vollbringen können, werden in naher Zukunft die herausragenden Vorteile von uns Menschen bleiben. Roboter sind sehr weit davon entfernt, hervorragende Tischlerarbeiten zu verrichten oder so zu kochen, dass sie dafür einen Michelin-Stern erhalten. Das würden wir wohl auch nicht wollen.
Welche «humanistischen Qualitäten» meinen Sie?
Roboter sind auch weit davon entfernt, wirklich intuitiv, mutig oder weise zu sein. Ich glaube, dass sich die Welt in nicht allzu ferner Zukunft dahin entwickelt, dass wir als Menschen sehr viel mehr durch solche Qualitäten definiert werden, sowie durch Kreativität, Einfallsreichtum und Intuition. Wissen dagegen wird durch KI ohnehin für alle unbegrenzt zur Verfügung stehen.
Sie haben für Open AI gearbeitet, das Chat GPT entwickelt hat. Was können Sie uns über deren besondere Kultur erzählen? Letztes Jahr gab es da deutliche Umbrüche, als selbst CEO Sam Altman zwischenzeitlich seinen Posten verloren hat.
Über diese Ereignisse weiss ich nicht mehr als das, was in der Öffentlichkeit darüber berichtet wurde.
Aber Sie kennen die Leute und die Kultur dort besser als Aussenstehende.
Solche Dinge können in allen Unternehmen geschehen. Der Erfolg eines Unternehmens wird ohnehin nicht dadurch definiert, ob es in eine Krise gerät oder nicht, sondern dadurch, wie es auf diese Krise reagiert. OpenAI hat in diesem Prozess aussergewöhnliche Solidarität gezeigt und eine Ausrichtung auf seine Grundwerte bewiesen.
Wie es scheint, gehen kleinere Unternehmen wie OpenAI oder Mistral in Frankreich mit Innovationen voran. Doch am Ende übernehmen grosse und finanzkräftige Konzerne – wie in diesem Fall Microsoft – das Ruder. Das erinnert an die Pharmabranche. Wie geht das Ihrer Ansicht nach weiter?
Was am Ende Erfolg hat, ist nicht so offensichtlich, wie viele Leute vielleicht denken. Es hat sehr viel Raum für Menschen, die mit ihren Modellen aussergewöhnlich wertvolle Dinge produzieren können.
Sprechen wir auch über das Thema Bildung. Was müssen wir hier ändern im Vergleich dazu, wie wir bisher vorgingen?
Die Bildung erfindet sich grundlegend neu, und wir werden eine Bewegung hin zu einem neuen Paradigma sehen, das durch eine Trennung zwischen reiner Wissensvermittlung und sozialem Lernen definiert wird.
Glauben Sie, dass das Schulsystem in der Lage ist, sich schnell genug an die neuen Anforderungen anzupassen?
In den USA sehen wir einen jährlichen Zuwachs von sieben Prozent bei Mikroschulen und Home-Schooling, weil die Menschen den Glauben an das traditionelle Schulsystem verloren haben. Die Zeit ist also reif für eine Neuausrichtung des gesamten Prozesses.
Lässt sich durch den Zugang zu Wissen über KI auch die Chancengleichheit steigern – oder ist das Gegenteil der Fall, weil nicht alle den gleichen Zugang zu KI haben?
Weil der Zugang zu KI und vielem anderen billiger wird, werden wir viel mehr Gleichheit erreichen. Das haben wir schon beim Internet gesehen, und bei KI wird das noch viel stärker der Fall sein. Jedes Mal, wenn die Kosten einer kritischen Ressource gegen null tendiert haben, haben wir eine Explosion der wirtschaftlichen Möglichkeiten gesehen.
Was ist Ihre Ansicht zur Regulierung von KI. Was ist wirklich notwendig? Und geht man heute angemessen vor?
Es gibt drei Dinge, die wir regulieren sollten. Erstens müssen wir sicherstellen, dass die neuen Modelle sich an unseren menschlichen Werten orientieren. Zweitens müssen die Modelle erklärbar sein, und wir müssen ein klares Verständnis dafür haben, warum sie die Entscheidungen treffen, die sie treffen. Und drittens müssen wir verhindern, dass KI für schlechte Dinge eingesetzt wird.