Forscher zum Umgang mit künstlicher Intelligenz

«Wir müssen Roboter wie Kinder erziehen»

Google stellt mehr und mehr Entwickler ein, die sich mit künstlicher Intelligenz (KI) befassen. Am Dienstag eröffnet der Suchmaschinen-Gigant in Zürich ein neues Büro. Auch Jürgen Schmidhuber
arbeitet eng mit Google Zürich zusammen. Seine Algorithmen stecken in der Spracherkennung aller Android-Handys. Der Deutsche ist Direktor des Schweizer Instituts für künstliche Intelligenz und gehört zu den führenden Forschern weltweit.

Herr Schmidhuber, Sie forschen zu künstlicher Intelligenz, kurz KI. Sie haben zwei Töchter. Haben Sie väterliche Gefühle, wenn ihr Roboter iCub etwas Neues lernt?
Jürgen Schmidhuber: Na ja, ich bin schon stolz auf ihn, wenn er vorankommt – etwa gelernt hat, einen Gegenstand in eine Schachtel zu legen.

Warum ist iCub einem Kind nachempfunden?
So schaut er lieber aus, das macht ihn sympathischer.

Sie programmieren Roboter mit Lern-Algorithmen auf bestimmte Tätigkeiten. Was können sie bereits?
Noch sind Roboter recht dumm und nur in einzelnen Bereichen dem Menschen überlegen – zum Beispiel beim Schachspielen oder bei der Erkennung bestimmter Muster, etwa in der Krankheitsdiagnose.

Wann rechnen Sie mit dem nächsten grossen Fortschritt?
In nicht allzu vielen Jahren könnten wir tierähnliche KI erreicht haben. Dann wird es wohl nicht mehr lange dauern, bis wir erstmals bei einer mit menschlicher Intelligenz vergleichbaren KI angelangt sind. Die technische Evolution läuft viel schneller ab als die biologische. In nicht sehr ferner Zukunft wird sich diese Entwicklung verselbständigen und KI das Weltall kolonisieren.

Was treibt diese Entwicklung an?
Zum einen der Fortschritt bei der Hardware: Computer werden seit 1941 alle fünf Jahre zehnmal schneller und billiger. Zum anderen werden die Lern-Algorithmen immer besser. Unsere Roboter haben Lust und Freude am Erkenntnisgewinn. Sie erhalten Belohnungen für Experimente, durch die sie etwas über die Welt lernen, was sie noch nicht wussten. Der simple Lebenszweck unserer KI ist, die Summe der Belohnungen zu maximieren und die Summe der Schmerzsignale zu minimieren.

Die Roboter – eine Spassgesellschaft?
Das Prinzip der Lustmaximierung und Schmerzvermeidung gilt nicht nur für uns Menschen.

Wie sehen Freude und Schmerz eigentlich bei Robotern aus?
Das sind lediglich unerwünschte negative Daten von Schmerzsensoren, die sich melden, wenn der Roboter an Hindernisse stösst oder Hunger hat, weil seine Batterie fast leer ist. Freudensignale sind positive Zahlen. Unsere Roboter erlernen zum Beispiel ein Modell der Welt, um besser vorherzusagen, was passiert, wenn sie irgendwas tun. Verbessert sich das Weltmodell, kann man diesen Fortschritt messen und in einen Glücksmoment in Form eines positiven Freudensignals übersetzen. Dadurch motiviert man den belohnungsmaximierenden Roboter, Experimente auszuführen, die Erkenntnisgewinn bringen.

Dennoch haben manche Menschen Angst vor der Künstlichen Intelligenz und fordern Grenzen für die Forschung. Wo liegen die?
Es gibt ja sowieso mathematische und physikalische Grenzen. Für bestimmte Probleme gibt es keine berechenbare Lösung, da können weder Menschen noch Maschinen etwas tun. Ein Beispiel für eine bekannte physikalische Grenze: Mit einem Kilogramm Materie kann man höchstens 1’000’000’000’000’000’000’000-mal so viele elementare Rechnungen pro Sekunde ausführen wie alle menschlichen Gehirne zusammen.

Moralische Grenzen gibt es nicht?
Sie meinen, ob man eine KI einfach abschalten darf, wenn sie einmal klüger ist als der Mensch?

Ich meine eher: Werden die Roboter Menschen versklaven – wie in manchen Filmen?
Kaum. Wir Menschen geben miserable Sklaven ab. Wir versklaven ja auch keine Ameisen, obwohl wir klüger sind. Und für die KI werden wir ein wenig wie Ameisen sein.

Aber man tritt auf sie – aus Versehen oder mit Absicht.
Eltern rügen ihr Kind, wenn es mit einem Brennglas Ameisen versengt. Wir müssen KI eben wie unsere Kinder erziehen, achtsam zu sein und wertvolle Mitglieder der Gesellschaft zu werden. Der Grundsatz, dass derjenige, der andere gut behandelt, selbst gut behandelt wird, gilt auch hier.

Dennoch muss man sich fragen, was geschieht, wenn Roboter fähig werden zu töten.
95 Prozent der KI-Forschung zielen darauf ab, die Menschen gesünder und glücklicher und abhängiger von ihren Smartphones zu machen. Aber natürlich gibt es auch fünf Prozent Militärforschung. Man muss sich dessen bewusst sein und versuchen, frühzeitig gegenzusteuern, wenn die Dinge ausufern.

Ein Krieg zwischen Mensch und Maschine ist unwahrscheinlich?
Ja. Zielkonflikte wie in Filmen der Sorte «Matrix» und «Terminator» sind unrealistisch. Denn Zielkonflikte entstehen vor allem zwischen denen, die sich ähnlich sind. Deshalb ist auch der Mensch des Menschen ärgster Feind.

Kann es auch Konflikte zwischen verschiedenen KI geben?
Klar, schon im letzten Jahrtausend hatten wir kleine, simple KI. Sie lernten zusammenzuarbeiten, um Probleme zu lösen, oder sich im Wettbewerb zu streiten – etwa bei der Robocup-Fussballweltmeisterschaft.

Machen uns die Roboter nicht bald unsere Jobs streitig?
Irgendwann werden Roboter viele Dinge erledigen, die heute Menschen tun. Sie werden Smartphones zusammenbauen und Brombeeren pflücken. Wir Menschen üben ja schon heute vor allem Luxusberufe aus, die nicht überlebensnotwendig sind, wie etwa Reporter oder Wissenschaftler.

Dennoch: Viele Jobs werden wegfallen ...
... und viele neue entstehen. Ich vermute aber, dass die Idee des bedingungslosen Grundeinkommens – mit der ich sympathisiere – immer mehr Anhänger finden wird. Roboterbesitzer werden Steuern zahlen müssen, um die Mitglieder unserer Gesellschaft zu ernähren, die keine existenziell notwendigen Jobs mehr ausüben. Wer dies nicht bis zu einem gewissen Grad unterstützt, beschwört geradezu die Revolution Mensch gegen Maschine herauf.

Viele werden sagen, Sie spielen die Rolle eines Schöpfers. Sie spielen Gott.
Es gibt keinen Grund, warum wir Menschen die Krone der Schöpfung bleiben sollten. Unsere Forschung dient als Steigbügelhalter für das Universum, das bald eine neue Stufe von Komplexität erklimmen und intelligent werden will.

Warum betreiben Sie überhaupt diese Forschung? 
Als Bub überlegte ich mir, wie sich am meisten bewirken lässt. Damals wurde mir klar, dass ich die grösste Wirkung entfalte, indem ich etwas baue, was klüger ist als ich.

Sie waren auch Grafiker. Haben Sie Ihren Robotern künstlerische Fähigkeiten mitgegeben?
Neugier und Kreativität in Kunst und Wissenschaft sind getrieben vom selben Prinzip. Komponisten wie Physiker haben das Bedürfnis, durch ihre Handlungen neue Muster zu schaffen. Unsere Roboter auch.

Einige Künstler nahmen sich das Leben. Könnte auch eine KI zum van Gogh werden?
Wenn eine KI – wie einst wohl van Gogh – vor allem leidet und keine Aktionssequenz zur Vermeidung der Schmerzen findet, wird sie vielleicht rational feststellen: Wenn ich mich sofort umbringe, dann wird die Summe der Schmerzen, die ich in meinem Leben erleiden muss, kleiner sein, als wenn ich das nicht tue.