Die Nutzung von künstlicher Intelligenz in der militärischen Anwendung wird in Schweizer Hochschulen entwickelt. Diese halten sich jedoch oft bedeckt über die Nutzung ihrer Technologien. Ein besonders eklatantes Beispiel liefert die EPFL in Lausanne: Weder der langjährige Direktor des NCCR Robotics, Dario Floreano, noch die Leiterin des von mit öffentlichen Geldern finanzierten NTN Robotics, Aude Billard, wollen Stellung nehmen. Sie wüssten nicht, inwiefern Technologien wie Drohnen-Schwärme militärisch eingesetzt würden, erklären die führenden Forschenden.
Militär-Kooperationen müssen an der EPFL genehmigt werden und Forschende die sogenannten Dual-Use-Richtlinien des Bundes einhalten. Doch diese seien für neuste Technologien veraltet, sagt Marcello Ienca. Er forscht in Lausanne zur Ethik von intelligenten Systemen. «In den 2020er-Jahren ist es nicht mehr möglich, eine klare Linie zwischen zivilen und militärischen Technologien zu ziehen», sagt er. «Exportkontrollen greifen bei KI kaum, weil sie nur auf ausgearbeitete Anwendungen fokussieren, nicht auf die dafür notwendigen Algorithmen. Man kann Software weitergeben, die dann anderswo für Waffensysteme verwendet wird.»
Dilemma zwischen freier Forschung und Missbrauch
«Für Software gelten die gleichen Verweigerungskriterien der Güterkontrollgesetzgebung wie bei Waren», schreibt das Staatssekretariat für Wirtschaft Seco. Dies gilt für Dual-Use-Güter, die sowohl zivil als auch militärisch eingesetzt werden. KI wird nicht explizit genannt; Grundlagenforschung ist grundsätzlich davon ausgenommen. Forschung in der Schweiz folgt dem Open-Science-Prinzip, Resultate sollen der Öffentlichkeit zur Verfügung stehen. Das ist ein Dilemma. «Welche Anwendungen in Zukunft einmal auf diesen Erkenntnissen beruhen werden, kann nicht vorausgesagt werden», schreibt auch der Schweizerische Nationalfonds SNF, der viel Forschung unterstützt.
«Tödliche autonome Waffen treiben das Dilemma zwischen freier Forschung und möglichem Missbrauch auf die Spitze, weil es so direkt Leben und Tod geht», erklärt Ienca. «Es gibt einen Konsens unter Ethikern, dass wir keine Maschinen bauen sollten, die darüber autonom entscheiden. Ich denke nicht, dass in der Schweiz irgendjemand absichtlich an solchen Systemen arbeiten würde.» Aber: «Auch Forschung mit den besten Intentionen kann von Dritten für kriegerische oder kriminelle Zwecke missbraucht werden.»
Forschende, die von Militärinstituten Geld erhalten, müssten das offenlegen – und erklären, wie sie mit Interessenskonflikten umgehen, so Ienca. Die Universitäten bräuchten Sicherheitstrainings, wie sie in der chemischen und biologischen Forschung längst etabliert seien.
Bisher keine flächendeckenden Massnahmen
Flächendeckende Massnahmen gibt es hierzulande keine. Die Universität Zürich hat einen Sensibilisierungsplan für Forschende, aber keine verpflichtenden Trainings. Die EPFL hat obligatorische Ethik-Kurse für neue Studierende – für bestehende Teams sind sie freiwillig. Viel hängt also an den einzelnen Professorinnen und Professoren.
Der Rüstungskonzern Elbit Systems hat zwei Ableger in der Schweiz. Die neue Aufklärungsdrohne der Schweiz, der ADS15, stammt aus dem Hause. Die israelische Firma betont, wie hoch das technische Niveau und wie attraktiv die hiesigen Forschungszentren sind.
Der SNF fördert auch die Forschungszusammenarbeit der beiden Länder. «Forschung soll so gestaltet werden, dass sie nicht missbraucht werden kann», schreibt er. In Einzelfällen reagiert der SNF von sich aus. Doch liege «die Verantwortung primär bei den Forschenden und ihren Forschungseinrichtungen». Derzeit gebe es kein standardisiertes Selbst-Assessment für Forschende zu solchen Risiken. Der Bund fördert auch die wirtschaftliche Anwendung von Forschung – über Innosuisse. Die öffentliche Innovationsagentur sensibilisiere ihre Gesuchsteller, die Einhaltung der rechtlichen Vorschriften liege aber bei den Unternehmen: «Innosuisse kann dafür keine Verantwortung übernehmen.»
Freie Forschung braucht klaren Rahmen
Vom Bund gibt es Leitfäden, Verpflichtungen hingegen nicht. «Die Hochschulen und ihre Forschenden sind für die wissenschaftliche Integrität zuständig», schreibt das Staatssekretariat für Bildung, Forschung und Innovation SBFI. «Dies wird sehr unterschiedlich gehandhabt.»
Damit Forschung frei sein kann, braucht es einen möglichst klaren Rahmen. Derzeit scheint es so, dass die Politik sich nicht zuständig fühlt, sondern die Verantwortung abschiebt – an einzelne Professoren und Unis, die eigentlich Grundlagenforschung für einen guten Einsatz betreiben wollen.
Es ist eine Schweizer Strategie: Beide Augen zudrücken, das Beste hoffen und dann öffentlich bedauern, wenn Armeen anderer Länder Waffen einsetzen.
