Seit Corona wird digitalisiert und programmiert, was das Zeug hält, neue Datenberge angezapft und damit selbstlernende Maschinen gefüttert. Was früher Jahre gebraucht hätte, passiert nun in Monaten. Das Virus hat uns um Jahre in die digitale Zukunft katapultiert. Nur eines wurde dabei vergessen: die Ethik.
Wer sich vor der Pandemie noch gegen die Digitalisierung gewehrt hat, muss nun digital bezahlen, shoppen und sich virtuell mit Freunden und Kollegen austauschen. Der zwangsdigitalisierte Pandemie-Mensch hat Virus-Tracking-Software, Video-Konferenz-Tools, Zahlungs-Apps und neue soziale Netzwerke installiert, alles einfach bedienbar über Gesichtserkennung. Ausser man ist eine schwarze Frau.
Dass Gesichtserkennungs-Systeme schwarze Menschen und vor allem schwarze Frauen diskriminiert, hat Timnit Gebru aufgedeckt – selber dunkelhäutig und eine Forscherinnen-Ikone auf dem Gebiet der digitalen Ethik. In den USA sind bereits mehrere schwarze Menschen wegen fehlerhafter Gesichts-Software zu Unrecht verurteilt worden.
Algorithmen diskriminieren aber nicht nur Minderheiten und Frauen. Mit der Auslagerung des Büros ins Homeoffice ist beispielsweise auch Spionage-Software zu Hause eingezogen. Die Überwachung im Homeoffice hat zugenommen. Es geht so weit, dass Software bei Vorgesetzten einen Burnout-Alarm auslöst, wenn die Sprache der Mitarbeiterin in internen Chats sich verändert, also auch Daten über die mentale Gesundheit zuspielt.
Natürlich spüren die Menschen dies. Forschungen der Universität Oxford ergaben, dass 88 Prozent der Menschen in Europa wollen, dass künstliche Intelligenz (KI) sorgfältig gehandhabt wird, weil sie der Gesellschaft grossen Schaden zufügen kann. KI hätte das Potenzial, das Leben aller Menschen enorm zu verbessern. Die Realität sieht anders aus.
Müll rein, Müll raus
Heute produzieren unsorgfältig ausgewählte, diskriminierende Daten diskriminierende Systeme. Neue Studien mit Bild-Erkennungs-Software, unter anderem von Google, haben gezeigt, dass diese die sexistischen, rassistischen Ideen im Internet übernehmen. Anders als noch vor ein paar Jahren lernen diese Systeme seit 2020 unbeaufsichtigt, also ohne die Hilfe von Menschen. Da das Internet voller Bilder von halbnackten Frauen ist, lernt künstliche Intelligenz fälschlicherweise, dass Frauen kaum Kleider tragen. Würde sie die Köpfe der Bundesräte automatisch komplettieren, hätten wir drei Frauen in Bikinis und vier Männer in Anzügen auf dem Bundesratsfoto. Diese Bild-Software hat wiederum Auswirkungen auf viele weitere visuelle Anwendungen, beispielsweise auch auf digitale Job-Interviews.
Sag mir, wie du sprichst, und ich sag dir, wer du bist
Zurück zu Timnit Gebru. Die KI-Ethikerin kritisierte nicht nur den ökologischen Irrwitz der gigantischen stromfressenden Google-Sprachmodelle, sie zeigte im Pandemie-Jahr auch auf, wie unkontrollierbar sie geworden sind. Sie wies darauf hin, wie gefährlich es ist, wenn sprachliche Vorurteile im Code übernommen werden. Wenn künstliche Intelligenz lernt, das Wort «Männer» mit «Karriere» zu kombinieren und «Frauen» mit «Schlampen», was für Texte wird dann diese Maschine schreiben? Das Training der Google-Sprachmodelle beruhte zudem auf Daten der Plattform Reddit. Aber 67 Prozent der Reddit-Nutzer sind männlich. All dies kritisierte Gebru.
Aufstand der Tech-Ethikerinnen
Damit griff die Chefethikerin von Google das eigene lukrative Produkt an. Die Folge: Sie wurde vor wenigen Monaten gefeuert. Vor ihr musste bereits eine andere Ethikerin gehen: Meredith Whittacker organisierte damals die Mitarbeiterproteste gegen die Zusammenarbeit mit dem US-Militär und kritisierte die Übermacht der Google-KI-Systeme. Und letzte Woche wurde auch Margaret Mitchell entlassen, die dritte prominente und unbequeme KI-Ethikerin bei Google. Dass der Job der Technologie-Ethikerin ein Schleudersitz geworden ist, zeigt: Die Systeme sind zu gross und gefährlich geworden, als dass sie konstruktiv korrigiert werden könnten.
Die Selbstkontrolle der Tech-Giganten hat versagt. Auch dank Gebru ist in den USA die Politik aktiv geworden. Sie will Vorgaben zu Algorithmen machen und prüft eine Zulassungsbehörde für Algorithmen ähnlich wie im Gesundheitsbereich. Das alles wird dauern. Gewissenlose Anwendungen sind aber bereits auf unserem Handy. Es ist zu hoffen, dass allein die Regulierungs-Androhungen den Menschen wieder mehr in den Mittelpunkt der Technologie rücken werden. #aufbruch
Patrizia Laeri (43) ist Wirtschaftsjournalistin des Jahres und TopVoice LinkedIn DACH. Sie ist Beirätin im Institute for Digital Business der HWZ. Sie schreibt jeden zweiten Mittwoch im BLICK.