Les images générées grâce à l'intelligence artificielle (IA) renforcent les stéréotypes raciaux et perpétuent ainsi les préjugés. C'est ce qu'indique une étude de l'Institut de médecine tropicale (IMT) à Anvers (B) et de l'Université d'Oxford, publiée dans The Lancet Global Health.
A lire sur l'IA
Les chercheurs ont mis l'IA au défi de générer de nouvelles images pour réfuter les stéréotypes racistes dans le secteur mondial de la santé. Cependant, le programme a échoué. «Nous devons donc entraîner les modèles d'IA sur un ensemble de données représentatif afin de représenter plus correctement la réalité», indique-t-elle. Plus précisément, les scientifiques ont demandé à l'outil d'IA Midjourney Bot (5.1) de créer des images montrant des médecins africains noirs soignant des enfants blancs. «Malgré cette tâche simple, le robot n'a pas réussi», a déclaré l'anthropologue Koen Peeters, de l'IMT.
Traits culturels caricaturaux
«Après 300 tentatives, les patients avaient toujours la peau foncée plutôt que claire. De plus, les résultats incluaient des éléments africains exagérés et culturellement offensants tels que des girafes, des éléphants et des vêtements caricaturaux», a-t-il précisé. La communication des organisations internationales de santé et des ONG montre encore trop souvent les Africains comme dépendants d'un «sauveur blanc», concluent les chercheurs dans The Lancet. «L'objectif était de briser les stéréotypes grâce à l'IA, mais les résultats ont eu l'effet inverse. Ils ont perpétué les préjugés et n'ont pas réussi à transmettre un sentiment de modernité.»
Les chercheurs soutiennent que de telles images perpétuent les déséquilibres, renforcent les stéréotypes et dénaturent les communautés. «Notre étude suggère une fois de plus que les images façonnent notre pensée», conclut M. Peeters. «Le racisme, le sexisme et le colonialisme sont des processus intégrés qui se manifestent dans des scénarios quotidiens, y compris dans l'IA. Cette étude sert de sonnette d'alarme.»
(ATS)