Une fois de plus, la démocratisation de l’intelligence artificielle a rendu l’impossible possible. Mais le progrès est-il toujours positif? À chaque prouesse technologique, la question se pose avec encore un peu plus d'acuité. Particulièrement troublant, l'exemple ci-dessous ne fait pas exception à la règle. Il se passe sur TikTok et rencontre un engouement morbide.
Depuis mars 2023, des vidéos créées pour le réseau social racontent l’histoire d’enfants morts dans de terribles circonstances. Assez classique jusqu'ici. Le hic? Les créateurs de contenu utilisent l’intelligence artificielle pour animer des photos des petites victimes. Les enfants mis en scène narrent alors – de leur propre bouche – la manière dont ils ont été enlevés, violés, battus, tués…
Résultat: les images sont réalistes. Les témoignages, glaçants. Le mode opératoire… questionnable. Blick fait le point.
Sur l'intelligence artificielle
La célèbre affaire du petit Grégory
Parmi les contenus partagés sur la plateforme vidéo, on retrouve le petit Grégory Villemin, retrouvé mort le 16 octobre 1984 dans une rivière des Vosges. Ses traits s’animent, guidés par l’intelligence artificielle. Il raconte: «Le 16 octobre 1984, à l'âge de quatre ans, je disparais. Mon corps est retrouvé pieds, mains et tête liés, mon visage dissimulé sous mon bonnet rabattu (...)».
Parmi ces productions, on tombe sur Lola, l’adolescente française dont le corps a été retrouvé dans une malle le 14 octobre 2022. Ou encore Maddie McCann, la fillette britannique disparue en 2007 au Portugal. Des productions comme celles-ci, il y en a déjà des centaines, voire plus. Impossible de quantifier le phénomène avec exactitude.
Ce que l'on peut en revanche constater, c'est que ces types de contenus se sont démultipliés depuis le mois de mars 2023. Parmi les comptes TikTok parcourus par Blick, on retrouve @cultiveetvous, avec 53’400 abonnés, ou encore le compte @etvoicimonhistoire, qui comptabilise 64’100 abonnés.
Et beaucoup d’utilisateurs et utilisatrices de l'application chinoise semblent apprécier. «Bonjour, c'est incroyable le travail que vous faites, quelles applications utilisez-vous? RIP Petit ange», commente l'un d'entre eux sous la vidéo de Grégory. «J’aime bien ce type de vidéos! Les meilleures sur TikTok», réagit une deuxième personne.
Seule une minorité de personnes paraît remettre en question ce qui défile sous ses yeux. «Super respectueux pour la famille», peut-on ainsi lire (et comprendre de manière ironique), au milieu des centaines de commentaires positifs.
Une atteinte à la mémoire des victimes
Alors, devrait-on vraiment encourager les personnes derrière ces comptes, comme le suggèrent la majorité des utilisateurs? Blick a posé la question à Olivier Glassey, sociologue spécialiste des usages du numérique à l'Université de Lausanne, et Nicolas Capt, avocat spécialiste en droit des médias.
Sur TikTok
«Il pourrait s’agir ici d’une atteinte à la mémoire de la victime, réfléchit Olivier Glassey au téléphone. Et la question se pose aussi pour les proches de cette dernière. Cela doit être très violent psychologiquement de voir surgir sur son réseau social de tels contenus qui transforment en marionnette l’image d’un disparu.» Cet intérêt pour des faits divers morbides se ferait donc au détriment du bien-être de la famille des victimes.
C'est aussi l'avis de Nicolas Capt: «Personnellement, je trouve ces contenus parfaitement choquants. Il s'agit d'un irrespect absolu pour les parents et les proches.» L'avocat évoque à ce titre l'article 28 du code civil. «En Suisse, la mort met fin aux droits de la personnalité, il n'y a de ce fait pas d'atteinte aux droits du défunt. Toutefois, l'ordre juridique suisse reconnaît quand même aux proches le droit de défendre l'honneur et l'image des personnes défuntes, dans le cas où ils seraient particulièrement atteints.» Une action en justice semblerait ainsi tout de même possible, par «ricochet».
Le consentement des proches ignoré
Mais certains créateurs pourraient justifier ces productions vidéos, en évoquant le fait que les images du petit Grégory ont déjà fait le tour de la planète. Et ont été commercialisées ou instrumentalisées dans le cadre de documentaires, d'émissions et de fictions. Dans le cas de la célèbre affaire française, une mini-série Netflix a même été réalisée.
En suivant ce raisonnement, le mal serait alors déjà fait. Et une affaire surmédiatisée ne pourrait que difficilement échapper aux reprises douteuses d'internautes. Dépasse-t-on alors vraiment les limites sur l'application chinoise?
«Certes, leur image a été largement diffusée et ces victimes ont largement marqué l'opinion publique, admet Olivier Glassey. Mais là, on les fait parler à la première personne. On exploite leur image, leur parole et leur personnalité. Les émissions qui commercialisent ces faits divers sont en principe encadrées. Les personnes en charge des productions doivent obtenir le droit légal de les réaliser. Et surtout, elles sont responsables vis-à-vis des proches »... contrairement aux contenus sur TikTok.
La réglementation en vigueur est-elle suffisante?
Va-t-on alors continuer pendant longtemps à accepter, voire lancer des fleurs, à ces types de vidéos? Peut-être bien. Il n'existe pour l'instant pas de réglementation particulière encadrant spécifiquement les contenus sur les réseaux sociaux. Le code civil suisse est «parfaitement applicable, autant hors ligne qu'en ligne, indique Nicolas Capt. Parfois, la difficulté vient plus du caractère international des réseaux sociaux, lequel complexifie la mise en œuvre des mesures judiciaires.»
Pour le spécialiste, il est difficile d'affirmer si les réglementations en vigueur sont suffisantes. «L'Europe est en train de développer des outils visant à réguler les réseaux sociaux. Certains disent que la Suisse est à la traîne. Ce qui est sûr, c'est que l'on en reste à des dispositions générales», commente-t-il.
L'application TikTok, quant à elle, censure elle-même ce qu'elle ne trouve pas approprié (les thématiques sur la dépression ou le sexe sont par exemple davantage filtrées). Et son algorithme fait le reste.
Plus une vidéo est appréciée, commentée, likée, plus elle a des chances d'arriver sous les yeux des utilisateurs et utilisatrices de l'application. Autrement dit: si l'on désapprouve les vidéos qui ressuscitent des enfants morts, il faudrait éviter de les mettre sous les projecteurs.
