Le côté obscur de l'IA : l'impact dévastateur de la pornographie "deepfake" en Corée du Sud

Comment les images manipulées détruisent des vies et remettent en cause la justice à l'ère numérique.

L'année était 2021 lorsque le téléphone de Ruma a vibré avec une avalanche de notifications. Les messages étaient un cauchemar. Des photos de son visage, prises sur les réseaux sociaux, avaient été savamment greffées sur des corps nus et partagées dans une salle de discussion Telegram. Les commentaires étaient vulgaires et dégradants, reflétant les messages de l'expéditeur anonyme. Ce fut l'introduction de Ruma au monde terrifiant de la pornographie deepfake, une crise naissante en Corée du Sud.

Bien que le revenge porn existe depuis des années, l'avènement d'outils d'IA sophistiqués a fait de n'importe qui une victime potentielle. En Corée du Sud, un pays avec une histoire troublée de crimes sexuels numériques, la technologie deepfake a créé une nouvelle vague de terreur, en particulier dans les écoles. Selon le ministère de l'Éducation du pays, plus de 900 élèves, enseignants et membres du personnel ont été victimes de crimes sexuels deepfake entre janvier et début novembre de l'année dernière. Cela n'inclut même pas les universités, qui ont également connu une recrudescence des attaques. En réponse, le gouvernement a créé un groupe de travail d'urgence et de nouvelles lois ont été adoptées avec des sanctions plus sévères.

L'Agence nationale de la police a exhorté les agents à éradiquer ces crimes, mais les arrestations sont rares. Selon une déclaration de la police nationale de Séoul, sur 964 cas signalés l'année dernière, seules 23 arrestations ont été effectuées. Cela a conduit certaines victimes, comme Ruma, à prendre les choses en main. Ruma, avec l'aide de la militante Won Eun-ji, a infiltré la salle de discussion où ses images deepfake circulaient, recueillant des informations et coordonnant avec la police. Leurs efforts ont conduit à l'arrestation de deux anciens étudiants de l'Université nationale de Séoul, le principal auteur ayant été condamné à neuf ans de prison. Cependant, le combat pour la justice continue.

Kim, une enseignante de lycée, a subi le traumatisme de première main lorsque des images manipulées d'elle ont été partagées en ligne. La technologie sophistiquée a créé des images d'un réalisme troublant. La seule option de la police était de demander des informations sur l'utilisateur à X (anciennement Twitter). Frustrée par la lenteur du processus, Kim et une collègue ont lancé leur propre enquête, identifiant finalement l'auteur. Kim a exprimé sa frustration face au manque d'empathie du public, soulignant l'attitude prévalente selon laquelle les deepfakes ne sont pas un crime grave.

Won Eun-ji, la militante, souligne qu'un changement sociétal est nécessaire. Le partage et la visualisation de contenu sexuel de femmes n'ont pas été considérés comme une infraction grave pendant longtemps en Corée du Sud. Elle décrit le système comme une "humiliation de connaissance", où les auteurs partagent des photos et des informations personnelles, connaissant souvent les maisons et les familles de leurs victimes. Depuis 2020, la lutte contre les crimes sexuels numériques est une bataille constante d'écosystèmes qui se rétrécissent et s'étendent. Les victimes réclament des sanctions plus sévères pour les auteurs et exigent des mesures de la part des plateformes en ligne.

Telegram a subi une pression accrue pour agir, y compris l'arrestation de son PDG Pavel Durov en France. Telegram a accepté d'augmenter le partage de données avec les autorités, bien que Won reste sceptique quant à l'engagement de l'entreprise. Une percée est survenue en janvier dernier, lorsque les autorités coréennes ont réussi à obtenir des données de Telegram, entraînant l'arrestation de 14 personnes. Le réseau criminel avait ciblé plus de 200 victimes. Malgré ces avancées, les victimes comme Ruma aspirent à un plus grand soutien de la part de la police et des tribunaux, soulignant que la véritable justice est encore loin d'être réalisée.