El lado oscuro de la IA: el devastador impacto de la pornografía falsa en Corea del Sur

Cómo las imágenes manipuladas están destruyendo vidas y desafiando a la justicia en la era digital.

El año era 2021 cuando el teléfono de Ruma vibró con una avalancha de notificaciones. Los mensajes eran una pesadilla. Fotos de su rostro, tomadas de las redes sociales, habían sido injertadas expertamente en cuerpos desnudos y compartidas en una sala de chat de Telegram. Los comentarios eran vulgares y degradantes, reflejando los mensajes del remitente anónimo. Esta fue la introducción de Ruma al aterrador mundo de la pornografía deepfake, una crisis en auge en Corea del Sur.

Si bien la pornovenganza existe desde hace años, la llegada de sofisticadas herramientas de IA ha convertido a cualquiera en una posible víctima. En Corea del Sur, un país con una problemática historia de delitos sexuales digitales, la tecnología deepfake ha creado una nueva ola de terror, particularmente en las escuelas. Según el Ministerio de Educación del país, más de 900 estudiantes, profesores y personal fueron victimizados por delitos sexuales deepfake entre enero y principios de noviembre del año pasado. Esto ni siquiera incluye a las universidades, que también han experimentado un aumento en los ataques. En respuesta, el gobierno ha establecido un grupo de trabajo de emergencia y se han aprobado nuevas leyes con penas más severas.

La Agencia Nacional de Policía ha instado a los oficiales a erradicar estos delitos, pero las detenciones son escasas. Según un comunicado de la Policía Nacional de Seúl, de 964 casos reportados el año pasado, solo se realizaron 23 arrestos. Esto llevó a algunas víctimas, como Ruma, a tomar cartas en el asunto. Ruma, con la ayuda de la activista Won Eun-ji, se infiltró en la sala de chat donde circulaban sus imágenes deepfake, recopilando información y coordinando con la policía. Sus esfuerzos llevaron a la detención de dos ex alumnos de la Universidad Nacional de Seúl, con el principal perpetrador sentenciado a nueve años de prisión. Sin embargo, la lucha por la justicia continúa.

Kim, una profesora de secundaria, experimentó el trauma de primera mano cuando imágenes manipuladas de ella fueron compartidas en línea. La sofisticada tecnología creó imágenes que eran inquietantemente realistas. La única opción de la policía era solicitar información del usuario a X (anteriormente Twitter). Frustradas por el lento proceso, Kim y una colega iniciaron su propia investigación, identificando finalmente al perpetrador. Kim expresó su frustración por la falta de empatía pública, destacando la actitud prevaleciente de que los deepfakes no son un delito grave.

Won Eun-ji, la activista, enfatiza que se necesita un cambio social. El compartir y ver contenido sexual de mujeres no se consideró un delito grave durante mucho tiempo en Corea del Sur. Describe el sistema como uno de "humillación de conocidos", donde los perpetradores comparten fotos e información personal, a menudo conociendo los hogares y las familias de sus víctimas. Desde 2020, la lucha contra los delitos sexuales digitales ha sido una batalla constante de ecosistemas en contracción y expansión. Las víctimas están presionando por castigos más severos para los perpetradores y exigiendo acción de las plataformas en línea.

Telegram ha enfrentado una mayor presión para actuar, incluida la detención de su CEO Pavel Durov en Francia. Telegram ha aceptado aumentar el intercambio de datos con las autoridades, aunque Won sigue siendo escéptica sobre el compromiso de la empresa. Un avance se produjo este enero, cuando las autoridades coreanas obtuvieron con éxito datos de Telegram, lo que resultó en la detención de 14 personas. La red criminal había atacado a más de 200 víctimas. A pesar de estos avances, víctimas como Ruma anhelan más apoyo de la policía y los tribunales, enfatizando que la verdadera justicia aún está lejos de ser realizada.