Темная сторона искусственного интеллекта: поддельная порнография в Южной Корее

Как манипулируемые изображения разрушают жизни и ставят под сомнение справедливость в цифровую эпоху.

В 2021 году телефон Румы зажужжал от потока уведомлений. Сообщения были кошмарными. Фотографии ее лица, взятые из социальных сетей, были умело наложены на обнаженные тела и распространены в чате Telegram. Комментарии были вульгарными и унизительными, отражавшими сообщения от анонимного отправителя. Это было знакомство Румы с ужасающим миром дипфейк-порнографии, растущим кризисом в Южной Корее.

В то время как месть порно существует уже много лет, появление сложных инструментов искусственного интеллекта (ИИ) сделало любого потенциальной жертвой. В Южной Корее, стране с проблемной историей цифровых сексуальных преступлений, технология дипфейков создала новую волну террора, особенно в школах. По данным министерства образования страны, более 900 студентов, учителей и сотрудников стали жертвами дипфейк-сексуальных преступлений в период с января по начало ноября прошлого года. Это даже не включает университеты, где также наблюдался всплеск атак. В ответ правительство учредило чрезвычайную оперативную группу, и были приняты новые законы с более суровыми наказаниями.

Национальное полицейское агентство призвало офицеров искоренить эти преступления, но аресты редки. Согласно заявлению Сеульской национальной полиции, из 964 зарегистрированных случаев в прошлом году было произведено только 23 ареста. Это побудило некоторых жертв, таких как Рума, взять дело в свои руки. Рума, с помощью активистки Вон Ын-джи, проникла в чат, где распространялись ее дипфейк-изображения, собирая информацию и координируя свои действия с полицией. Их усилия привели к аресту двух бывших студентов Сеульского национального университета, а главный преступник был приговорен к девяти годам тюремного заключения. Однако борьба за справедливость продолжается.

Ким, учительница средней школы, испытала травму на себе, когда манипулированные изображения с ее участием были распространены в сети. Сложная технология создавала изображения, которые были до жути реалистичными. Единственным вариантом для полиции было запросить информацию о пользователях у X (ранее Twitter). Разочарованные медленным процессом, Ким и ее коллега начали собственное расследование, в конечном итоге идентифицировав преступника. Ким выразила свое разочарование отсутствием сочувствия со стороны общественности, подчеркнув преобладающее отношение, что дипфейки – это не серьезное преступление.

Вон Ын-джи, активистка, подчеркивает необходимость смены общественного сознания. Обмен сексуальным контентом женщин и его просмотр долгое время не считались серьезным преступлением в Южной Корее. Она описывает систему как систему «унижения знакомых», когда преступники делятся фотографиями и личной информацией, часто зная дома и семьи своих жертв. С 2020 года борьба с цифровыми сексуальными преступлениями была постоянной битвой за сокращение и расширение экосистем. Жертвы добиваются более суровых наказаний для преступников и требуют действий от онлайн-платформ.

Telegram столкнулся с усилением давления с целью принятия мер, включая арест его генерального директора Павла Дурова во Франции. Telegram согласился увеличить обмен данными с властями, хотя Вон остается скептически настроена по поводу приверженности компании. Прорыв произошел в январе этого года, когда корейские власти успешно получили данные от Telegram, что привело к аресту 14 человек. Преступная группа нацелилась на более чем 200 жертв. Несмотря на эти достижения, жертвы, такие как Рума, жаждут большей поддержки со стороны полиции и судов, подчеркивая, что настоящая справедливость еще далека от реализации.