Mặt Tối của AI: Tác Động Tàn Phá của Nội Dung Khiêu Dâm Deepfake tại Hàn Quốc

Hình ảnh bị thao túng đang hủy hoại cuộc sống và thách thức công lý trong thời đại kỹ thuật số.

Năm 2021, điện thoại của Ruma rung lên với một loạt thông báo. Những tin nhắn là một cơn ác mộng. Những bức ảnh khuôn mặt của cô, được lấy từ mạng xã hội, đã được ghép một cách chuyên nghiệp vào thân thể khỏa thân và chia sẻ trong một phòng chat Telegram. Những bình luận thật thô tục và hạ thấp, phản ánh những tin nhắn từ người gửi ẩn danh. Đây là lần đầu tiên Ruma biết đến thế giới đáng sợ của khiêu dâm deepfake, một cuộc khủng hoảng đang nổi lên ở Hàn Quốc.

Trong khi nội dung khiêu dâm trả thù đã tồn tại trong nhiều năm, sự ra đời của các công cụ AI tinh vi đã biến bất kỳ ai thành nạn nhân tiềm năng. Ở Hàn Quốc, một quốc gia có lịch sử đầy rẫy tội phạm tình dục kỹ thuật số, công nghệ deepfake đã tạo ra một làn sóng kinh hoàng mới, đặc biệt là trong các trường học. Theo Bộ Giáo dục của nước này, hơn 900 học sinh, giáo viên và nhân viên đã trở thành nạn nhân của tội phạm tình dục deepfake từ tháng 1 đến đầu tháng 11 năm ngoái. Con số này thậm chí còn chưa bao gồm các trường đại học, nơi cũng chứng kiến sự gia tăng các vụ tấn công. Để ứng phó, chính phủ đã thành lập một lực lượng đặc nhiệm khẩn cấp và luật mới đã được thông qua với các hình phạt nghiêm khắc hơn.

Cơ quan Cảnh sát Quốc gia đã kêu gọi các sĩ quan triệt phá những tội phạm này, nhưng việc bắt giữ lại rất hiếm. Theo một tuyên bố của Cảnh sát Quốc gia Seoul, trong số 964 vụ việc được báo cáo vào năm ngoái, chỉ có 23 vụ bắt giữ được thực hiện. Điều này đã khiến một số nạn nhân, như Ruma, tự mình giải quyết vấn đề. Ruma, với sự giúp đỡ của nhà hoạt động Won Eun-ji, đã xâm nhập vào phòng chat nơi những hình ảnh deepfake của cô được lan truyền, thu thập thông tin và phối hợp với cảnh sát. Nỗ lực của họ đã dẫn đến việc bắt giữ hai cựu sinh viên Đại học Quốc gia Seoul, với kẻ chủ mưu bị kết án chín năm tù. Tuy nhiên, cuộc chiến vì công lý vẫn tiếp tục.

Kim, một giáo viên trung học, đã trải qua chấn thương trực tiếp khi những hình ảnh bị thao túng của cô được chia sẻ trực tuyến. Công nghệ tinh vi đã tạo ra những hình ảnh có vẻ ngoài kỳ lạ đến mức chân thực. Lựa chọn duy nhất của cảnh sát là yêu cầu thông tin người dùng từ X (trước đây là Twitter). Bực bội vì quy trình chậm chạp, Kim và một đồng nghiệp đã tự mình điều tra, cuối cùng đã xác định được thủ phạm. Kim bày tỏ sự thất vọng của mình về việc thiếu sự đồng cảm của công chúng, nhấn mạnh thái độ phổ biến rằng deepfakes không phải là một tội ác nghiêm trọng.

Won Eun-ji, nhà hoạt động, nhấn mạnh rằng cần có một sự thay đổi trong xã hội. Việc chia sẻ và xem nội dung khiêu dâm của phụ nữ không được coi là một hành vi phạm tội nghiêm trọng trong một thời gian dài ở Hàn Quốc. Cô mô tả hệ thống này là "sự sỉ nhục người quen", trong đó những kẻ phạm tội chia sẻ ảnh và thông tin cá nhân, thường biết rõ nhà và gia đình của nạn nhân. Kể từ năm 2020, cuộc chiến chống tội phạm tình dục kỹ thuật số là một trận chiến không ngừng về việc thu hẹp và mở rộng hệ sinh thái. Nạn nhân đang kêu gọi những hình phạt nghiêm khắc hơn đối với những kẻ phạm tội và yêu cầu hành động từ các nền tảng trực tuyến.

Telegram đã phải đối mặt với áp lực ngày càng tăng để hành động, bao gồm cả việc bắt giữ Giám đốc điều hành của Telegram, Pavel Durov, ở Pháp. Telegram đã đồng ý tăng cường chia sẻ dữ liệu với chính quyền, mặc dù Won vẫn hoài nghi về cam kết của công ty. Một bước đột phá đã đến vào tháng 1 năm nay, khi chính quyền Hàn Quốc đã thành công trong việc lấy dữ liệu từ Telegram, dẫn đến việc bắt giữ 14 người. Đường dây tội phạm này đã nhắm mục tiêu vào hơn 200 nạn nhân. Mặc dù có những tiến bộ này, những nạn nhân như Ruma vẫn mong muốn được hỗ trợ nhiều hơn từ cảnh sát và tòa án, nhấn mạnh rằng công lý thực sự vẫn còn xa vời.