Ang Madilim na Bahagi ng AI: Ang Nagwawasak na Epekto ng Deepfake Pornography sa Timog Korea

Paano sinisira ng mga minanipulang imahe ang mga buhay at hinahamon ang hustisya sa digital age.

Taong 2021 nang ang telepono ni Ruma ay nag-buzz ng napakaraming notipikasyon. Ang mga mensahe ay isang bangungot. Mga larawan ng kanyang mukha, na kinuha mula sa social media, ay eksperto na inilipat sa mga hubad na katawan at ibinahagi sa isang Telegram chatroom. Ang mga komento ay bastos at nakakahiya, na sumasalamin sa mga mensahe mula sa hindi kilalang nagpadala. Ito ang pagpapakilala kay Ruma sa nakatatakot na mundo ng deepfake pornography, isang lumalaking krisis sa South Korea.

Habang ang revenge porn ay matagal nang umiiral, ang pagdating ng sopistikadong mga tool ng AI ay ginawa ang sinuman na potensyal na biktima. Sa South Korea, isang bansa na may problema sa kasaysayan ng digital sex crimes, ang teknolohiya ng deepfake ay lumikha ng bagong alon ng takot, lalo na sa mga paaralan. Ayon sa ministry of education ng bansa, mahigit 900 na estudyante, guro, at staff ang nabiktima ng deepfake sex crimes sa pagitan ng Enero at unang bahagi ng Nobyembre ng nakaraang taon. Hindi pa kasama dito ang mga unibersidad, na nakakita rin ng pagtaas sa mga pag-atake. Bilang tugon, ang gobyerno ay nagtatag ng isang emergency task force, at mga bagong batas ay naipasa na may mas matinding parusa.

Hinikayat ng National Police Agency ang mga opisyal na puksain ang mga krimeng ito, ngunit kakaunti ang mga aresto. Ayon sa isang pahayag ng Seoul National Police, sa 964 na naiulat na kaso noong nakaraang taon, 23 lamang ang naaresto. Ito ang nagtulak sa ilang mga biktima, tulad ni Ruma, na gumawa ng mga hakbang sa kanilang sarili. Si Ruma, sa tulong ng aktibista na si Won Eun-ji, ay nakapasok sa chatroom kung saan nagkalat ang kanyang mga deepfake na imahe, nagtipon ng impormasyon at nakipag-ugnayan sa pulisya. Ang kanilang mga pagsisikap ay humantong sa pag-aresto sa dalawang dating estudyante ng Seoul National University, kung saan ang pangunahing salarin ay sinentensyahan ng siyam na taon sa bilangguan. Gayunpaman, ang laban para sa hustisya ay nagpapatuloy.

Si Kim, isang guro sa high school, ay naranasan ang trauma mismo nang ang mga manipulahing larawan niya ay ibinahagi online. Ang sopistikadong teknolohiya ay lumikha ng mga imahe na tila makatotohanan. Ang tanging opsyon ng pulisya ay humiling ng impormasyon ng gumagamit mula sa X (dating Twitter). Dahil sa pagkabigo sa mabagal na proseso, si Kim at isang kasamahan ay naglunsad ng sarili nilang imbestigasyon, at kalaunan ay natukoy ang salarin. Ipinahayag ni Kim ang kanyang pagkabigo sa kakulangan ng empatiya ng publiko, na binibigyang-diin ang laganap na saloobin na ang deepfakes ay hindi isang seryosong krimen.

Si Won Eun-ji, ang aktibista, ay binibigyang-diin na kailangan ang pagbabago sa lipunan. Ang pagbabahagi at pagtingin sa sexual content ng mga kababaihan ay hindi itinuturing na isang seryosong pagkakasala sa mahabang panahon sa South Korea. Inilarawan niya ang sistema bilang "acquaintance humiliation," kung saan ibinabahagi ng mga salarin ang mga larawan at personal na impormasyon, na madalas na alam ang mga tahanan at pamilya ng kanilang mga biktima. Mula noong 2020, ang laban laban sa digital sex crimes ay naging isang patuloy na labanan ng pagliit at paglawak ng mga ecosystem. Ang mga biktima ay nagtutulak para sa mas mahigpit na parusa para sa mga salarin at humihingi ng aksyon mula sa mga online platform.

Nahaharap ang Telegram sa tumaas na presyur na kumilos, kasama ang pag-aresto sa CEO nitong si Pavel Durov sa France. Sumang-ayon ang Telegram na dagdagan ang pagbabahagi ng data sa mga awtoridad, bagaman nananatiling nag-aalinlangan si Won sa pangako ng kumpanya. Isang tagumpay ang dumating nitong Enero, nang matagumpay na nakuha ng mga awtoridad ng Korea ang data mula sa Telegram, na nagresulta sa pag-aresto sa 14 na tao. Ang kriminal na sindikato ay nag-target ng mahigit 200 biktima. Sa kabila ng mga pag-unlad na ito, ang mga biktima tulad ni Ruma ay naghahangad ng higit pang suporta mula sa pulisya at korte, na binibigyang-diin na ang tunay na hustisya ay malayo pa ring natutupad.