Múlt szombaton egy Telegram-üzenet jelent meg Heejin telefonján egy névtelen feladótól. “Kiszivárogtak a képei és személyes adatai. Beszéljük meg.”

Amikor az egyetemista belépett a chatszobába, hogy elolvassa az üzenetet, egy olyan fotót kapott magáról, amely néhány évvel ezelőtt készült, amikor még iskolába járt. Ezt egy második kép követte, amely ugyanazt a fotót használta, csakhogy ez szexuálisan egyértelmű volt, és hamis.

Heejin – ami nem az igazi neve – rémülten nem válaszolt, de a képek tovább jöttek. Mindegyikben az arcát egy szexuális aktusban részt vevő testhez illesztették, kifinomult deepfake technológiával.

A deepfake-eket, amelyek többsége egy valós személy arcát kombinálja egy hamis, szexuálisan kifejezett testtel, egyre gyakrabban generálják mesterséges intelligencia segítségével.

“Megkövültem, annyira egyedül éreztem magam” – mondta Heejin a BBC-nek.

De nem volt egyedül.

Két nappal korábban Ko Narin dél-koreai újságíró publikálta karrierje legnagyobb szenzációját. Nemrég derült ki, hogy a rendőrség a megye két nagy egyetemén működő deepfake pornóhálózat után nyomozott, és Ko asszony meg volt győződve arról, hogy többről van szó.

Elkezdte átkutatni a közösségi médiát, és a Telegram üzenetküldő alkalmazáson több tucat csevegőcsoportot fedezett fel, ahol a felhasználók ismerős nők fotóit osztották meg, és mesterséges intelligencia szoftverrel másodpercek alatt hamis pornográf képekké alakították át őket.

“Az emberek percenként töltötték fel az általuk ismert lányok fotóit, és kérték, hogy alakítsák át őket deepfake-ekké” – mondta Ko asszony.

Ko asszony felfedezte, hogy ezek a csoportok nem csak egyetemi hallgatókat céloztak meg. Voltak bizonyos középiskoláknak, sőt középiskoláknak fenntartott szobák is. Ha sok tartalom készült egy adott diák képeit felhasználva, akár saját szobát is kaphatott. A “megalázó szobák” vagy “barátok barátai szobák” elnevezésűek, és gyakran szigorú belépési feltételekkel rendelkeznek.

Ko asszony beszámolója a Hankyoreh újságban sokkolta Dél-Koreát. Hétfőn a rendőrség bejelentette, hogy a francia hatóságok példáját követve, akik nemrég vádat emeltek a Telegram orosz alapítója ellen az alkalmazással kapcsolatos bűncselekmények miatt, vizsgálatot indítanak a Telegram ellen. A kormány megfogadta, hogy szigorúbb büntetéseket szab ki az érintettekre, az elnök pedig a fiatalok jobb nevelésére szólított fel.

A Telegram a BBC-hez eljuttatott közleményében azt írta, hogy “aktívan küzd a platformján található káros tartalmak, köztük az illegális pornográfia ellen”.

A BBC megtekintette számos ilyen csevegőszoba leírását. Az egyikben arra kérik a tagokat, hogy négynél több fényképet tegyenek közzé valakiről, valamint a nevét, életkorát és a lakóhelyét.

“Megdöbbentett, hogy milyen szisztematikus és szervezett volt a folyamat” – mondta Ko asszony. “A legborzalmasabb dolog, amit felfedeztem, egy olyan csoport volt, amely kiskorú diákoknak szólt az egyik iskolában, és amelynek több mint 2000 tagja volt”.

A Ko asszony cikkének megjelenését követő napokban a nőjogi aktivisták is elkezdték átfésülni a Telegramot, és követni a nyomokat.

A hét végére több mint 500 iskolát és egyetemet jelöltek meg célpontként. A tényleges érintettek számát még nem sikerült megállapítani, de feltételezhetően sokan 16 év alattiak, ami Dél-Koreában a beleegyezési korhatár. A feltételezett elkövetők nagy része maga is tinédzser.

Heejin elmondta, hogy a válság mértékének megismerése csak fokozta a szorongását, mivel most már aggódik, hogy hányan nézhették meg a deepfake-eit. Kezdetben saját magát hibáztatta. “Nem tudtam nem gondolkodni azon, hogy vajon azért történt ez, mert feltöltöttem a képeimet a közösségi médiára, óvatosabbnak kellett volna lennem?”.

Azóta nők és tinédzserek sokasága távolította el a fotóit a közösségi médiából, vagy deaktiválta teljesen a fiókját, attól tartva, hogy legközelebb őket is kihasználhatják.

“Frusztráltak és dühösek vagyunk, hogy cenzúrázni kell a viselkedésünket és a közösségi média használatát, amikor semmi rosszat nem tettünk” – mondta egy egyetemi hallgató, Ah-eun, akinek a társait célba vették.

Ah-eun elmondta, hogy az egyik áldozatnak az egyetemén azt mondta a rendőrség, hogy ne foglalkozzon az ügyével, mivel túl nehéz lenne elkapni az elkövetőt, és “nem is volt igazi bűncselekmény”, mivel “a fotók hamisak voltak”.

A botrány középpontjában a Telegram üzenetküldő alkalmazás áll. A nyilvános weboldalakkal ellentétben, amelyekhez a hatóságok könnyen hozzáférhetnek, majd kérhetik a képek eltávolítását, a Telegram egy privát, titkosított üzenetküldő alkalmazás.

A felhasználók gyakran névtelenek, a szobák “titkos” üzemmódba állíthatók, és tartalmuk gyorsan, nyom nélkül törölhető. Ezáltal a bűnözői magatartás virágzásának elsődleges terepévé vált.

A múlt héten a politikusok és a rendőrség erőteljesen reagált, és ígéretet tettek arra, hogy kivizsgálják ezeket a bűncselekményeket, és az elkövetőket bíróság elé állítják.

Hétfőn a Szöuli Nemzeti Rendőrségi Ügynökség bejelentette, hogy vizsgálatot indít a Telegram ellen, mivel az lehetővé tette a gyermekekről készült hamis pornográf képek terjesztését.

Az alkalmazás alapítóját, Pavel Durovot, a vádat emeltek Franciaországban a múlt héten az alkalmazással kapcsolatos számos bűncselekményben való bűnrészességgel, többek között gyermekpornográfia megosztásának lehetővé tételével.

Nőjogi aktivisták azonban azzal vádolják a dél-koreai hatóságokat, hogy túl sokáig hagyták, hogy a Telegramban a szexuális visszaélések ellenőrizetlenül szunnyadjanak, mert Korea már korábban is szembesült ezzel a válsággal. 2019-ben kiderült, hogy egy szexbanda arra használta a Telegramot, hogy nőket és gyerekeket kényszerítsen arra, hogy szexuálisan egyértelmű képeket készítsenek és osszanak meg magukról.

A rendőrség akkor a Telegramtől kért segítséget a nyomozáshoz, de az alkalmazás mind a hét kérésüket figyelmen kívül hagyta. Bár a főkolompost végül több mint 40 év börtönre ítélték, a cenzúra körüli félelmek miatt nem tettek lépéseket a platform ellen.

“Elítélték a főszereplőket, de egyébként elhanyagolták a helyzetet, és szerintem ez csak súlyosbította a helyzetet” – mondta Ko asszony.

Park Jihyun, aki fiatal diákújságíróként még 2019-ben leplezte le az Nth room szex-ringet, azóta a digitális szexuális bűncselekmények áldozatainak politikai szószólója lett. Elmondta, hogy a deepfake-botrány kirobbanása óta naponta többször is felhívták őt sírva a diákok és a szülők.

“Látták az iskolájukat a közösségi médiában megosztott listán, és megrémültek”.

Park asszony a kormányt arra szólította fel, hogy szabályozza vagy akár tiltsa be az alkalmazást Dél-Koreában. “Ha ezek a technológiai cégek nem működnek együtt a bűnüldöző szervekkel, akkor az államnak kell szabályoznia őket, hogy megvédje polgárait” – mondta.

A legújabb válság kirobbanása előtt a dél-koreai Advocacy Centre for Online Sexual Abuse victims (ACOSAV) már észlelte a deepfake pornográfia kiskorú áldozatainak számának meredek emelkedését.

A 2023-as évben 86 tizenéves áldozatot tanácsoltak. Ez a szám csak az idei év első nyolc hónapjában 238-ra ugrott. Csak az elmúlt héten további 64 tizenéves áldozat jelentkezett.

A központ egyik vezetője, Park Seonghye elmondta, hogy az elmúlt héten a munkatársait elárasztották a hívások, és éjjel-nappal dolgoznak. “Ez egy teljes körű vészhelyzet volt számunkra, olyan, mint egy háborús helyzet” – mondta.

“A legújabb deepfake technológiával már sokkal több felvétel van, mint korábban, és aggódunk, hogy ez csak fokozódni fog”.

Az áldozatoknak nyújtott tanácsadás mellett a központ felkutatja a káros tartalmakat, és együttműködik az online platformokkal, hogy eltávolítsák azokat. Park asszony elmondta, hogy volt néhány eset, amikor a Telegram az ő kérésükre távolított el tartalmakat. “Tehát ez nem lehetetlen” – jegyezte meg.

A Telegram közleményében a BBC-nek elmondta, hogy moderátorai “proaktívan figyelik az alkalmazás nyilvános részeit, mesterséges intelligencia eszközöket használnak és felhasználói jelentéseket fogadnak el annak érdekében, hogy naponta több millió olyan tartalmat távolítsanak el, amelyek sértik a Telegram szolgáltatási feltételeit”.

Noha a nőjogi szervezetek elfogadják, hogy az új mesterséges intelligencia technológia megkönnyíti az áldozatok kizsákmányolását, azt állítják, hogy ez csak a nőgyűlölet legújabb formája, amely Dél-Koreában online játszódik le.

Először a nőket szóbeli bántalmazások hullámainak tették ki online. Aztán jött a kémkamera-járvány, ahol titokban filmezték őket, amint nyilvános vécéket és öltözőket használnak.

“Ennek gyökere a strukturális szexizmus, a megoldás pedig a nemek közötti egyenlőség” – áll a 84 női csoport által aláírt nyilatkozatban.

Ez az ország elnökének, Yoon Suk Yeolnak a közvetlen kritikája, aki tagadta a strukturális szexizmus létezését, csökkentette az áldozatsegítő csoportok finanszírozását, és megszünteti a kormány nemek közötti egyenlőséggel foglalkozó minisztériumát.

Lee Myung-hwa, aki fiatal szexuális bűnözőket kezel, egyetértett azzal, hogy bár a deepfake visszaélések kitörése hirtelennek tűnhet, már régóta lappangott a felszín alatt. “A tinédzserek számára a deepfake a kultúrájuk részévé vált, játéknak vagy csínynek tekintik” – mondta a tanácsadó, aki az Aha Seoul Ifjúsági Kulturális Központot vezeti.

Lee asszony azt mondta, hogy kiemelkedően fontos a fiatal férfiak felvilágosítása, hivatkozva egy kutatásra, amely szerint, ha az elkövetők pontosan elmondják, hogy mit tettek rosszul, akkor jobban tisztában lesznek azzal, hogy mi számít szexuális visszaélésnek, ami megakadályozza őket a bűnismétlésben.

Közben a kormány közölte, hogy szigorítani fogja a büntetőjogi szankciókat azokkal szemben, akik deepfake képeket készítenek és osztanak meg, és azokat is büntetni fogja, akik a pornográfiát nézik.

Mindez azt követően történt, hogy kritikák érték, miszerint nem büntetik eléggé az elkövetőket. Az egyik probléma az, hogy az elkövetők többsége tinédzser, akiket jellemzően az ifjúsági bíróságok elé állítanak, ahol enyhébb büntetést kapnak.

A chatszobák leleplezése óta sokakat bezártak, de szinte biztosan újak kerülnek a helyükre. Egy megalázó szobát máris létrehoztak, hogy a történetről tudósító újságírókat célozzák meg. Ko asszony, aki a hírt nyilvánosságra hozta, azt mondta, hogy ez álmatlan éjszakákat okozott neki. “Állandóan ellenőrzöm a szobát, hogy feltöltötték-e a fényképemet” – mondta.

Ez a szorongás szinte minden tizenéves lányra és fiatal nőre átterjedt Dél-Koreában. Ah-eun, az egyetemista lány azt mondta, hogy emiatt gyanakvóvá vált férfi ismerőseivel szemben.

“Most már nem lehetek biztos benne, hogy az emberek nem követnek el ilyen bűncselekményeket a hátam mögött, anélkül, hogy tudnék róla” – mondta. “Hiper-éber lettem az emberekkel való minden interakciómban, ami nem lehet jó”.

Hosu Lee és Suhnwook Lee további tudósításai.