Négy új törvény fogja kezelni a mesterséges intelligencia (AI) által generált, gyermekek szexuális zaklatásáról készült képek jelentette be a kormány.

A belügyminisztérium szerint a gyermekek jobb védelme érdekében az Egyesült Királyság lesz az első olyan ország a világon, amely a gyermekek szexuális zaklatására szolgáló anyagok (CSAM) előállítására szolgáló mesterséges intelligenciaeszközök birtoklását, létrehozását vagy terjesztését illegálissá teszi, és akár öt évig terjedő börtönbüntetéssel sújtja.

Az AI pedofil kézikönyvek birtoklását is illegálissá teszik, és a bűnelkövetők akár három év börtönbüntetést is kaphatnak. Ezek a kézikönyvek megtanítják az embereket arra, hogyan használják a mesterséges intelligenciát fiatalok szexuális zaklatására.

“Tudjuk, hogy a beteg ragadozók online tevékenysége gyakran vezet oda, hogy személyesen is elkövetik a legszörnyűbb visszaéléseket” – mondta Yvette Cooper belügyminiszter.

“Ez a kormány nem fog habozni, hogy fellépjen a gyermekek online biztonsága érdekében, biztosítva, hogy törvényeink lépést tartsanak a legújabb fenyegetésekkel”.”

A további törvények között szerepel, hogy bűncselekménynek minősül az olyan weboldalak üzemeltetése, ahol pedofilok gyermekekkel szembeni szexuális visszaélésekkel kapcsolatos tartalmakat oszthatnak meg, vagy tanácsokat adnak a gyermekek molesztálására vonatkozóan. Ez akár 10 év börtönnel is büntethető lenne.

A határőrség pedig felhatalmazást kap arra, hogy utasítsa azokat a személyeket, akiket azzal gyanúsít, hogy szexuális kockázatot jelentenek a gyermekekre nézve, hogy az Egyesült Királyságba való beutazásukkor oldják fel digitális eszközeiket ellenőrzés céljából, mivel a CSAM-ot gyakran külföldön filmezik. A képek súlyosságától függően ez akár három évig terjedő börtönbüntetéssel is büntethető lesz.

A mesterségesen generált CSAM olyan képeket jelent, amelyek részben vagy teljesen számítógépes úton generáltak. A szoftverek képesek “mezteleníteni” a valós képeket, és az egyik gyermek arcát egy másikra cserélni, így valósághű képet alkotva.

Egyes esetekben a gyermekek valós hangját is felhasználják, ami azt jelenti, hogy a bántalmazás ártatlan túlélőit újra áldozattá teszik.

A hamis képeket arra is használják, hogy megzsarolják a gyerekeket, és további bántalmazásra kényszerítsék az áldozatokat.

A Nemzeti Bűnüldözési Ügynökség (NCA) közölte, hogy havonta mintegy 800 letartóztatást hajt végre a gyermekek online fenyegetésével kapcsolatban. Elmondása szerint országszerte 840 000 felnőtt jelent fenyegetést a gyermekekre – online és offline egyaránt -, ami a felnőtt lakosság 1,6%-át teszi ki.

Cooper azt mondta: “A fenyegetőzés nem jelent veszélyt a társadalomra: “Ez a négy új törvény olyan bátor intézkedések, amelyek célja, hogy a technológiák fejlődésével párhuzamosan a gyermekeink biztonságban legyenek az interneten.

“Életbevágóan fontos, hogy a gyermekek szexuális zaklatását online és offline is kezeljük, hogy jobban meg tudjuk védeni a lakosságot” – tette hozzá.

Egyes szakértők azonban úgy vélik, hogy a kormány tovább is mehetett volna.

Prof. Clare McGlynn, a pornográfia, a szexuális erőszak és az online visszaélések jogi szabályozásának szakértője szerint a változások “üdvözlendőek”, de “jelentős hiányosságok” vannak.

A kormánynak be kellene tiltania a “nudify” alkalmazásokat, és foglalkoznia kellene a “fiatalnak tűnő lányokkal folytatott szexuális tevékenység normalizálásával a mainstream pornóoldalakon” – mondta, és ezeket a videókat “szimulált gyermekekkel szembeni szexuális visszaélést bemutató videóknak” nevezte.

Ezekben a videókban “felnőtt szereplők szerepelnek, de nagyon fiatalnak tűnnek, és gyerekszobákban mutatják őket, játékokkal, copfokkal, fogszabályzókkal és a gyermekkor egyéb jelzőivel” – mondta. “Ez az anyag a legkézenfekvőbb keresőkifejezésekkel is megtalálható, és legitimálja és normalizálja a gyermekek szexuális zaklatását. Sok más országgal ellentétben ez az anyag az Egyesült Királyságban továbbra is törvényes”.”

Az Internet Watch Foundation (IWF) arra figyelmeztet, hogy több szexuális visszaélés AI-képek készülnek gyermekekről, amelyek egyre inkább elterjedtek a nyílt interneten.

A jótékonysági szervezet legfrissebb adatai szerint a CSAM-ról szóló jelentések 380%-kal nőttek: 2024-ben 245 megerősített jelentés érkezett, szemben a 2023-as 51 jelentéssel. Egy-egy jelentés több ezer képet tartalmazhat.

Tavalyi kutatásában megállapította, hogy egy hónap alatt egy sötét weboldalon 3512 AI gyermekekkel szembeni szexuális visszaélést és kizsákmányolást ábrázoló képet fedeztek fel. Az előző év egy hónapjához képest a legsúlyosabb kategóriába tartozó képek (A kategória) száma 10%-kal nőtt.

A szakértők szerint az AI CSAM gyakran hihetetlenül valósághűnek tűnhet, így nehéz megkülönböztetni a valódit a hamisítványtól.

Az ideiglenes vezérigazgató a IWF, Derek Ray-Hill, mondta: “Az ilyen mesterséges intelligenciával kapcsolatos tartalmak elérhetősége tovább szítja a gyermekek elleni szexuális erőszakot.

“Ez felbátorítja és bátorítja a bántalmazókat, és a valódi gyermekek biztonságát csökkenti. Minden bizonnyal többet kell tenni annak érdekében, hogy megakadályozzuk a mesterséges intelligencia technológia kihasználását, de üdvözöljük, hogy [the] bejelentést, és úgy gondoljuk, hogy ezek az intézkedések létfontosságú kiindulópontot jelentenek”.

Lynn Perry, a Barnardo’s gyermekjótékonysági szervezet vezérigazgatója üdvözölte a kormány intézkedését a mesterséges intelligenciával előállított CSAM ellen, “amely normalizálja a gyermekekkel szembeni visszaéléseket, és még több gyermeket tesz ki veszélynek, mind online, mind offline”.

“Létfontosságú, hogy a jogszabályok lépést tartsanak a technológiai fejlődéssel, hogy megelőzzük ezeket a szörnyű bűncselekményeket” – tette hozzá.

“A technológiai vállalatoknak biztosítaniuk kell, hogy platformjaik biztonságosak legyenek a gyermekek számára. Erősebb biztosítékok bevezetése érdekében lépéseket kell tenniük, az Ofcomnak pedig gondoskodnia kell arról, hogy az online biztonságról szóló törvényt hatékonyan és erőteljesen hajtsák végre”.”

A bejelentett új intézkedéseket a bűnözésről és rendfenntartásról szóló törvényjavaslat részeként vezetik be, amikor az a következő hetekben a parlament elé kerül.