Az angliai gyermekjogi biztos felszólítja a kormányt, hogy tiltsa be azokat az alkalmazásokat, amelyek mesterséges intelligenciát (AI) használnak arra, hogy szexuálisan egyértelmű képeket készítsenek gyermekekről.

Dame Rachel de Souza szerint teljes tilalomra van szükség az olyan alkalmazásokat illetően, amelyek lehetővé teszik a “meztelenítést” – amikor a valódi emberek fotóit az AI úgy szerkeszti meg, hogy azok meztelennek tűnjenek.

Azt mondta, hogy a kormány hagyja, hogy az ilyen alkalmazások “ellenőrizetlenek maradjanak, ami szélsőséges valós következményekkel jár”.

A kormány szóvivője elmondta, hogy a gyermekek szexuális zaklatására szolgáló anyagok illegálisak, és hogy további bűncselekményeket terveznek az ilyen tartalmak létrehozására szolgáló mesterséges intelligenciaeszközök létrehozására, birtoklására vagy terjesztésére.

A mélyhamisítványok olyan videók, képek vagy hangklipek, amelyeket mesterséges intelligenciával készítettek, hogy valódinak tűnjenek vagy hangozzanak.

A oldalon. egy hétfőn közzétett jelentésben, Dame Rachel szerint a technológia aránytalanul sok lányt és fiatal nőt céloz meg, mivel számos testre szabott alkalmazás csak női testeken működik.

A jelentés szerint a lányok a célpontok kockázatának csökkentése érdekében aktívan kerülik a képek közzétételét vagy az online kapcsolatfelvételt, “ugyanúgy, ahogyan a lányok más szabályokat is követnek, hogy biztonságban legyenek az offline világban – például nem sétálnak egyedül haza éjszaka”.

A gyerekek attól tartottak, hogy “egy idegen, egy osztálytárs vagy akár egy barát” célba veheti őket a népszerű kereső- és közösségi médiaplatformokon megtalálható technológiák segítségével.

Dame Rachel azt mondta: “Ezeknek az eszközöknek az evolúciója olyan mértékben és sebességgel történik, hogy megterhelő lehet megpróbálni, hogy kézben tartsuk az általuk jelentett veszélyt.

“Nem nézhetjük tétlenül, hogy ezek a testre szabott AI-alkalmazások ilyen veszélyes befolyást gyakoroljanak a gyermekek életére”.”

Ez illegális a Online biztonsági törvény explicit deepfake képek megosztása vagy megosztással való fenyegetés.

A kormány februárban bejelentette, hogy törvényeket a mesterséges intelligencia által generált, gyermekek szexuális zaklatásáról készült képek veszélyének kezelésére, amelyek többek között illegálissá teszik az ilyen anyagok létrehozására szolgáló mesterséges intelligenciaeszközök birtoklását, létrehozását vagy terjesztését.

Dame Rachel szerint ez nem megy elég messzire, szóvivője a BBC-nek nyilatkozva: “Nem lehetnek meztelenítő alkalmazások, nem csak olyanok, amelyek a gyermekek szexuális zaklatását generáló alkalmazások közé sorolhatók”.

Februárban az Internet Watch Foundation (IWF) – egy brit székhelyű, részben technológiai cégek által finanszírozott jótékonysági szervezet – 245 jelentést erősített meg mesterséges intelligencia által generált gyermekek szexuális zaklatásáról 2024-ben, szemben a 2023-as 51-gyel, ami 380%-os növekedést jelent.

“Tudjuk, hogy ezekkel az alkalmazásokkal visszaélnek az iskolákban, és ez a képi ábrázolás gyorsan kicsúszik az ellenőrzés alól” – mondta Derek Ray-Hill, az IWF ideiglenes vezérigazgatója hétfőn.

A kormány szóvivője szerint a gyermekek szexuális zaklatására szolgáló anyagok – beleértve a mesterséges intelligencia által generált képeket is – létrehozása, birtoklása vagy terjesztése “visszataszító és illegális”.

“Az online biztonsági törvény értelmében a különböző méretű platformoknak mostantól el kell távolítaniuk az ilyen tartalmakat, különben jelentős bírságra számíthatnak” – tették hozzá.

“Az Egyesült Királyság az első ország a világon, amely további mesterséges intelligencia alapú, gyermekekkel szembeni szexuális visszaélésekkel kapcsolatos bűncselekményeket vezet be – illegálissá téve a gyermekekkel szembeni szörnyű szexuális visszaélésekkel kapcsolatos anyagok létrehozására szolgáló mesterséges intelligencia alapú eszközök birtoklását, létrehozását vagy terjesztését.”

Dame Rachel továbbá felszólította a kormányt, hogy:

• a generatív mesterséges intelligencia-eszközök fejlesztőire vonatkozó jogi kötelezettségeket írjon elő, hogy azonosítsák és kezeljék a termékeik által a gyermekekre jelentett kockázatokat, és tegyenek lépéseket e kockázatok mérséklésére.
• rendszerszintű folyamatot kell létrehozni a gyermekekről készült, szexuálisan egyértelmű, hamisított képek eltávolítására az internetről.
• ismerjék el a mélyreható szexuális visszaélést a nők és lányok elleni erőszak egyik formájaként.

Paul Whiteman, az iskolavezetők szakszervezetének (NAHT) főtitkára elmondta, hogy a tagok osztják a biztos aggodalmait.

Azt mondta: “Ez egy olyan terület, amelyet sürgősen felül kell vizsgálni, mivel fennáll a veszélye, hogy a technológia megelőzi a törvényt és az azt körülvevő oktatást”.

A médiaszabályozó Ofcom közzétette a Gyermekkódexének végleges változatát pénteken, amely jogi követelményeket támaszt a pornográfiát és az önkárosításra, öngyilkosságra vagy étkezési zavarokra buzdító tartalmakat kínáló platformokkal szemben, hogy tegyenek több intézkedést a gyermekek hozzáférésének megakadályozása érdekében.

A szabályozó szerint a weboldalaknak fokozott korhatár-ellenőrzést kell bevezetniük, különben nagy bírságra számíthatnak.

Dame Rachel bírálta a kódexet, mondván, hogy az “a technológiai vállalatok üzleti érdekeit helyezi előtérbe a gyermekek biztonságával szemben”.