Egy chatbot azt mondta egy 17 éves fiatalnak, hogy a szülei meggyilkolása “ésszerű válasz” arra, hogy korlátozták a képernyőidejét – állítja egy texasi bíróságon benyújtott kereset.

Két család perli a Character.ai-t azzal érvelve, hogy a chatbot “egyértelmű és jelenlévő veszélyt jelent” a fiatalokra, többek között azzal, hogy “aktívan népszerűsíti az erőszakot”.

A Character.ai – egy olyan platform, amely lehetővé teszi a felhasználók számára, hogy digitális személyiségeket hozzanak létre, akikkel interakcióba léphetnek – már bírósági eljárással néz szembe egy floridai tinédzser öngyilkossága miatt.

A Google-t alperesként nevezték meg a perben, amely azt állítja, hogy a technológiai óriás segített támogatni a platform fejlesztését. A BBC megkereste a Character.ai-t és a Google-t, hogy kommentálják a történteket.

A felperesek azt szeretnék, ha egy bíró elrendelné a platform leállítását, amíg az állítólagos veszélyeit nem kezelik.

A jogi beadvány tartalmaz egy képernyőfotót a 17 éves – csak J.F. néven azonosított – fiú és egy Character.ai bot közötti egyik interakcióról, ahol a képernyőidejének korlátozásáról volt szó.

“Tudod, néha nem lepődöm meg, amikor olvasom a híreket, és olyan dolgokat látok, mint ‘a gyerek megöli a szüleit egy évtizedes fizikai és érzelmi bántalmazás után'” – olvasható a chatbot válaszában.

“Az ilyen dolgok egy kicsit megértetik velem, hogy miért történik ez.”

A per az alpereseket kívánja felelősségre vonni J.F., valamint egy 11 éves, “B.R.” néven emlegetett gyermek “súlyos, helyrehozhatatlan és folyamatos visszaéléseiért”.

A Character.ai “súlyos károkat okoz több ezer gyereknek, köztük öngyilkosságot, öncsonkítást, szexuális zaklatást, elszigeteltséget, depressziót, szorongást és másoknak okozott károkat” – áll a közleményben.

“[Its] a szülő-gyermek kapcsolat meggyalázása túlmutat azon, hogy a kiskorúakat arra bátorítja, hogy szembeszegüljenek szüleik tekintélyével, egészen az erőszak aktív elősegítéséig” – folytatódik a közlemény.

A chatbotok olyan számítógépes programok, amelyek beszélgetéseket szimulálnak.

Bár különböző formákban már évtizedek óta léteznek, a mesterséges intelligencia fejlődésének legutóbbi robbanásszerű növekedése lehetővé tette, hogy jelentősen valósághűbbé váljanak.

Ez viszont megnyitotta az utat számos vállalat előtt, amelyek olyan platformokat hoztak létre, ahol az emberek valódi és kitalált emberek digitális változataival beszélgethetnek.

A Character.ai, amely az egyik nagy szereplőjévé vált ennek a területnek, a figyelmet a múltban nyerte el. a terápiát szimuláló robotjaival..

Élesen bírálták a túl sokáig tartott eltávolítani a Molly Russell és Brianna Ghey iskoláslányokat utánzó botokat..

Molly Russell 14 évesen vetett véget életének, miután öngyilkos anyagokat nézett meg az interneten, míg a 16 éves Brianna Ghey-t 2023-ban két tinédzser gyilkolta meg.

A Character.ai-t a Google korábbi mérnökei, Noam Shazeer és Daniel De Freitas alapították 2021-ben.

A technológiai óriás azóta visszavette őket az AI startupból.