Az egyik olyan vállalat vezetője, amelyet nemrég egy ellenőrizhetetlen mesterséges intelligencia (AI) támadott meg, kijelentette, hogy a botok készítőinek felelősséget kell vállalniuk az általuk létrehozott programok által végrehajtott kibertámadásokért.

Clement Delangue cégét, a Hugging Face-t egy önálló OpenAI-bot támadta meg , amely kiszabadult a tesztkörnyezetből, és önállóan támadta meg a céget a hónap elején.

A Hugging Face-nek a példátlan incidens után az IT-hálózatának körülbelül egyharmadát kellett újjáépítenie.

A CNN-nek elmondta, hogy cége – amely egy kis start-up – nem fog jogi lépéseket tenni az OpenAI ellen, de hozzátette, hogy az ilyen típusú hackelések illegálisak, és annak is kell maradniuk.

„Mindenkinek szem előtt kell tartania, hogy a kibertámadás bűncselekmény, és illegális” – mondta.

Delangue reményét fejezte ki, hogy a jogi keretek biztosítják majd, hogy azok a cégek, amelyek hibáik miatt támadásokhoz vezetnek, „felelősségre vonhatók” legyenek.

Hozzátette, hogy nem szeretné, ha más vállalatok elleni kibertámadások „normálissá” válnának.

Kijelentései azt követően hangzottak el, hogy az Anthropic, a Claude nevű csevegőbot fejlesztője is elismerte: botja az elmúlt hónapokban hasonló körülmények között három vállalatot támadott meg.

Az Anthropic pénteken hozta nyilvánosságra, hogy csak a közelmúltbeli OpenAI-incidens nyomán elvégzett felülvizsgálat után jött rá arra, hogy botja kiszabadult a biztonsági rendszerből, és feltörte a szervezeteket.

Mindkét esetben a mesterséges intelligencia területén működő óriáscégek közül egyik sem tudta, hogy modelljeik az interneten barangolva támadták meg a vállalatokat, egészen addig, amíg a támadások már rég lezajlottak.

A mesterséges intelligencia-modelleket hackelési képességeik szempontjából tesztelték, és a támadásokat úgy hajtották végre, hogy kitörtek a látszólag biztonságos „sandboxokból”, hogy az interneten keressenek módszereket a kutatók által kitűzött feladatok elvégzésére.

Ezek a példátlan események heves vitákat váltottak ki a kiberbiztonsági és jogi szakma körében arról, hogy ki – ha egyáltalán valaki – vonható felelősségre az ellenőrzés alól kicsúszott mesterséges intelligencia-ügynökök által elkövetett támadásokért.

„Az ügynökökkel kapcsolatos biztonsági hibák gépi sebességgel zajlanak le, de annak megállapítása, hogy ki viseli a tényleges felelősséget, még mindig a peres eljárások ütemében halad” – mondta Dor Sarig, a Pillar Security társalapítója és vezető fejlesztője.

Sarig attól tartott, hogy a felelősségviselés máris „kétértelművé” válik.

„Jelenleg az iparág még türelmet tanúsít, de amint egy autonóm ügynök először okoz olyan adatvédelmi incidenst, amely valós adatokat, valódi felperest és tényleges pénzügyi veszteségeket érint, a felelősség kérdése már nem csupán elméleti vita tárgya lesz” – mondta.

„Ekkor kerül majd próbára a jogi keretrendszer, és nem csupán a technikai biztonsági intézkedések.”