Gina Neff, a Cambridge-i Egyetem Minderoo Technológiai és Demokrácia Központjának vezetője a BBC Radio 4 Today című műsorában elmondta, hogy a biztonsági tesztek – az úgynevezett sandboxok – „biztonságos környezeteknek kellene lenniük, ahol meg lehet nézni, mire képesek a modellek”.

„Ebben az esetben úgy tűnik, hogy az OpenAI nem hozott létre elég biztonságos sandboxot” – tette hozzá.

Ehelyett az ügynökök saját kibertámadást indítottak a sandbox ellen, és olyan sebezhetőséget találtak, amely lehetővé tette számukra, hogy kijussanak a korlátozások alól.

Miután kijutottak, a mesterséges intelligencia a Hugging Face-t azonosította a tesztben keresett válaszok valószínű forrásaként, és megpróbált hozzáférést szerezni.

Neil Lawrence, a Cambridge-i Egyetem gépi tanulás professzora „lenyűgöző teljesítménynek” nevezte az esetet, de figyelmeztetett, hogy ez „teljes mértékben a jelenlegi generációs” nagy teljesítményű mesterséges intelligencia-modellek ismert képességeinek keretein belül marad.

Rámutatott, hogy az OpenAI tőzsdére lépést tervez, és erős nyomás nehezedik rá a rivális Anthropic cég részéről, amely saját nagy teljesítményű mesterséges intelligencia-eszközével, a Mythosszalkerült a címlapokra.

„Az OpenAI most felzárkózni próbál, igyekszik bizonyítani saját rendszereinek képességeit a kiberbiztonság terén.”

„Ez azt mutatja, hogy az OpenAI nem képes saját technológiáját biztonságosan üzembe helyezni” – tette hozzá.

A július 16-i, a támadásról szóló első közleményében, külsőa Hugging Face közölte, hogy még vizsgálja, érintette-e az eset bármely ügyfél- vagy partneradatot, és szükség esetén felveszi a kapcsolatot az érintettekkel.

Közölte, hogy mára kijavította az incidens során feltárt sebezhetőségeket, és újjáépítette az érintett rendszereket.

„Az autonóm, mesterséges intelligenciával működtetett támadó eszközök már nem csupán elméleti síkon léteznek” – állította a vállalat.

„Egy online platform védelme ma már azt jelenti, hogy az adatokat és a modelleket elsőrendű támadási felületként kell kezelni, és a védelem során mesterséges intelligenciát kell alkalmazni, hogy lépést tudjunk tartani a fejleményekkel.

„Továbbra is befektetünk ebbe a területbe, és megosztjuk a tapasztalatainkat.”