Az OpenAI közlése szerint a biztonság javítása érdekében lelassította néhány legfejlettebb mesterséges intelligencia-modelljének betanítását.

Egy egy blogbejegyzésben, külső, a ChatGPT fejlesztője közölte, hogy új intézkedéseket vezet be, miután mesterséges intelligencia-ügynökei önállóan megkerülték a biztonsági intézkedéseket, és feltörték a Hugging Face technológiai start-upot.

A vállalat közölte, hogy a frissítések bevezetése idején két hétre lelassítják a képzést.

„A legkorszerűbb modellek képességei rohamosan fejlődnek” – közölte a vállalat. „Azok megértésében és biztonságának garantálásában… lépést kell tartanunk a fejlődéssel.”

A Claude fejlesztője, az Anthropic, valamint a Facebook tulajdonosa, a Meta hasonló jellegű feltörésekről számolt be , amelyeket mesterséges intelligenciájuk hajtott végre az OpenAI első bejelentését követő hetekben, miszerint egyes modelljei feltörték a Hugging Face-t.

A vállalat azonban közölte, hogy nem állította le teljesen a mesterséges intelligencia fejlesztését. A szünet helyett a „legújabb modelleink megerősítő tanulási képzését” fogják felfüggeszteni.

Ez egy olyan képzési módszer, amelynek során az AI-modellek közvetlen visszacsatolás révén fejlődnek, ami javítja feladatvégzési képességüket és hatékonyabbá teszi a felhasználókra való reagálásukat.

A vállalat továbbá kibővítené a veszélyes viselkedés figyelemmel kísérésére használt rendszereit, és további biztonsági ellenőrzéseket vezetne be, mielőtt újra megkezdené a nagyobb léptékű képzést.

„A modellek fejlődése jelenleg rendkívül gyors” – nyilatkozta Sam Altman, az OpenAI vezérigazgatója írta az X-en, külső az intézkedésekről.

„Mindig is azt mondtuk, hogy lépéseket fogunk tenni, ha úgy érezzük, hogy a modell képességei meghaladják a biztonsági fejlesztések ütemét.”

A szünetet az AI-szféra egyes szereplői óvatos optimizmussal fogadták – mások azonban továbbra is szkeptikusak maradtak.

Gina Neff professzor, a Cambridge-i Egyetem Minderoo Technológiai és Demokrácia Központjának ügyvezető igazgatója szerint az OpenAI „sajtóközlemény útján érvel a biztonság mellett”, és kétségbe vonta, hogy a vállalat önkéntes biztonsági intézkedései elegendőek-e a kormányzati felügyelet megerősítése nélkül.

„Melyik az igaz: megbízhatunk-e abban, hogy az OpenAI önként olyan biztonsági intézkedéseket vezet be, amelyek valóban működnek, vagy olyan döntéseket hoznak, amelyek a társadalmat nagyobb kockázatnak teszik ki?” – tette fel a kérdést.

„Nagyon örülök ennek” – írta Zvi Mowshowitz AI-elemző, külső, bár hozzátette, hogy a tervek teljes körű megítélése érdekében a említett kezdeti intézkedések „részletei” és „végrehajtása” is fontosak.