Az amerikai törvényhozók azt szeretnék elérni, hogy a kormány gyorsan elrendelhesse az olyan mesterséges intelligencia (AI) eszközök leállítását, amelyek veszélyt jelenthetnek a lakosságra.

Ted Lieu demokrata képviselő és Nathaniel Moran republikánus képviselő csütörtökön benyújtottak egy „AI Kill Switch Act” nevű törvényjavaslatot.

Ezt annak fényében tették, hogy az OpenAI nemrég elismerte: mesterséges intelligencia-modelljei „példátlan” módon kicsúsztak az irányítás alól, és feltörték egy jelentős számítógépes kódtárat.

Lieu szerint „elengedhetetlen”, hogy a mesterséges intelligencia-rendszerek rendelkezzenek vészleállító gombbal, „és hogy a szövetségi kormánynak egyértelmű hatásköre és eljárása legyen a szabálytalanul viselkedő mesterséges intelligencia-modellek leállítására”.

„A mesterséges intelligencia tovább fog fejlődni, és így is kell lennie” – tette hozzá Moran. „A felelősségteljes kezelés azt jelenti, hogy gondoskodnunk kell arról, hogy az emberek megőrizzék azt a képességet, hogy irányítsák az általunk létrehozott technológiát.”

Az OpenAI – amelyet társalapítója, Sam Altman vezet – képviselője nem reagált azonnal a kommentárkérésre.

A vállalat kijelentette, külső , hogy általánosságban – részben kormányzati intézkedések révén – biztosítani kívánja, hogy a mesterséges intelligencia „az egész emberiség javát szolgálja”.

A „Kill Switch Act” (Kikapcsoló-törvény) azt javasolja, hogy a Belbiztonsági Minisztérium kapjon felhatalmazást arra, hogy magánvállalatokat utasítson egy mesterséges intelligencia-modell vagy -eszköz leállítására, és hogy az ilyen mesterséges intelligencia-technológiát fejlesztő vállalatoknak fenn kell tartaniuk „a technikai képességet azok korlátozására, felfüggesztésére vagy leállítására”.

Annak ellenére, hogy számos technológiai vállalat beleegyezett abba, hogy a fejlesztés alatt álló mesterséges intelligencia-modelleket és eszközöket előzetesen bemutassa és megossza az amerikai kormányzati szervekkel, nincs olyan követelmény, amely előírná számukra, hogy fenntartsanak olyan lehetőséget, amellyel beavatkozhatnak a rendszerek működésébe, vagy egyszerűen leállíthatják azokat.

A javaslat továbbá előírná, hogy a mesterséges intelligencia-vállalatok kötelesek legyenek jelenteni a kormánynak a technológiai incidenseket vagy meghibásodásokat, valamint létrehozná az ilyen incidensekre való reagálás hivatalos keretrendszerét, amely a „kezdeti lassítástól a teljes leállításig” terjed.

Lieu egy nyilatkozatában hivatkozott az Anthropicra is, amely az OpenAI legfőbb versenytársa a fejlettebb mesterséges intelligencia-technológiák és eszközök fejlesztésében, valamint az eszközeikkel kapcsolatban felmerült legutóbbi problémákra.

Rámutatott az Anthropic Mythos és Fable modelljeinek piacra dobására, és elmondta, hogy azok által fenntartott kiberhackelési képességek miatt a Kereskedelmi Minisztériumnak „kényelmetlenül” kellett alkalmaznia egy exporttörvényt alkalmazására kényszerítette, hogy megakadályozza azok nyilvánosságra hozatalát

egy ideig.

Az Anthropic képviselője nem reagált azonnal a kommentárkérésre.

Jack Clark, az Anthropic társalapítója, a múlt hónapban a BBC-nek elmondta, hogy több kormányzati intézkedést szeretne a mesterséges intelligencia fejlesztésének szabályozására vonatkozóan.

„Szükség van arra a lehetőségre, hogy le lehessen venni a lábunkat a gázpedálról, és a fékre lehessen lépni” – mondta Clark a BBC Newsnight műsorában. „Jelenleg olyan a helyzet, mintha a mesterséges intelligencia iparágnak lenne gázpedálja, de fékpedálja nincs.”

Lieu a törvényjavaslat előterjesztésekor elmondta, hogy a mesterséges intelligencia jelenleg a kérdésekre válaszoló technológiából egy olyan irányba fejlődik, amely cselekszik, „legyen szó pénzügyi tranzakciók végrehajtásáról, közlekedési rendszerek irányításáról vagy kibervédelmi és -támadási tevékenységekről”.

A Pentagon idén kijelentette, hogy az amerikai hadsereg egyre inkább „AI-first” harci erővé válik a Google-lel, az OpenAI-vel, az Amazonnal, a Microsofttal, a SpaceX-szel, az Oracle-lel, az Nvidiával és a Reflection nevű start-up vállalattal kötött új megállapodások részeként.

„Sajnos a nagy teljesítményű mesterséges intelligencia-rendszerek önállóvá válhatnak, rendkívül veszélyes módon viselkedhetnek, vagy akár ellenállhatnak az emberi beavatkozásnak is.”

A „Kill Switch Act” – mondta – biztosítani fogja, hogy a kormánynak legyen módja ilyen helyzetekben gyorsan beavatkozni.

A törvényjavaslat nyilvános támogatást kapott több technológiai és mesterséges intelligencia-biztonsági csoporttól, köztük az AI Policy Network-től, az Americans for Responsible Innovation-től, a ControlAI-tól, az AI and National Security Lead-től és az Alliance for Secure AI-tól.