Az amerikai törvényhozók meg akarják adni a kormánynak a jogot, hogy gyorsan elrendelhesse a lakosságot fenyegetni látszó mesterséges intelligencia eszközök kikapcsolását.

Ted Lieu demokrata és Nathaniel Moran amerikai republikánus képviselők benyújtották az AI Kill Switch Act nevű törvényjavaslatot. Ezt azután tették, hogy az OpenAI nemrégiben beismerte: MI-modelljei „példátlan” módon kicsúsztak az irányítás alól, és feltörtek egy számítógépes kódolási adattárat – írja a BBC.

Lieu szerint „elengedhetetlen”, hogy a MI-rendszerek rendelkezzenek „kill switch” kikapcsolási lehetőséggel, és hogy a szövetségi kormányzatnak egyértelmű felhatalmazása legyen a problémás MI-modellek leállítására. „A MI folyamatosan fejlődni fog, és ezt meg is kell tennie” – tette hozzá Moran.

„A felügyelet azt jelenti: biztosítjuk, hogy az emberek továbbra is képesek legyenek ellenőrizni az általuk épített technológiát.”

Az OpenAI nem reagált azonnal a fejleményekre. A ChatGPT-t is fejlesztő vállalat azt közölte: széles körben – részben a kormányzati politika révén – biztosítani akarják, hogy a MI-technológia „az egész emberiség javát szolgálja”.

A Kill Switch törvényjavaslat arról szól: az amerikai Belbiztonsági Minisztérium felhatalmazást kap arra, hogy egy magáncéget utasítson egy MI-modell vagy -eszköz leállítására, és hogy az ilyen MI-technológiát fejlesztő vállalatoknak fenn kell tartaniuk „a technikai képességet azok szabályozására, felfüggesztésére vagy leállítására”. 

Számos technológiai vállalat beleegyezett abba, hogy előzetesen megosztja az amerikai kormányzati szervekkel a fejlesztés alatt álló MI-modelleket és -eszközöket;

de nincs előírás a modellek egyszerű leállítására. Azt is megfogalmazták a törvényjavaslatban, hogy a MI-vállalatok jelentsék a kormánynak a technológiai incidenseket vagy hibákat, valamint egy hivatalos rendet hozzanak létre az ilyen incidensekre való reagálásra, amelyek a „kezdeti lassulástól a teljes leállásig” terjedhetnek.

Egy nyilatkozatban Lieu az Anthropicot is megemlítette, amely az OpenAI fő riválisa a hatékonyabb MI-technológiák és -eszközök fejlesztésében. Rámutatott az Anthropic Mythos és Fable modelljeire, mondván, hogy a kiberhekkelési képességek miatt a Kereskedelmi Minisztérium „kínos módon” egy exporttörvényhez folyamodott, hogy egy ideig megakadályozza a modellek nyilvánosságra hozatalát.

Az Anthropic képviselője sem reagált azonnal a megkeresésre. Jack Clark, az Anthropic társalapítója a múlt hónapban a BBC-nek elmondta: ők maguk több kormányzati részvételt szeretnének a mesterséges intelligencia fejlesztésének ellenőrzésével kapcsolatban. „Azt akarjuk, hogy levehessük a lábunkat a gázról és a fékre is ráléphessünk” – mondta Clark a BBC Newsnightnak. Hozzátette:

„Jelenleg olyan, mintha a mesterséges intelligencia iparágnak lenne gázpedálja, de fékpedálja nem”.

Lieu a törvényjavaslat kapcsán azt mondta: a mesterséges intelligencia a kérdésekre választ adó technológiától elmozdul a cselekvésre képes technológiáig, „legyen szó pénzügyi tranzakciók végrehajtásáról, közlekedési rendszerek irányításáról vagy kibervédelemről és -támadásról”.

A törvényjavaslat számos technológiai és MI-biztonsági csoport nyilvános támogatását élvezte, köztük az AI Policy Network, az Americans for Responsible Innovation, a ControlAI, az AI and National Security Lead és a The Alliance for Secure AI.

A Pentagon idén kijelentette, hogy az amerikai hadsereg „mesterséges intelligencia által vezérelt” harcoló erővé válik,

 új megállapodásokat kötve a Google-lel, az OpenAI-val, az Amazonnal, a Microsofttal, a SpaceX-szel, az Oracle-lel, az Nvidiával és a Reflection startup céggel.