Jacob Coxon, az Anthropic korábbi kutatója, aki azzal a figyelmeztetéssel távozott a cégtől, hogy a mesterséges intelligencia az emberiség számára ellenőrizhetetlenné válhat, a New York-i városi tanács meghallgatásán tesz tanúvallomást az iparág legnagyobb szereplőinek képviselői mellett – számolt be a Bloomberg. Hasonló témákról is szó lesz november 26-ai AI & Digital Transformation konferenciánkon. Regisztráció és részletek itt!
Coxon Julie Menin, a tanács elnökének felkérésére jelenik meg a hétfői meghallgatáson, amelyen a város törvényhozói az MI-vel kapcsolatos garanciák megteremtését célzó törvénycsomagot vitatják meg. A kutató a múlt hónapban mondott fel az Anthropicnál, és kemény kritikát fogalmazott meg az egyre erősebb MI-rendszerek fejlesztéséért folyó versenyről, azzal vádolva korábbi munkaadóját és az OpenAI-t, hogy az életünkkel játszanak.
A meghallgatáson az iparág legélesebb kritikusai ülnek egy asztalhoz az Anthropic, az OpenAI, a Google és a Meta képviselőivel. A meghívottak között van Alex Turner, a Google DeepMind egykori kutatója, valamint Daniel Kokotajlo, az AI Futures Project igazgatója és az OpenAI volt munkatársa is. A négy nagy MI-cég szakpolitikai és biztonsági vezetőket küld a meghallgatásra.
A meghallgatás része annak a törekvésnek, amellyel New York vezetése nagyobb szerepet kíván vállalni az MI-iparág szabályozásában, miközben a szabályozási jogkörök nagy része továbbra is szövetségi és állami hatáskörbe tartozik.
A tanács előtt több javaslat is fekszik. Menin tervezete szerint
- a visszaélés-bejelentők az MI-cégektől behajtott bírságok egy részét kapnák meg.
- Egy másik jogszabálytervezet lehetővé tenné, hogy az MI-rendszerek által károsult személyek bizonyos esetekben beperelhessék a fejlesztőket,
- egy harmadik pedig egyes rendszerek független, harmadik fél általi validációját írná elő a New York-i bevezetésük előtt.
Az Anthropic, az OpenAI és a Google azután egyezett bele a megjelenésbe, hogy Menin hivatala idézéssel fenyegetőzött, a Meta pedig már korábban vállalta a részvételt. A SpaceX mesterségesintelligencia-részlegének a tanács hivatalos idézést küldött, miután a vállalat nem reagált a megkeresésekre.
