Az OpenAI feloszlatta a mesterséges intelligencia hosszú távú kockázataival foglalkozó részlegét, mindössze egy évvel azután, hogy a vállalat bejelentette a csoportot – írja a CNBC.

Az OpenAI tavaly bejelentett Superalignment csapata “a nálunk sokkal okosabb AI-rendszerek irányítására és ellenőrzésére irányuló tudományos és technikai áttörésekre” összpontosított. Az OpenAI akkor azt mondta, hogy négy év alatt számítási teljesítményének 20%-át fogja a kezdeményezésre fordítani. A lap forrása szerint a csapataot feloszlatták, és a csapat néhány tagját a vállalaton belül más pozíciókba helyezik át.

A hír napokkal azután érkezett, hogy az OpenAI társalapítója, Ilya Sutskever és Jan Leike bejelentette távozását a Microsoft által támogatott startupból. Leike pénteken azt írta, hogy az OpenAI “biztonsági kultúrája és folyamatai háttérbe szorultak a csillogó termékek mögött”.

“Azért csatlakoztam, mert úgy gondoltam, hogy az OpenAI lesz a legjobb hely a világon a kutatáshoz” – írta Leike az X-en. “Azonban már jó ideje nem értettem egyet az OpenAI vezetésével a cég alapvető prioritásaival kapcsolatban, míg végül eljutottunk a töréspontra”.

Sutskever és Leike kedden jelentette be távozását az X közösségi médiaplatformon, pár órás különbséggel. Leike azt írta, hogy szerinte a vállalat sávszélességének sokkal nagyobb részét kellene a biztonságra, a megfigyelésre, a felkészültségre, a biztonságra és a társadalmi hatásokra összpontosítani.

“Ezeket a problémákat elég nehéz jól megoldani, és aggódom, hogy nem vagyunk olyan pályán, hogy ezt elérjük” – írta. “Az elmúlt hónapokban a csapatom széllel szemben vitorlázott. Néha [a számítástechnikai erőforrásokért] küzdöttünk, és egyre nehezebb volt elvégezni ezt a létfontosságú kutatást”.”

Leike hozzátette, hogy az OpenAI-nak “a biztonságot előtérbe helyező AGI-vállalattá” kell válnia.

“Az embernél okosabb gépeket építeni természeténél fogva veszélyes vállalkozás” – írta.