Ott hagytuk abba a múlt héten a pápa mesterséges intelligenciájáról szóló Magnifica Humanis kezdetű enciklikájáról való beszámolót, hogy az AI lehet a saját farkába harapó kígyó, de az is lehet, hogy belülről széthasad. Mire alapozom ezt?

A pápa szerintem elfogadná

Az az érzésem, hogy XIV. Leó elfogadná tőlem azt a hasonlatot, hogy az AI olyan, mint egy kígyó. A sorozatunkban tárgyalt enciklika 104. pontjában ugyanis ezt mondja: „Ha egy rendszert úgy terveznek vagy használnak, hogy egyes életeket kevésbé értékesnek tekint, vagy kizárja őket a fellebbezés lehetősége nélkül, akkor az nem csupán egy „jól használható” eszköz, mivel már olyan kritériumokat vezetett be, amelyek ellentmondanak az emberi személy elidegeníthetetlen méltóságának. Emiatt az etikai megkülönböztetés nem korlátozódhat arra a kérdésre, hogy jó vagy rossz célokra használunk-e egy rendszert; azt is meg kell vizsgálnia, hogyan van ez[P1]  a rendszer megtervezve, és az emberi személyről és a társadalomról alkotott milyen vízió ágyazódik be az azt irányító adatokba és modellekbe.”

Kemény szavak. Ezek azt mondják, hogy az AI magában, korrekciók és korlátok nélkül rossz. De az is lehet, hogy a rémképként elénk tárt rémuralom éppen az által a piaci logika által fog elenyészni, mint amelyik most munkahelyek megszűnéséhez vezet.

A pesszimisták és az optimisták

Van egy közismert mondás, ami szerint mindenkinek az álláspontját az üléspontja határozza meg. Ezért nem csodálkozunk azon, ha az állásukat vesztett programozók arról írnak, hogy az AI által írt programok hibásak, és már tele van velük az internet, ami egy ponton túl pontatlanságokhoz, majd bizonyos szolgáltatások összeomlásához vezet.

Mások, akik lelkes hívei a környezetvédelemnek azt a tényét ismételgetik, hogy az AI-rendszerek fönntarthatatlanok, mivel a hatalmas adatközpontok több tízezer számítógépe iszonyatos mennyiségű energiát fogyaszt és a rendszerek hűtésére elképzelhetetlenül sok vízre van szükség. Ezt senki sem tagadja az adatközpontok tulajdonosai közül. A tech cégek vezetői ezért elindítottak két folyamatot, aztán jött Elon Musk. Mi volt az a két folyamat? Azért lobbiztak, hogy építsenek Amerikában sok törpe atomreaktort, és elkezdtek pénzt folyatni a fúziós erőművekkel kapcsolatos kutatásokba. A fúziós erőművek gyakorlatilag végtelen és sugárzás nélküli energia előállítására képesek. De, mint írtam, van egy harmadik megoldás is. Elon Musk azt tervezi, hogy az adatközpontokat műholdakra építi, mert az űrben a napenergiából sokkal több tud hasznosulni, így elegendő lenne a számítógépek működtetésére, és az űrben hűteni sem kellene a gépeket. (Néhány napja pedig a chipek legnagyobb gyártója az NVIDIA azt mondta, hogy ugyanannyi áramból, mint eddig 40%-kal több teljesítményt lehet az új GPU-jukkal.)

Egy másik nagy állítás az AI gazdaságosságával kapcsolatban, hogy nem rentábilis. Ez igaz, de ez csak addig van, amíg a tech cégek tartják a nyomott áraikat. Van már olyan cég, amelyiknek a bevételeinek a növekedése növekszik hónapról hónapra. Ugyanakkor azt is látnunk kell, hogy Sam Altman cége, a legismertebb AI vállalkozás olyan sok befektetést kapott, mint semmilyen más cég eddig nem és még mindig nem produkált nyereséget. A pesszimisták azt mondják, hogy Sam Altman hamarosan csődöt jelent, de Sam Altman legutóbb egy olyan alap létrehozását jelentette be, ahová majd az AI biztonságával és kedvezőtlen társadalmi hatásával kapcsolatos kutatások vezetői fordulhatnak támogatásért. Mert komoly társadalmi változást hoz, és erről is szól XIV. Leó most tárgyalt enciklikája.

A Magnifica Humanitas és a társadalmi változások

A pápa fő kérdése az AI-jal kapcsolatban, hogy teljesebb emberré válik-e az ember, ha igénybe veszi, amit az AI tud. Az enciklika 129. pontjában azt kérdezi, hogy az AI emberibbé teszi-e a földön élő emberek életét, annak minden aspektusában: Emberhez méltóbbá teszi-e [a földi életet]? (..does AI “make human life on earth ‘more human’ in every aspect of that life? Does it make more worthy of man?”) Az ember földi életével kapcsolatban ez valóban eget rengető kérdés. Egy olyan komoly kérdés, amit a pápa abból kiindulva boncolgat, hogy tudatja az olvasóval, hogy korunk emberének életfelfogása krízis jeleit mutatja. Erről Jézus Krisztus földi helytartója így ír:

„118. Úgy tűnik, hogy az élettel való kapcsolatunk ma válságban van. Mindent, ami „korlátnak” tűnik – a cselekvőképtelenség, a betegség, az öregség, a szenvedés, a sebezhetőség –, hajlamosak vagyunk elsősorban egy kijavítandó hiányosságnak tekinteni, nem pedig olyan valóságnak, amelyen keresztül emberségünk érik és megnyílik a kapcsolatokra. És mégis emlékeznünk kell arra, hogy az emberiség nem a korlátok ellenére, hanem gyakran azok által virágzik. A hit fénye olyan perspektívát kínál a valóságra, amely segít felismerni azt, amit e világ dolgainak „esetlegességének” nevezünk. Bár helyes törekedni az emberi életet jelző szenvedés enyhítésére, bölcs dolog elismerni alapvető végességünket is, tudván, hogy „a vallási tapasztalat, és különösen a keresztény hit, azt javasolja, hogy túlzott leegyszerűsítés nélkül éljük meg ezt az ambivalenciát az emberi nagyság és a korlátok között, és értelmezzük azt Istennel való eredeti és alapvető kapcsolatunk fényében.” [International Theological Commission, Quo vadis, humanitas? Thinking about Christian anthropology in the face of some scenarios on the future of humanity (9 February 2026), 3.] 

119. Pontosan a korlátainkon belül találnak helyet a következők: az együttérzés, valamint az őszinte törődés mások szükségletei iránt; a nagylelkűség, amely még a sötétség és a kudarc közepette is felbukkanhat; lelki élmény és Isten imádata. Ezt sok olyan pillanatban látjuk, amikor korlátaink kézzelfoghatóvá válnak: amikor elutasítással nézünk szembe, amikor betegségben szenvedünk vagy elveszítünk egy szeretett személyt, amikor szembesülünk saját gyengeségünkkel vagy kudarcunkkal. Titokzatos módon éppen ezekben a pillanatokban fedezhetünk fel új bölcsességet, kézzelfoghatóan megtapasztalhatjuk mások közelségét és találkozhatunk az Úr jelenlétével.” De hogyan veszélyezteti az AI az együttérzés vagy a másokról való gondoskodás erényét?

Határozott nem az ember-gép-hibridre

A pápa kategorikusan elítéli a transzhumanizmust. Nemet mond arra, hogy az emberekbe gépeket építsenek be. Az hibrid lény, ami így keletkezne csak egy rabszolgához lehetne hasonló, a rabszolgatartás pedig égbekiáltó bűn. De akkor is sok baj van a mesterséges intelligenciával, hacsak magában áll, nincs az emberi testbe beépülve.

Amit a fodrásznál halottam

A fodrászom néhány hónapja elmondta nekem, hogy ő már nem a Google-ban keresi a választ a kérdéseire, hanem letöltött a mobiljára egy AI válaszadó eszközt és annak tesz fel minden kérdést, így az egész sokkal kényelmesebb. De mi ezzel a baj?

A Szentatya több problémát is fölvet. Az egyik, hogy azt a rengeteg tudást, amit az AI válaszadó alkalmazások szerezetek, emberek százmilliói adták össze az interneten és könyvekben, de a hasznát csak kevesen húzzák. Másrészt leírja a pápa, hogy ami eddig a demokráciákban keresendő és kereshető volt, az napjainkban rendkívül könnyen megmásítható – és ez nem más, mint maga az igazság. A harmadik sérülékeny terület az oktatás. A negyedik méretes probléma pedig, hogy óriási mértékű munkanélküliség várható. (Én ezt inkább munkátlanságnak nevezném.) De ez még mindig nem a legrosszabb. A legrosszabb a háború. És nagyon rossz lenne, állítja a papa, ha a háborúskodásba minden emberi kontrol nélkül bevonnánk az AI-t. Erről írok majd a harmadik részben. (Folytatjuk!)

Írta:
Rákóczi Piroska