Winston Churchill azt írta „The Gathering Storm” (Vihar készülődik) című művében, hogy amikor Sztálinnak fölvetette a kérdést, hogy egy ügyben kérdezzék meg a pápát, akkor Sztálin így reagált: „Hány hadosztálya van a pápának?”. Ez az eset is bizonyítja, hogy a diplomácia kudarca után az erőből való politizálás következik, magyarán: ha a kereskedők nem tudnak megállapodni, akkor jönnek a katonák. Ezért adhatta XIV. Leó a Magnifica Humanitas enciklopédiájának a hadviselésről szóló fejezete címének, hogy A hatalom kultúrája és a szeretet civilizációja.

A pápa óva int az AI katonai célú használatától

Ha egy szóban kellene összefoglalni a Szentatya véleményét az AI katonai használatára az az lenne, hogy: ellenzi. Ha kétszóban, akkor az, hogy nagyon ellenzi. Ha egy mondatban, akkor az, hogy életről és halálról csak ember dönthet, nem egy algoritmus. Ezt az enciklika 198. pontjában így fogalmazza meg: 198. „Néha „mesterséges erkölcsi ágensekről” beszélnek, mintha a gépek nagyobb következetességgel lennének képesek különbséget tenni a jó és a rossz között, mint egy ember.” És a helyzet az, hogy mivel mindent gépi tanulással szerez az AI, így a morális döntéseket is tanulja. Ez borzasztó. Hogy megértsük leírom, hogy az önvezető autók elé álló egyik erkölcsi dilemmát, hogy akarták feloldani a számítástechnikusok.

A probléma az volt, hogy megy egy autó az úton és szabálytalankodó gyalogosok miatt, abba a döntési kényszerbe kerül, hogy vagy öregembert, vagy egy kisgyereket üt el. Ezt a kérdést úgy döntötték el, hogy fölrakták a problémát az internetre és bárki szavazhatott, majd megnézték, hogy melyik országban hogyan dőlt el kérdés, mondván, hogy egy ilyen dilemma föloldása kultúrafüggő. A számítógép pedig megtanulja, hogy Dubai-ban és Providence-ben mit kell tennie. De ne gondoljuk, hogy az a szörnyűség, hogy számok döntenek életekről 21. századi jelenség.

Az Engima megfejtői

Szintén az enciklika 198. pontjában ezt olvassuk: „Az erkölcsi ítélet azonban nem redukálható számításra, mivel magában foglalja a lelkiismeretet, a személyes felelősséget és a másik személyként való elismerését.” És az a helyzet, hogy már a II. Világháborúban is valószínűségek döntöttek. A németeknek volt egy kommunikációt, azaz üzeneteket titkosító eszközük az Enigma. Ezt az angolok egy gép segítségével megfejtették. De nem állítottak le az ebből származó információ alapján minden katonai akciót, mert akkor a németek néhány nap alatt rájöttek volna, hogy megfejtették a szövetségesek a kódjaikat. Ezért az angol matematikusok elkezdetek valószínűségeket számolni a lehetséges emberveszteségekről és csak ott használták fel a hírszerzői tudást, ahol a megfelelő valószínűség jött ki.

De vannak az AI világában is erkölcsös emberek

Az Anthropic egyik társalapítója és vezető AI-kutatója, Christopher Olah jelen volt és felszólalt személyesen a Vatikánban az új pápai enciklika bemutató rendezvényén. Nem véletlen, hogy éppen ő jött el erre az eseményre az AI világának fontos szereplői közül.

Az Anthropic korábban egy 200 millió dolláros szerződést kötött a Pentagonnal, amelynek keretében a Claude nevű MI-modellt titkosított katonai hálózatokon is használták tervezésre és adatelemzésre. Azonban amikor Hegseth védelmi miniszter követelte, hogy az Anthropic biztosítson korlátozás nélküli hozzáférést a technológiához „bármilyen törvényes katonai célra”. Dario Amodei, az Anthropic vezérigazgatója ezt megtagadta, meghúzva két komoly etikai vörös vonalat:

• Nem engedélyezte az MI használatát teljesen autonóm (emberi felügyelet nélküli) halálos fegyverrendszerekben.
• Megtiltotta, hogy a modellt tömeges belföldi megfigyelésre használják az Egyesült Államokban.

Mert a béke és a békés lakosság privát szférája mindig egyszerre sérül. De nem az emberé az utolsó szó a történelemben!

Lehetséges a béke társadalma

A Szentatya hosszan fejtegeti a Magnifica Humanitas-ban, hogy a háborúról nem állíthatjuk, hogy mindig is volt és mindig is lesz. Ez egyszerűen nihilizmus. A 210. pontban ezt hangsúlyozza: „A keresztény nézőpont azonban nem korlátozódik a gonosz elítélésére. A történelmet a megfeszített és feltámadt Úr fényében szemléljük, akinek az Atya „minden hatalmat adott mennyen és földön” (Mt 28,18). A jelent nem előre meghatározott sorsnak, hanem a személyes és kollektív megtérés lehetőségének tekintjük. Sőt, hiszünk az Ország erejében, amely egy apró mustármagból fakad, amely, ha egyszer elvetették, kisarjad és növekszik (vö. Mk 4,26-32). Míg a zűrzavar zűrzavara vesz körül minket, a jóság csendben sarjad a földből. Izajás próféta szavaival élve: „Íme, újat cselekszem; most sarjad, nem veszitek észre?” (Iz 43,19).”

De a pápa azt is hangsúlyozza, hogy ehhez nekünk embereknek is tennünk kell valamit a békéért. Hogy kinek mi a feladata, azt sorozatunk következő és egyben utolsó részében ismertetjük.

(Folytatjuk…)

Írta:
Rákóczi Piroska