PsyWar: A pszichológiai hadviselés művészete

A pszichológia használata az emberek befolyásolására nem új taktika; évszázadok óta használják az egyének és csoportok felfogásának és cselekedeteinek alakítására. Ma a pszichológiai hadviselést (PsyWar) a mesterséges intelligencia (AI) használatával finomítják, különösen az érzelmek manipulálására és a narratívák irányítására tervezett közösségi média botok segítségével. Ezek a botok, amelyeket gyakran “zoknibáboknak” neveznek, automatizált vagy félig automatizált fiókok, amelyek utánozzák az emberi viselkedést célzott üzenetek terjesztésére, dezinformáció vetésére vagy a közhangulat felerősítésére.  A NYU Stern Üzleti és Emberi Jogi Központjának jelentése szerint az ilyen botok az aktív Twitter-fiókok mintegy 15%-át teszik ki, és a közvéleményre gyakorolt hatásuk jelentős lehet.

Hogyan működnek a PsyWar botok?

A PsyWar botok kifinomult algoritmusokat használnak a felhasználókkal való interakcióhoz a közösségi médiában, gyakran olyan technikákat alkalmazva, amelyek célja érzelmi reakciók, például félelem, harag vagy felháborodás kiváltása. Ezek a robotok a következőket tudják:

• Célzott tartalom: Ossza meg vagy retweetelje a közönség meggyőződéséhez vagy elfogultságához igazodó tartalmat, hogy növelje elkötelezettségét.
• Használjon érzelmi nyelvet: A felhasználói adatok elemzésével a robotok olyan szavakat és kifejezéseket választanak, amelyek erős érzelmi reakciókat váltanak ki, amint azt az MIT tanulmánya leírja, amely  kimutatta, hogy a hamis információk hatszor gyorsabban terjednek, mint a valódi információk.
• A polarizáció elősegítése: A botok felerősítik a megosztottságot azáltal, hogy ellentétes narratívákat tolnak, ami “visszhangkamra” hatáshoz vezet, amint azt az Oxford Internet Institute jelentése kiemeli.
• Az emberi viselkedés utánzása: A fejlett robotok mesterséges intelligenciát használnak hitelesnek tűnő beszélgetések létrehozására, gyakran becsapva a felhasználókat, hogy elhiggyék, hogy egy géppel lépnek kapcsolatba.

Például a 2016-os amerikai választások során a Dél-Kaliforniai Egyetem kutatása szerint  a választási tweetek mintegy 19%-át olyan botok generálták, amelyek kifejezetten felerősítették az olyan polarizáló kérdéseket, mint a bevándorlás vagy a faji kérdések.

A mesterséges intelligencia szerepe a PsyWar felerősítésében

A mesterséges intelligencia nagymértékben javította a PsyWar botok képességeit. A gépi tanulás révén ezek a robotok a következőket tudják:

• Valós időben elemezheti a felhasználói profilokat, hogy a tartalmat az egyéni preferenciákhoz, politikai beállítottságokhoz vagy érzelmi kiváltó okokhoz igazítsa.
• Használja a természetes nyelvi feldolgozást (NLP) az emberhez hasonló válaszok generálásához, mint például az olyan modellek esetében, mint a GPT-3 vagy újabb iterációk.
• Több ezer fiók egyidejű koordinálása, hogy egy adott ötlet vagy mozgalom széles körű támogatottságának benyomását keltse – ezt a jelenséget “asztroturfálásnak” nevezik.

A NATO Stratégiai Kommunikációs Kiválósági Központjának jelentése  megállapította, hogy a mesterséges intelligencia által vezérelt botokat dezinformáció terjesztésére és a közvélemény manipulálására használták geopolitikai események, például a 2020-as fehéroroszországi tüntetések során.

A társadalomra gyakorolt hatás

A PsyWar botok elterjedése messzemenő következményekkel jár:

• A bizalom eróziója: A dezinformáció terjesztésével a botok aláássák a médiába, az intézményekbe, sőt az interperszonális kapcsolatokba vetett bizalmat.
• A közvélemény manipulálása: A botok befolyásolhatják a választásokat, tiltakozásokat vagy politikai mozgalmakat azáltal, hogy megerősítik az egyes szereplőknek kedvező narratívákat.
• Pszichológiai szorongás: A manipulatív tartalomnak való állandó kitettség félelmet, haragot vagy apátiát válthat ki, ami befolyásolja a felhasználók mentális egészségét.

A Pew Research Center tanulmánya szerint a szakértők 66%-a úgy véli, hogy 2025-re a mesterséges intelligencia által vezérelt manipuláció uralja a digitális tájat, ami tovább bonyolítja az emberek azon képességét, hogy különbséget tegyenek az igazság és a hamisság között.

PsyWar az egészségügyi válságban

A COVID-19 világjárvány idején a PsyWar botok jelentős szerepet játszottak az oltásokkal, maszkokkal és kezelésekkel kapcsolatos félretájékoztatás terjesztésében. A Center for Countering Digital Hate tanulmánya  megállapította, hogy a Twitteren és a Facebookon található oltásellenes tartalmak akár 65%-a mindössze 12 fióknak tulajdonítható, amelyek közül sokat botok erősítettek fel. Ezek a botok érzelmi kiváltó okokat – például a mellékhatásoktól való félelmet vagy a gyógyszergyárakkal szembeni bizalmatlanságot – használták a kétségek elvetésére.

Például a botok olyan narratívákat terjesztenek, mint “a vakcinák meddőséget okoznak” vagy “a maszkok károsak az egészségre”, gyakran hamis tanulmányokra vagy elfogult adatokra hivatkozva. Az ilyen kampányokról kimutatták, hogy bizonyos közösségekben alacsonyabb oltási hajlandósághoz vezetnek, amint azt az Egészségügyi Világszervezet jelentése dokumentálja.

Hogyan védekezhet a PsyWar botok ellen?

A PsyWar botok elleni küzdelem egyéni éberséget és szisztematikus intézkedéseket igényel:

• Kritikus gondolkodás: Ellenőrizze a forrásokat, és kérdezze meg az erős érzelmi reakciókat kiváltó tartalmat. Az olyan platformok, mint a Snopes vagy a FactCheck.org segíthetnek azonosítani a félretájékoztatást.
• Médiaműveltség: Tanulja meg felismerni azokat az automatizált fiókokat, amelyek ismétlődő nyelvezettel, túlzott megosztással vagy személyes adatok hiányával tűnnek ki.
• Technológiai megoldások: Egyes vállalatok mesterséges intelligencia eszközöket fejlesztenek a botok észlelésére, mint például a Botometer, amelyet  az Indiana Egyetem üzemeltet.
• Szabályozási intézkedések: A kormányoknak és a platformoknak szigorúbb iránymutatásokat kell bevezetniük a dezinformáció botokon keresztüli terjedésének megfékezésére, amint azt az EU a digitális szolgáltatásokról szóló jogszabályban kéri.

Eredmény

A mesterséges intelligencia által működtetett PsyWar botok egyre nagyobb problémát jelentenek a digitális korszakban. Az érzelmek manipulálásának és a narratívák irányításának képessége veszélyt jelent a demokráciára, a közegészségügyre és a társadalmi szövetre. Míg a technológia kétélű kard – lehetővé teszi a manipulációt és az ellenintézkedéseket –, az egyének, a kormányok és a platformok felelőssége e botok elterjedésének megfékezése. Az információs környezet jövője attól függ, hogy mennyire hatékonyan felelünk meg ennek a kihívásnak.