2024.május 26.
Fülöp, Evelin

Mennyire valós a Terminátor-veszély?

Facebook
Email
Telegram
Twitter
VK
Nyomtat
372046 123rf hu killer robot terminator k

Adja hozzá a VDTA friss híreit a Google hírfolyamához

Egy mesterségesintelligencia (MI)-szakértővel, egy hozzáértő kutatóval, fejlesztési vezetővel beszélgettünk arról, hogy ténylegesen hol tartanak ma az MI-fejlesztések. Mit tudnak valójában, hol veszi át a helyünket a ChatGPT és társai? Valós veszély a Terminátor-forgatókönyv?

Az interjút Halaska Gábor készítette.

– Vágjunk rögtön a közepébe! Egy „szélhámos”, azaz ügyesen hazudó, a szavakat kiválóan forgató, de azért nyilván hézagos tudású mesterséges intelligencia, a ChatGPT az utóbbi hónapokban a globális médiafigyelem középpontjába hozta az MI képességeit. Mit gondol emberileg és szakmailag az újdonságról?
– Mint kutató, természetesen érdekes számomra és nagyon izgalmas az MI, különösen a ChatGPT mögötti technológia gyors fejlődése és annak hatása a világra. Azonban fontos tisztázni, hogy a ChatGPT és a hozzá hasonló úgynevezett nagy nyelvi modellek nem „szélhámosok” vagy „hazudósok”. A gépi tanulás által létrehozott rendszereknek, mint például a ChatGPT-nek, nincs saját tudata vagy szándéka, ezért nem hazudnak vagy vezetnek félre úgy, ahogy az emberek értelmezik ezeket a fogalmakat. 

– Akkor miért tűnik ez mégis így?
– Az ezekből a rendszerekből kieső, esetlegesen hamis vagy hiányos információk a rendszer egyik orvosolandó hibája, amit „hallucinációnak” hívunk. Mivel az ilyen rendszerek hatalmas mennyiségű adaton tanulnak, és úgy alkották meg őket, hogy a kérdésekre koherens és „valószínű” választ adjanak, hiányában annak a képességnek, hogy validálják vagy felismerjék az információ forrását és igazságtartalmát, időnként téves információkat adnak nekünk, de szó sincs szándékosságról.

– Hogyan értékeli a ChatGPT-t szakmai szemmel?
– Ami az újdonság értékelését illeti, mind emberként, mind szakértőként azt gondolom, hogy a ChatGPT és hasonló technológiák lenyűgözők, és a fejlődés egyik meghatározó alapkövei, de fontos a megfelelő kontextusban értelmezni és alkalmazni őket. Meg kell tanulni használni őket! Az ezeken a technológiákon alapuló rendszerek nagyszerű eszközök lehetnek a felhasználókkal való interakció, a kutatás, az oktatás és sok más területen, de fontos, hogy megértsük a korlátaikat és felelősségteljesen használjuk őket.

– Mennyivel fejlettebb a ChatGPT-4 azoknál a csevegőrobotoknál, amelyekkel évek óta találkozunk, többek közt nagy magyar telekommunikációs cégek és pénzügyi óriások oldalain, ügyfélszolgálatain?
– A ChatGPT-4 jelentős előrelépést jelent a korábbi chatbot-technológiákhoz képest, amelyekkel több nagy magyar és külföldi telekommunikációs cég és pénzügyi óriás ügyfélszolgálatán találkozhatunk. Hogy megértsük, mennyivel fejlettebb, hoznék egy példát, hogy érzékeltessem a különbséget. Tegyük fel, hogy egy régebbi technológiai alapokon működő csevegőrobot egy szabályalapú GPS-hez hasonlít. Ha megmondjuk neki, hogy menjen A-ból B-be, akkor ezt képes végrehajtani. Azonban ha váratlan helyzet adódik, mint például egy útzár vagy egy elterelt útvonal, akkor nem képes alkalmazkodni, mert nincs benne ilyen szabály, tehát nem képes új és előre nem leprogramozott esettel számolni. Így előfordulhat, hogy az újratervezés funkció is megbukik.

A GPT-4-et viszont már egy önvezető autóba szerelt „navigációs rendszerhez” hasonlítanám. Ez képes alkalmazkodni az új környezeti információkhoz, új útvonalakat találni, és javítani az útvonalán, ha szükséges.

Mindez azért lehetséges, mert a rendszer nemcsak szabályokon alapul, hanem gépi tanulási algoritmusok segítségével rengeteg útvonal adataiból okul. Vagyis képes az adatokból „tanulni”, és egy mesterségesen reprezentált tudáson alapulva döntést hozni akkor is, ha a megváltozott körülmény a tanuló adatbázisában nem szerepelt.

molnos jozsef mi szakerto

– Mi a helyzet a képeket, grafikákat és digitális fesményeket „alkotó” okosprogramokkal?
– A művészet és a mesterséges intelligencia kereszteződésében a közelmúltban több izgalmas fejlemény történt. Az MI képes arra, hogy képeket hozzon létre, grafikákat és digitális festményeket alkosson oly módon, amit korábban elképzelni sem lehetett volna. Ezek az okosprogramok generatív algoritmusokat alkalmaznak arra, hogy létrehozzanak lenyűgöző és valósághű mesterséges alkotásokat.

– Tudunk erre példát mondani?
– Az egyik legismertebb az OpenAI által kifejlesztett DALL-E, amely képes rajzolni vagy létrehozni új képeket bármilyen leírás (szaknyelven: prompt) alapján. Az eredmények a legtöbb esetben lenyűgözők és olykor meglepők. Egy ilyen program képes olyan kreatív kimeneteket létrehozni, amiket még soha nem is látott azelőtt a tanítása során. Példákat mutatnak neki, de amit generál, azt a felismert minták kombinációjával hozza létre.

– Akkor az MI most művész, alkotó lesz?
– Nem, én határozottan úgy gondolom, hogy az MI-alapú „művészprogramok” nem minősülnek „alkotóknak” emberi értelemben véve. Egy alkotói folyamat emberi részvételt, érzelmeket igényel. Egy MI, mint a DALL-E, nem képes érzelmeket belevinni az alkotásaiba.

Ezek az MI-rendszerek nem értik vagy érzik a műveiket, csupán a korábban látott mintákra asszociálnak, és ezekből hoznak létre képeket, festményeket, valamint alkalomadtán 3D-modelleket is manapság.

– Milyen kifutása lehet a mesterségesen kreált MI-művészetnek?
– Ezek az MI-vezérelt „művészrendszerek” nagy lehetőségeket tartogatnak a művészet, valamint a kreatív ipar számára, és már most is hatalmas hatással vannak a művészeti világra. De azt fontos kihangsúlyozni, hogy mindig is szükség lesz az emberi alkotókra, akik az érzelmeket, a gondolatokat és az inspirációt viszik bele a műalkotásokba, akár az MI-nek adott instrukciók, a már említett kérések, azaz a promptok által. Ezek lehetnek vázlatrajzok, de persze szöveges instrukciók is.

– Melyik az az 5-10 kiemelt terület, ahol már most vagy legfeljebb néhány éven belül óriási változásokat hoz az MI gyakorlati, mindennapi alkalmazása?
– A mesterséges intelligencia hatását számos területen érzékelhetjük, és a jövőben ez a hatás tovább növekszik. Az egészségügyben az MI segíthet a diagnózisok felállításában és a személyre szabott kezelési tervek kidolgozásában. A környezetvédelem és a fenntarthatóság területén segíthet a klímaváltozás hatásainak mélyebb megértésében és modellezésében, az energiahatékonyság javításában, a megújuló energiaforrások optimalizálásában.

– És ez még csak a kezdet, igaz?
– Valóban. Rövidesen az okosvárosok és -infrastruktúrák területén az MI képes lehet a forgalom optimalizálására, a közlekedési infrastruktúra javítására, az ezzel kapcsolatos környezeti adatok elemzésére és a városi infrastruktúra kifinomultabb tervezésére. Az oktatásban személyre szabott tanulási terveket hozhat létre, amely figyelembe veszi egy diák egyéni képességeit és előrehaladását a terv alapján, kimutatva ezzel az őt akadályozó folyamatokat, valamint képes lehet meghatározni a nála működő személyes preferenciákon alapuló adaptív stratégiák kialakítását.

– Az üzletben mire lesz először használható az MI?
– A kereskedelem és az ügyfélszolgálat területén előrejelzéseket készíthet a vásárlói magatartásról, automatizálhatja az ügyfélszolgálati folyamatokat és személyre szabott élményeket nyújthat a felhasználók számára. A pénzügyi szolgáltatásokban segíthet a kockázatkezelésben, a csalások megelőzésében, emellett lehetővé teheti a személyre szabott pénzügyi termékek és szolgáltatások kialakítását, ami nagy értéket képvisel a vállalatok számára.

– És a gyártás, illetve a kutatás területén?
– Ezeknél segíthet optimalizálni a termelést, előre jelezni a keresletet és javítani az ellátási lánc hatékonyságát. A tudományos kutatásban pedig segítségünkre lehet új tudományos összefüggések felfedezésében, és segíthet megérteni bonyolult rendszereket, például bizonyos biológiai hálózatokat, mint az agy vagy a DNS. Ám említhetném az űrkutatást is, ahol rengeteg mennyiségű adat keletkezik, amit egy mesterséges intelligencia gyorsabban tud elemezni és ezekből összefüggéseket kimutatni, ezzel segítve mondjuk egy-egy asztrofizikai jelenség megértését.

– Melyek azok a területek, ahol 20-30 éven belül sem igazán hozhat változásokat az MI alkalmazása?
– Az előrejelzések szerint, mint az imént beszéltük, a mesterséges intelligencia igen jelentős változásokat hozhat, ám valóban vannak olyan területek, ahol

a hatása valószínűleg korlátozott lesz a következő 20-30 évben. Ilyennek számít minden olyan dolog, amelyben az emberi érzelmek és kapcsolatok nagy szerepet játszanak. Az ilyen interakciók bonyolultak és mélyen személyes jellegűek, amit az MI-nek még hosszú ideig nehéz lesz teljes mértékben megérteni vagy utánozni.

Az MI képes lehet érzelmeket felismerni és előre jelezni azokat bizonyos kontextusokban, de az emberi érzelmek teljes mélységének és bonyolultságának megértése vagy átélése valószínűleg hosszú időn át túlmutat a képességein.

– Volt szó a művészetekről, itt is hasonló a helyzet?
– Igen, a művészet és a kreativitás is hasonlóan összetett terület. Az MI segíthet a művészeti alkotások létrehozásában, de a művészi inspiráció, a szenvedély, az érzelmek és a kreatív gondolkodás teljes megértése vagy utánzása valószínűleg nem tartozik majd a képességei közé.

– Milyen döntéseket bízhatunk majd az MI-re?
– Az értelmezés és a bonyolult döntéshozatal is egy olyan terület, ahol az MI korlátozott módon tud majd működni. Képes az adatok elemzésére és meghatározott előrejelzésekre, ilyen rendszerek már évek óta léteznek, de a bonyolult, kontextusfüggő döntéshozatali folyamatok, amelyek az emberi tapasztalatokon, az intuíción és az etikán alapulnak, valószínűleg meghaladják majd a képességeit. Továbbá az empátia és a gondoskodás területén az MI hasznos lehet. Így például a szociális területeken, mint a mentálhigiénia, az idősgondozás és hasonlók.

Ám az emberi empátia és a gondoskodás teljes mértékű utánzása valószínűleg jóval túlmutat nemcsak a jelenlegi, de várhatóan az MI jövőbeli képességein is.

– Mit és hogyan érez, érzékel az MI?
– Ahogyan utaltam már rá: a fizikai interakciók és az érzékelés területén az MI és a robotika képes lehet néhány feladat elvégzésére, de az emberi érzékelés teljes spektrumának utánzása, beleértve a tapintást, az ízérzékelést vagy a fájdalmat – és úgy általában véve az emberi érzékelést – valószínűleg ugyanúgy túlmutat a jövőbeli képességein, mint az érzelmek utánzása, modellezése. Ám fontos kihangsúlyozni, hogy a technológiai fejlődés üteme nagyon felgyorsult, így e mai, általam vázolt korlátok is mindössze a mai tudásunkon alapuló feltételezések.

– Ha már itt tartunk. Az MI jogi-társadalmi szabályozása egyre fontosabb téma. Jól gondolom, hogy egyfelől az online térben kell majd egy pecsét, hogy mi az amit „ember írt, rajzolt, mondott, nyilatkozott és mi az amit MI; továbbá mi az, amit félig MI, félig ember és mi az, amit teljesen MI alkotott?
– Igen, ez egy abszolút valid kérdés. A mesterséges intelligencia terjedésével egyre fontosabb lesz az átláthatóság és a felelősség kérdése. Egy ilyen „pecsét” vagy jelölési rendszer segíthet abban, hogy az emberek megértsék, mely tartalmakat hozta létre ember, melyeket az MI. Az is fontos, hogy felismerjük, amikor az MI és az ember közösen dolgozik, mert ez gyakran előfordul, például amikor az MI javaslatokat tesz, de végül az ember hozza meg a döntést. Itt is nagyon fontos, hogy a javaslattétel milyen adatokból származik, és milyen rendszer adta. Fémjelezni kell ezeket, hiszen az információkra mindig hivatkozni kell. Ugyanígy egy MI-rendszernek is. Meg kell tudnia mondania, hogy milyen információkkal dolgozott, és mi a következtetésében megbújó logika. 
Az ilyen jelölések segíthetnek abban, hogy megértsük, honnan származik az információ, és hogy hogyan értelmezzük azt. Ez különösen fontos lehet az olyan helyzetekben, ahol az MI-nek nagy a hatása, például a hírek generálása, bizonyos médiatartalmak létrehozása vagy például a digitális asszisztensek által nyújtott tanácsok.
Ez a felvetés szorosan kapcsolódik az MI szabályozásának tágabb kérdéseihez, beleértve az adatvédelmet, a felelősségvállalást és az etikai megfontolásokat. Az MI fejlesztésével és alkalmazásával kapcsolatos döntéseknek átláthatónak, elszámoltathatónak kell lenniük, és figyelembe szükséges venniük a felhasználók jogait és érdekeit. Egyelőre várunk az MI-rendszerekkel kapcsolatos döntéshozói iránymutatásokra, illetve regulációkra. 
Ezekben a kérdésekben egyre nagyobb szerepet kapnak a kormányok, a szabályozó hatóságok, az iparágak és a társadalom. A cél az, hogy olyan szabályozási kereteket hozzunk létre, amelyek elősegítik az MI fejlődését és alkalmazását, miközben biztosítják a biztonságot és az átláthatóságot.

A deepfake-ek szűrése sajnos nem minden esetben könnyű, és a későbbiekben sem lesz az, hiszen gép által generált tartalmakat leginkább gépek tudják jól felismerni, így szükség  van szűrőalgoritmusok beiktatására is, méghozzá a nagyon közeli jövőben.

– Milyen lesz az MI és a blokklánc által felturbózott pénzügyi világ?
– Ez egy nagyon nehéz kérdés, és nagyrészt politikai kérdéseket feszeget a téma abban a tekintetben, hogy a világ a centralizált pénznemek irányába tart, ugyanis a készpénz láthatóan és tervezett módon megszűnőben van. A blokklánc-technológia rengeteg lehetőséget rejt magában, hiszen rendkívül biztonságosnak minősül a piacgazdaságban, de a politikai döntéshozók most nagy erőkkel azon munkálkodnak, hogy a készpénzt mint fizikai fizetőeszközt minél hamarabb kivezessék, és azt is elképzelhetőnek tartom, hogy a digitális pénznemekkel együtt regulációk is érkeznek. Ám ezekről a folyamatokról semmit sem tudunk azzal kapcsolatban, hogy hogy állnak a hivatalos, bevezetéssel járó kísérletek, így megmondani is nehéz, hogy milyen irányba tart ez a terület. Az MI szerepét viszont jobban átláthatjuk, hiszen a trendeket figyelembe véve számos dologban segítségére lehet ennek az új világnak. Ezek közé tartozik minden, a metaverzumban elképzelt automatizáció, mint például a metaverzumban végbemenő tranzakciók kezelése. Ilyenek lehetnek az NFT-k, vagy a közvetlen kereskedés, de a metaverzum tekintetében már nem fizikai produktumot vásárolunk majd, hanem szellemi és digitális alkotásokat.

Az üzleti modell jelenleg beláthatatlan a pénzrendszer átláthatatlan változásai miatt, de azt is fontos megjegyezni, hogy a metaverzum egyelőre inkább vízió, mint tényleges üzleti trend.

– De mi lesz ha elkezd a dolog megvalósulni?
– Amennyiben egy teljesen kész virtuális világ áll a rendelkezésünkre, akkor az sok olyan lehetőséget tartogat az emberiség számára, amit a fizikai valóságban nem tudunk megvalósítani, és az is könnyedén elképzelhető, hogy a mindennapjaink részévé válik ugyanúgy, mint a közösségi média. Eltöltünk x időt benne, és lesznek olyanok is, akik az átlagnál is többet töltenek el itt. Ha pedig valamilyen fizetési rendszer is bekerül ebbe a metaverzumba, akkor az is lehetséges, hogy sokan itt költik el a megkeresett vagy szerzett pénzüket. Persze ez függ attól, hogy milyen vásárlási lehetőségek lesznek benne.

– Az MI tényleg fenyegeti az emberiséget olyan módon, akár a Terminátor filmekben vagy az Ex Machina című filmben láttuk? Ha igen, akkor ez az „öntudatára ébredő MI” milyen időtávon lehet reális forgatókönyv?  
– Az MI használatában valóban lehetséges olyan kimenetel, ahol egy operátor (kezelő) olyan módon használ egy MI-rendszert, amely káros lehet más emberek számára. Ilyen létező veszély már most is fennáll. Erre példa a szándékos dezinformáció, amit MI által generált tartalommal lehet elérni. A Skynet és a terminátor kérdése rendszerint a kérdések középpontjában van, hiszen mindenki azt gondolja, hogy egy mesterséges rendszer öntudatára ébredésének egyenes következménye az, hogy az azonnal az emberiség ellen fordul, ami jelenleg még filozófiai kérdés. 

– Mit gondol erről?
– Az igazság az, hogy nem tudjuk, hogy a Terminátor-szintű egységes rendszer, mint a fiktív Skynet a valóságban az emberiség ellen fordul-e, és ha esetleg igen, akkor miért tenné.  

Az öntudat bonyolult folyamat, és véleményem szerint mesterségesen, illetve önálló módon való kialakulásának a „veszélye” nem fenyeget a közeljövőben.

Az azonban igaz, hogy a technológia fejlődése és a fejlődés ütemének állandó gyorsulása ezt a felvetést is teletűzdeli kérdésekkel.
Az emberi szintű öntudat valószínűleg a távoli jövő, de az azt imitáló rendszerek hamarabb létrejöhetnek, amely mögött mi emberek maradunk és mint minden, az emberiség által feltalált kétélű eszköz, ez is tartogat veszélyeket számunkra. Egyelőre azonban valósabb forgatókönyvnek tartom azt, hogy mi magunk fordítjuk majd magunk ellen ezeket a rendszereket, mint hogy az MI-k fordulnának ellenünk.

NÉVJEGY
Molnos József, 30 éves – MI-kutató, vezető fejlesztő
– Társtulajdonos és CTO a Tris Universe Inc.-nél.
– Több mint 6 éve dolgozik a mesterségesintelligencia-kutatás és -fejlesztés területén.
– Tanulmányait villamosmérnökként kezdte.
–  Eleinte kurzusok és könyvek formájában, később gyakornokként fejlesztette programozói tudását. 
– Tudásvágya révén az automatizáció irányába fordult, és az USA-ban indított vállalkozást társaival. Rövidesen a malajziai királyi rendőrségnek fejlesztettek.
– Eleinte chatbotokkal foglalkozott, később az öntanuló algoritmusokon nyugvó Q&A-rendszerekkel (természetes nyelvű lekérdező rendszerek – a szerk.), így még mélyebb és szerteágazóbb kapcsolatrendszerre, értékes tapasztalatra és tudásra tett szert. 
– Ma főképp a kutatásokat vezet.
– Hobbijai: meditáció és kiegyensúlyozott testedzés, elsősorban kutatási anyagok értelmező olvasása és természetesen a családdal töltött minőségi idő. Mindemellett a Marvel-képregények és -filmek nagy rajongója.

Forrás:Mandiner

Mi a reakciód?
👍tetszik
0
👍tetszik
👎nem
0
👎nem
💘szeretem
0
💘szeretem
😡dühítő
0
😡dühítő
😂vicces
0
😂vicces
😮húha
0
😮húha

Vélemény, hozzászólás?

Iratkozzon fel a Védett Társadalom Alapítvány hírlevelére!

Adja hozzá a VDTA friss híreit a Google hírfolyamához

További cikkek