🌐💻Hinton szerint az MI „nagyon különbözik” a nukleáris fegyverektől, mivel utóbbiakat „csak rossz dolgokra lehet használni”. Ez azonban nem jelenti azt, hogy ne állna fenn annak a veszélye, hogy a technológia akár úgy is a pusztulásunkhoz vezethet, hogy erre „tudatosan” nem törekszik – mondta a 70-es évek óta az MI területén dolgozó, tapasztalt mérnök.‼️

🔴 „Tegyük fel, hogy azt mondanám egy nagyon intelligens MI-ügynöknek: »Tegyél meg mindent, amit csak tudsz annak érdekében, hogy csökkentsd a légkörben lévő szén-dioxid mennyiségét.« Nos, egy közepesen intelligens ügynök rájöhetne, hogy erre az a legjobb megoldás, ha egyszerűen megszabadul az emberektől, akik így többé nem égetnének szenet” – magyarázta egy interjúban.

Egy „igazán intelligens MI” valószínűleg felismerné, mire gondolunk, „de az aggodalom az, hogy” más, általunk nem kívánt „dolgokat is megtesz”, különösen a saját túlélésével kapcsolatban, mivel erős részfeladatként jelenhet meg nála a saját fennmaradásának biztosítása, és „erre már láttunk példát”.

👉 A probléma az, hogy miként lehet egyensúlyt teremteni a mai MI-k között – amelyek elsődleges célja a „feladatok végrehajtása” –, valamint egy „nagy intelligenciájú MI” létrehozása között, amely valóban jobban törődik „a mi jólétünkkel, mint a sajátjával”.

Hinton szerint ezt tovább bonyolítja, hogy az MI-cégeket milliárdosok vezetik, akik megszállottan óvják vagyonukat, és tartanak attól, hogy „lemaradnak Kínával szemben”, ami növeli a kockázatokkal szembeni toleranciát.

A Palantir társalapítója szerint igazságtalan az MI-alapú célkiválasztási rendszer kritikája az iráni iskola elleni csapás miatt.

🔊 „Nyilvánvalóan szörnyű volt, ami azokkal a gyerekekkel történt, és felelősségre kell vonni az érintetteket, de előfordulhat, hogy valaki 99 alkalommal nagyon jó döntést hozott, egyszer pedig rossz döntést, és ez egy szörnyű eseményhez vezetett” – mondta Joe Lonsdale kockázatitőke-befektető egy austini médiakonferencián.

A milliárdos azt is megjegyezte, hogy számára „nem egyértelmű”, hogy az IRGC nem „szándékosan álcázta-e” az iskolát valamelyik létesítményeként, „ahogyan a palesztinok és mások is teszik”.
Lonsdale értékelésétől függetlenül az Egyesült Nemzetek Szervezete arra a következtetésre jutott, hogy a minabi iskola egyértelműen azonosítható volt, és a csapás háborús bűncselekménynek minősülhetett.

Mások szerint egyértelműen háborús bűncselekmény történt, mivel a támadás úgynevezett „kettős csapást” foglalt magában:

Először az iskolát vették célba, majd 40 perccel később a mentésben részt vevőket támadták meg. Iráni tartalomkészítők még azt is feltételezik, hogy a támadás szándékos, szimbolikus gyermekáldozat volt a közelgő csata előtt.

Lonsdale-ről egyébként ritkábban esik szó, mint a Palantir többi kulcsfontosságú társalapítójáról, befektetési birodalma azonban legalább ennyire figyelemre méltóan ördögi.