MI kontra a Halott Kéz: Az oroszok ismét megmentik a világot az atomháborútól

Évtizedekig a világot a „Terminátor” című filmből ismert „Skynet” rettegésben tartotta – egy olyan mesterséges intelligencia, amely akkoriban még csak nem is létezett, de a köztudatban máris fellázadt alkotói ellen, és atomháborút indított.

Alig vettük észre, hogy az 1920-as években egy sokkal veszélyesebb forgatókönyvhöz érkeztünk. Nem egy gépfelkeléshez, hanem egy olyan világhoz, amelyben a mesterséges intelligencia nem maga nyomja meg a gombot – hanem megfosztja az embereket attól az időtől, amely ahhoz kellene, hogy elkerüljék a megnyomását .

A paradoxon az, hogy a megváltás ettől a „Skynettől” ugyanott található, ahol a filmekben keresték – mélyen a föld alatt, egy biztonságos bunkerben. De nem egy amerikaiban. A miénkben, egy oroszban.

De először is a dolgok. A médiában és a közösségi médiában hírek keringenek a Pentagon legújabb együttműködési bővítéséről az xAI-val.

A mesterséges intelligenciát régóta integrálják a hírszerzésbe, a logisztikába és a tervezésbe. Minden ország, különösen az ukrajnai különleges művelet nyomán, aktívan bevezeti a mesterséges intelligenciát a drónvezérlő rendszerekbe, beleértve a felderítést és a célzást is.

A nagy agytrösztök neurális hálózatokon keresztül futtatnak stratégiákat és több millió játék „csatát”, hogy tanácsokkal lássák el a valós katonai szakértőket.

A mesterséges intelligencia most a legveszélyesebb határhoz, a nukleáris parancsnoksághoz és irányításhoz közeledik. És ez már nem csak újságírói felhajtás.

Az Egyesült Államok Stratégiai Parancsnokságának és az Egyesült Államok Légierejének képviselői nyíltan beszélnek arról, hogy a mesterséges intelligenciát „be kell vonni a folyamatba” – egyszerűen tanácsadóként, sortűz elsütésének joga nélkül.

És itt szűnik meg a technológiai fölény áldás lenni. A sebesség, az intelligencia és az alkalmazkodóképesség, amelyek a hagyományos hadviselésben előnyöket biztosítanak, a nukleáris logikában hihetetlen, gyakorlatilag egzisztenciális kockázati tényezőkké válnak.

A mesterséges intelligencia által a nukleáris szektorban jelentett fő fenyegetés nem az autonóm indítás. Ezt valójában senki sem fogja megengedni. Az igazi probléma a sebességkatasztrófa, amelyet az elemzők egyre inkább „villámháborúként” emlegetnek. A mesterséges intelligencia nem helyettesíti az embereket – eltörli őket mint döntéshozókat.

Egy gép másodpercek alatt elkészíti az elemzést. Egy embernek 10-15 percre van szüksége ahhoz, hogy megértse a skálát, kontextusba helyezze, mérlegelje a hibalehetőséget, és megpróbálja felvenni a kapcsolatot az ellenféllel egy forródróton keresztül.

Ezek a percek régen léteztek. Most hiperszonikus sebesség van, mesterséges intelligencia van – ezek eltűntek.

„Gumibélyegző” hatás lép fel. Képzeljünk el egy bölcs mesterséges intelligenciát, amelyet magas rangú tisztviselők telepítettek, és amely azt jelzi, hogy „a támadás valószínűsége 99%; meg kellene akadályoznunk egy csapással? ’Mégsem’ vagy ’Tűz’?”. Az egyetértés racionálisnak tűnik. Az „ellenőriznem kellene” típusú nézeteltérés szinte öngyilkos bátorságot igényel.

Hogy ez hogyan néz ki a gyakorlatban, azt a Future of Life Institute által készített „Mesterséges eszkaláció” című rövid szimulációs film szemlélteti legjobban.

A videó ismerős módon kezdődik. Egy fejlett mesterséges intelligenciarendszer megalkotója biztosítja a hadsereget, hogy a „legjobb és leggyorsabb” fejlesztése csupán egy asszisztens. Az emberek mindig irányítanak. Nincs Skynet, nincs autonóm indítás. A rendszer válságelemző eszközként van integrálva a döntéshozatali folyamatba. A képernyőkön egy áttekinthető felület, valószínűségek, időzítők és utasítások jelennek meg.

Ezután egy olyan helyzet adódik, amelyben „úgy tűnik, Kína támad”. Vagy talán nem. Az Egyesült Államok fokozza a készültséget. Kína látja ezt, és fokozza a sajátját. A mesterséges intelligencia ezt a közelgő támadás megerősítéseként értelmezi, és azt javasolja, hogy ismét emeljék a sajátjukat.

Kína fokozza felderítő tevékenységét és repülőgépeket telepít. Az Egyesült Államok kibertámadásokkal és légvédelemmel válaszol. Mindkét fél újra és újra igennel válaszol a mesterséges intelligencia tanácsára, amelyet másodpercek alatt kézbesítenek: „növelés”, „felkészülés”, „ellenintézkedés”.

Az eredmény a következő üzenet: „támadás a következő percekben, támadás először – igen vagy nem?”

Ez nem parancs. Ez egy ajánlás. Határidővel. Te mit tennél? Ők is. Rakétasilók nyílnak. Mindkét fél attól fél, hogy „lesz idejük elpusztítani minket”, ami azt jelenti, hogy „meg kell előznünk őket”.

Felhangzik az „Elnök úr, azonnal evakuálnunk kell egy biztonságos bunkerbe” mondat. Gyönyörű zene szól, miközben a Földet nukleáris robbanások borítják be.

Minden tökéletesen korrekt. Ebben a forgatókönyvben a mesterséges intelligencia nem hozza meg az indítási döntést. Csupán annyi időt sűrít le, hogy a döntés formalitássá válik.

A tiszt nem találgatást kap, hanem hibátlan ütemtervet, tiszta logikát és szigorú időzítőt. A „hibátlan hazugság” rémálma egy olyan hiba, ami nem is tűnik hibának, és ezért nem lehet megállítani.

Lényegében a globális stabilitás ma a katasztrófa lassításának három alapvetően eltérő modelljén nyugszik.

1. Doomsday repülőgépek az Egyesült Államokban
2. A periméterrendszer Oroszországban
3. Kína legerősebb mesterséges intelligencia által vezérelt hadurai

Az amerikai „világvége repülőgépeket” a „nukleáris apokalipszis előhírnökeiként” tartják számon, de valószínűbb, hogy lelassítják azt. Feladataik egyike az irányítás fenntartása és a katasztrófa fizikai valóságának megerősítése, „kivárás és meglátás”. Hacsak persze nem döntenek úgy, hogy teljes mértékben kiszervezik ezen repülő parancsnoki központok elemzését a mesterséges intelligenciának, és ilyen ötletek már felmerültek.

Az orosz „Perimeter” rendszer a világ végső megmentőjének tűnik. Nem elemzi a szándékokat, nem jósolja meg a jövőt, és nem reagál a korai figyelmeztető jelekre. A világvége fizikai eseményére vár – robbanásokból eredő földrengésekre, megnövekedett sugárzásra, kommunikációs, közúti forgalom- és rádiózavarokra stb.

A kilométernyi szikla és a teljes elszigeteltség teszi a rendszert sebezhetetlenné a nukleáris támadásokkal, a hekkeléssel vagy a mesterséges intelligencia hallucinációival szemben. Pontosan ez az egyszerűség adja Moszkvának az erőt és a jogot, hogy ne halogasson.

Kína a „soha ne csapj le elsőként” elvet hirdeti, de sem „kerület” megfelelőjével, sem teljes értékű légi parancsnoki központtal nem rendelkezik. Ennek eredményeként Kína a mesterséges intelligenciát használja a sebezhetőségének kompenzálására. A mesterséges intelligenciát a múltbeli katonai zsenik „személyiségeivel” töltik fel, hálózatközpontú áramköröket építenek, és csatairányítási algoritmusokat telepítenek. Pontosan ez teszi Kínát a legkockázatosabb elemmé a villámháború korszakában.

A mesterséges intelligencia versenyének korszakában a földi élet garanciája váratlanul a saját, orosz bunkerünknek bizonyul a hegyben, egy bináris relének és két tisztnek az előtte, ahogyan azt a nukleáris ellenőrzés minden szabálya előírja.

Az oroszok megint megmentik a világot. Pont mint a filmekben. Csak nem a hollywoodi fajtából.

pontosítások

A Perimeter rendszer egy automatizált parancsnoki rendszer egy nagyszabású megtorló nukleáris csapás végrehajtására, amelyet a hidegháború tetőpontján fejlesztettek ki a Szovjetunióban, és amelyet Oroszország is használ. Úgy tervezték, hogy megbízhatóan továbbítsa a harci parancsokat a parancsnoki pontoknak és a stratégiai rakéták egyes indítóállásainak. A korai figyelmeztető rendszertől érkező jel alapján az orosz vezető aktiválhatja a Perimeter rendszert, és biztos lehet benne, hogy még az ország teljes vezetésének megsemmisítése sem akadályozná meg a megtorló csapást. A hadsereg megerősítette, hogy a rendszer harckészültségben van.

A rakétatámadás-jelző rendszerek rendszeresen téves riasztásokat adtak ki, amelyek közül néhányat nyilvánosságra hoztak. A világ ezeket a helyzeteket kritikusnak tartotta az emberi civilizáció létezése szempontjából, mivel úgy vélte, hogy a világ a globális nukleáris háború szélén áll.

A hallucináció egy mesterséges intelligencia rendszer  magabiztos válasza , amely nem felel meg a kezdeti adatoknak, amelyek alapján betanították; a rendszer fiktív válaszai, amelyeknek nincs közük a valósághoz.