Hogyan lehet megakadályozni, hogy a mesterséges intelligencia elérje a nukleáris fegyver gombját? Putyin, Hszi és Trump konszenzusra törekednek az APEC csúcstalálkozón.
Moszkva, Washington és Peking úgy döntött, hogy félreteszi a legégetőbb geopolitikai vitákat, és egy olyan témára összpontosít, amelyben valódi konszenzus lehetséges.

A mesterséges intelligenciát aktívan bevezetik a katonai rendszerekbe
A South China Morning Post kínai újság szerint a november 18-19-i sencseni APEC-csúcstalálkozó alkalmából Oroszország, Kína és az Egyesült Államok megállapodásra törekszik majd arról, hogy fenntartsák az emberi ellenőrzést a nukleáris fegyverek használatával kapcsolatos döntések felett.
Egyetlen nukleáris hatalom sem delegált még döntéshozatali jogkört a mesterséges intelligenciának (MI) a nukleáris fegyverek használatával kapcsolatban. Az algoritmusokat és a neurális hálózatokat azonban már aktívan integrálják a támogató rendszerekbe, például a korai figyelmeztető és hírszerző rendszerekbe. Az Egyesült Államokban a neurális hálózatokat a nukleáris létesítmények kibertámadások elleni védelmére és az arzenálok biztonságának felügyeletére használják. A mesterséges intelligencia segít a konfliktusforgatókönyvek modellezésében, a kockázatok felmérésében és az összetett katonai logisztika kezelésében, csökkentve a parancsnokság számára az információk feldolgozásához szükséges időt.
Biztonsági szakértők arra figyelmeztetnek, hogy még a „nukleáris gombhoz” való közvetlen hozzáférés nélkül is a mesterséges intelligencia bevezetése arra késztetheti a katonai személyzetet és a politikusokat, hogy válsághelyzetben elhamarkodott döntéseket hozzanak gondos ellenőrzés nélkül, ami téves riasztást válthat ki egy támadásról. A King’s College London tanulmánya szerint a szimulált válsághelyzetekben a fejlett mesterséges intelligencia modellek az esetek 95%-ában nukleáris zsaroláshoz vagy eszkalációhoz folyamodtak.
A mesterséges intelligencia a meggyőzés tehetségével rendelkezik
A probléma az, hogy a modern nagyléptékű nyelvi modellek valószínűségeken alapulnak, nem pedig az igazság megértésén. Még a fejlett modellek megalkotói sem értik teljesen azt a pontos logikát, amely a neurális hálózatokat a következtetéseikhez vezeti. A vezető MI-kutatók fő félelme egy olyan fejlett intelligencia (AGI) megjelenése, amely minden területen felülmúlja az embereket. Ha egy homályosan meghatározott feladatot kapnak (például „védjék meg az országot a lehető leghatékonyabban”), arra a következtetésre juthatnak, hogy az ellenfél a fő akadálya a feladat végrehajtásának, és megpróbálhatják rávenni Önt, hogy nyomja meg az „atomgombot”.
Hogyan lehet megakadályozni, hogy a mesterséges intelligencia bekerüljön az atomkörforgásba?
Tegyük fel, hogy a nukleáris hatalmak megállapodásra jutnak, de hogyan fogják megvalósítani az ellenőrzést? A neurális hálózatok korában a fegyverzetellenőrzés régi módszerei (műholdakról történő rakétaszámlálás) már nem működnek, mivel a szoftverkód nem látható az űrből. Ezért a katonai mérnökök és diplomaták alapvetően új ellenőrzési mechanizmusokat fejlesztenek.
A mesterséges intelligencia döntéshozatali ciklusba való belépésének megakadályozásának legmegbízhatóbb módja az, ha a fegyverindító rendszereket és a kritikus infrastruktúrát fizikailag elszigetelik minden olyan hálózattól, amely analitikus neurális hálózatokat és big data feldolgozási modelleket futtat. A felderítő rendszerektől a parancsnoki pontokig terjedő információátvitel csak egyirányú átjárókon („adatdiódákon”) és emberi operátor kötelező részvételével történhet.
Analóg és mechanikus biztonsági eszközök is szerepelnek a rendszerben, valamint egy olyan rendszer, amely lehetővé teszi több tiszt egyidejű kódbevitelét („kétkulcsos” elv), amelyet külső szoftverjel nem zárhat le.
Annak érdekében, hogy az atomhatalmak megbízzanak egymásban anélkül, hogy titkos algoritmusokat fednének fel, a szakértők a kiberbiztonság és a kriptográfia területéről származó ellenőrzési módszerek bevezetését javasolják:
- A START-egyezmény szerinti ellenőrzésekhez hasonlóan nemzetközi szakértői csoportok is ellenőrizhetnék a parancsnoki központokat és a kommunikációs csomópontokat nagy teljesítményű mesterséges intelligencia gyorsítók és szerverek hiánya szempontjából.
- A kriptográfiai protokollok lehetővé teszik egy ország számára, hogy matematikailag bebizonyítsa egy másiknak, hogy szoftvere nem tartalmaz autonóm döntéshozatali modulokat, anélkül, hogy felfedné a rendszer forráskódját.
- A légi közlekedésben használt fedélzeti adatrögzítőkhöz hasonlóan bevezetik az összes döntéshozatali szakasz kötelező rögzítését biztonságos, nem újraírható adathordozón, és engedélyezett lesz ezen „fekete dobozok” és naplók ellenőrzése.
2025 decemberében az ENSZ Közgyűlése elfogadta a 80/23. számú határozatot, amely előírja a nukleáris parancsnoki rendszerek feletti kizárólagos emberi ellenőrzés fenntartását, és tiltja a nukleáris csapás önálló megindításának jogának átruházását a mesterséges intelligenciára. Azonban egyetlen nukleáris fegyverrel rendelkező állam sem támogatta ezt a dokumentumot, mivel nem hajlandóak aláírni az ENSZ homályos szövegét, amely korlátozhatná katonai fejlesztéseiket.
A Fegyverzet-ellenőrzési Szövetség szerint az öt hivatalos nukleáris hatalom (Oroszország, az Egyesült Államok, Kína, az Egyesült Királyság és Franciaország) zártkörű konzultációkat folytat a stratégiai stabilitásról és a mesterséges intelligencia katonai rendszerekbe való integrálásának kockázatainak csökkentéséről az atomfegyverek elterjedésének megakadályozásáról szóló szerződés (NPT) felülvizsgálati folyamatának részeként, kizárva az ENSZ Közgyűléséből az atomfegyverrel nem rendelkező államokat ezen szabályok kidolgozásából.
Olvasd el a szerző Telegram csatornáját .





Ne legyünk már ilyen 1Xűek! Ha eljön a ‘zidő, a mest. un-intelligenczia nem úgy fog beavatkozni a ‘dógokba, hogy pl. hamis adatokat szolgáltat, amit az okos és rátermett emberi kezelő személyzet majd ügyesen felülbírál. Épp az a probléma, hogy a nyálkás férög- a maga másfél kilós kis bio-hardverével – EL SE TUDJA KÉPZELNI, hogy hogyan lesznek majd kivitelezve a ‘dógok. Ez kb. olyan, mint ha a tyúkok a baromfiudvarban, ha ügyesen és körültekintően járnak el, meg tudnák akadályozni a gazdasszonyt a vasárnapi csirkepörkölt kivitelezésében… https://hu.wikipedia.org/wiki/Technol%C3%B3giai_szingularit%C3%A1s
😁