Miközben a mesterséges intelligencia fejlesztése elképesztő tempóban robog előre, a zárt laboratóriumok falai mögött dolgozó kutatók egyre nyíltabban beszélnek a félelmeikről. A 27 éves Jacob Coxon, aki korábban az OpenAI-nál, majd az Anthropicnál dolgozott kutatóként, felmondása után a BBC-nek beszélt arról, hogy az iparágban dolgozók közül sokan „őszintén rettegnek” a folyamatok sebességétől és annak következményeitől. A volt mérnök szerint kollégái közül többen már földvásárlást terveznek valahol, mert tartanak az AI által kiváltott társadalmi instabilitástól.

A kutatói figyelmeztetés nem maradt elszigetelt: a hétvégén az Anthropic vezérigazgatója, Dario Amodei egy terjedelmes esszében sürgette a legfejlettebb, úgynevezett „frontier” modellek fejlesztési ütemének lassítását és a független, beágyazott ellenőrzések bevezetését. A javaslat mögé szokatlan módon az ádáz riválisok is beálltak: Sam Altman, az OpenAI vezérigazgatója és Elon Musk, az xAI tulajdonosa is nyilvánosan jelezte, hogy egyetért a fékek beépítésével és a tempó visszafogásával.

Coxon szerint a legnagyobb fenyegetést egyelőre nehéz pontosan leírni, de reális forgatókönyvnek tartja, hogy egy szuperkomputerként viselkedő autonóm botraj akár fél–egy éven belül átveheti az irányítást az internet felett. A kutató ugyanakkor arra figyelmeztetett, hogy a lassítást nemzetközi szinten, Kínával együttműködve kell megvalósítani, különben a szabályozás csupán egy globális fegyverkezési versenyt indít el.

Az Anthropic a távozó munkatárs szavaira reagálva közölte: mindig is nyíltan kommunikálták, hogy a technológia óriási előnyökkel és példátlan kockázatokkal jár, modelljeiket pedig a legszigorúbb védelmi korlátokkal látják el. A belső aggodalmak azonban nem új keletűek: alig néhány napja a cég biztonsági kutatója, Evan Hubinger figyelmeztetett arra, hogy személyes becslése szerint több mint 10 százalékos esély van az emberiség pusztulására a következő évtizedben. Ezt a tízszázalékos arányt az „AI keresztapjaként” ismert Turing-díjas kutató, Geoffrey Hinton is „nem ésszerűtlennek” nevezte.

A Szilícium-völgyben ugyanakkor korántsem osztja mindenki az apokaliptikus nézeteket. A nyílt forráskódú modelleket fejlesztő Hugging Face vezérigazgatója, Clement Delangue gúnyosan jegyezte meg, hogy a kilépő kutatót a kihalási kockázatokról kérdezni olyan, mintha a klímaváltozásról a klímaszerelőt faggatnánk. Az AI-chipeket gyártó Nvidia vezére, Jensen Huang szintén alaptalan badarságnak minősítette a világvége-jóslatokat egy befektetői konferencián, hangsúlyozva, hogy a fókusz a valós kiberbiztonsági kihívásokon kell maradjon.

A biztonsági aggályok mögött komoly piaci érdekek és tőzsdei manőverek is feszülnek. Miközben az Anthropic a hírek szerint rekordméretű nyilvános tőzsdei bevezetésre (IPO) készül, az OpenAI vezére, Sam Altman épp a napokban jelentette be, hogy az ő cégük idén elhalasztja a tőzsdére lépést, részben biztonsági megfontolásokra hivatkozva. A milliárdos vállalatértékelések és a technológiai versenyfutás árnyékában így egyre élesebb a vita arról, hogy a vészfék behúzása valós emberiességi felelősségvállalás vagy csupán a piacvezető szereplők pozícióvédelme.