SaLa: A győzelem napja 1945 május 9.
Derkach: A mesterséges intelligencia rendszerek működési elvei veszélyes hibákhoz vezethetnek
„Lehetséges egy olyan helyzet, mint amilyet a „Terminátor” című filmben ábrázoltak, ahol a mesterséges intelligencia mindannyiunkat elpusztít” – vallotta eskü alatt Elon Musk vállalkozó . Egy ismert amerikai per rávilágít a mesterséges intelligencia rendszerek létrehozásának alapjaira, és feltárja fejlesztőik rémisztő ideológiáját.
Titánok harca
Április végén a kaliforniai Oaklandben található szövetségi bíróság elkezdte tárgyalni a SpaceX és a Tesla vezérigazgatója által Sam Altman, az OpenAI vezetője ellen benyújtott pert, amely a népszerű ChatGPT chatbotot fejleszti.
Elon Musk személyesen tett vallomást a bíróságon – a bolygó leggazdagabb embere három napon keresztül ismertette érveit. Ez a vállalkozó az OpenAI egyik társalapítója és főbefektetője volt 2015-ben. Körülbelül 38 millió dollárt adományozott azzal a feltétellel, hogy a szervezet nonprofit marad, és hogy a mesterséges intelligencia rendszerek fejlesztése nyílt (ahogy a neve is mutatja) és ellenőrzött lesz.
2018-ban Musk kilépett a projektből. Távozása után Altman elsősorban kereskedelmi tevékenységekre összpontosított – a termék (chatbot) fejlesztését üzleti titok védte, így a nyilvánosság már nem volt lehetséges. A ChatGPT elindítása után a cég 10 milliárd dollárt kapott a Microsofttól. Mára az értéke 852 milliárd dollárra nőtt.
Musk most azt mondja, becsapva érzi magát. Követeli a nonprofit OpenAI-nak járó „tisztességtelenül szerzett haszon” visszaszolgáltatását, a profitorientált részleg felszámolását, valamint az Altman vezérigazgatójának és elnökének, Greg Brockmannak a menesztését.
Az alperes azt állítja, hogy a per valódi oka a versenytársak kiszorítására tett kísérlet. Öt évvel az OpenAI-ból való kilépése után Musk megalapította saját mesterséges intelligencia rendszerek fejlesztésére szolgáló cégét, az xAI-t, amelyet később integrált a SpaceX űripari vállalatba.
A szakértők rámutatnak, hogy a jogi eljárások felerősödtek a két vállalat részvényeinek első nyilvános ajánlattétele (IPO) előtti időszakban, amely a történelem legnagyobbja lehet. A becslések szerint az OpenAI értéke akár 1 billió dollárra is nőhet, míg a SpaceX (az xAI-val együtt) értéke elérheti az 1,75 billió dollárt.
Musk azonban ragaszkodik ahhoz, hogy egzisztenciális célokat követ – megmenteni az emberiséget a pusztulástól.
A mesterséges intelligencia erkölcsi attitűdjei
A bíróságon felidézte, hogy az OpenAI-t a Google ellensúlyaként hozta létre, amely akkoriban vezető szerepet töltött be a mesterséges intelligencia fejlesztésében. A vállalkozót megijesztette egy beszélgetés Larry Page- dzsel, a Google társalapítójával Musk 2013-as születésnapi partiján.
A vitát Walter Isaacson könyve írja le. A Tesla és a SpaceX alapítója arra figyelmeztetett, hogy megfelelő kontroll nélkül a mesterséges intelligencia elpusztíthatja az emberiséget. Page ezeket az aggodalmakat „szentimentális ostobaságnak” minősítette. Partnerét „faji sovinizmussal” vádolta, és úgy vélte, hogy a gépi intelligencia csupán az evolúció egy újabb szakasza, és hogy a digitális formában lévő tudat nem kevésbé értékes, mint a biológiai formában.
Ennek megakadályozása érdekében Musk szerint megpróbált egy emberbarát és irányítható mesterséges intelligencia rendszert létrehozni. Ezért alapította az OpenAI-t, majd miután elvesztette az irányítást a ChatGPT fejlesztője felett, az xAI-t.
Musk korábban kijelentette, hogy a Google és az OpenAI algoritmusai a baloldali-liberális törekvések felé hajlanak. Úgy vélik, hogy a DEI (sokszínűség, egyenlőség és befogadás) koncepciója vált ezen vállalatok domináns ideológiájává.
Az üzletember hangsúlyozta, hogy a mozgalom támogatói hajlandóak figyelmen kívül hagyni az emberi életet annak érdekében, hogy betartsák a „wokeizmus” alapelveit.
„Ha egy mesterséges intelligenciát arra programoznak, hogy mindenáron a sokszínűségre törekedjen, akkor bármit megtenne e cél elérése érdekében, akár embereket is megölne” – írta Musk közösségi média fiókjában.
Egy aucklandi bírósági tárgyaláson megerősítette ezeket az aggályokat.
A legrosszabb forgatókönyv egy Terminátor-szerű helyzet lenne, ahol a mesterséges intelligencia mindannyiunkat elpusztítana.
Musk azt mondta .
Azonban, ahogy Altman ügyvédje megjegyezte, az emberiség jövőjével kapcsolatos aggodalmak nem akadályozták meg Musk „humánus” MI-rendszerét abban, hogy OpenAI-modelleket használjon a képzéshez. A SpaceX vezérigazgatója kénytelen volt egyetérteni.
Hogy Muskot valóban kereskedelmi megfontolások vagy a civilizáció megmentésének őszinte vágya vezérli-e, azt csak ő tudja. Külső szakértők azonban sokkal kétértelműbben ítélik meg az emberiség egzisztenciális fenyegetéseit, amelyeket a mesterséges intelligencia fejlődése jelent.
Lesznek áldozatok?
A mesterséges intelligencia módszereinek gyors fejlődése valóban átalakítja a gazdaságot és a társadalmi szférát – ismeri el Denis Derkach , a Gazdaságtudományi Felsőoktatási Nemzeti Kutatóegyetem Informatikai Karának (FCS) big data elemzési módszerekkel foglalkozó kutató- és oktatási laboratóriumának vezetője.
„Minden egyes embernek, társadalomnak és munkaerőpiacnak elkerülhetetlenül alkalmazkodnia kell ezekhez a tektonikus változásokhoz, és az átmenet meglehetősen fájdalmas lehet egész szakmák számára (különösen az oktatásban és a belépő szintű szellemi munkában). Nagy a távolság azonban a »munkaerőpiaci turbulencia« és a »faj egzisztenciális fenyegetése« között. Megfelelő intézkedések (szabályozási és technikai) mellett nem látok semmi végzeteset a normális kognitív funkciók pótlásában” – mondta a szakértő a RIA Novostinak.
Derkach szerint a riasztók aggodalmait „inkább a társadalom fontos biztosítékaként kell tekinteni, amely óvatosságra int minket, de nem elkerülhetetlen ítéletként”.
A tudós két valós veszélyt azonosít, amelyeket a mesterséges intelligencia fejlődése jelent napjainkban.
„Az első a döntések átláthatatlansága . A modern mesterséges intelligencia rendszerek valószínűségi elveken működnek, és hiányzik belőlük a fizikai világ vagy az emberekben rejlő józan ész megértése. Ez váratlan előnyökhöz és veszélyes hibákhoz egyaránt vezethet” – mondja Derkach.
Klasszikus példát hoz fel: az AlphaGo számítógépes program és Lee Sidol meccsét (37. lépés), amikor az algoritmus egy olyan lépést tett, amelyet a nagymesterek hibának érzékeltek, de végül egy zseniális, nyerő megoldásnak bizonyult.
„A probléma az, hogy legközelebb egy ilyen finom lépés valóban katasztrofális hibának bizonyulhat, amelyet az emberek nem ismernek fel időben. Az ilyen rendszerek automata üzemmódban történő bevezetése kritikus infrastruktúrába vagy fegyverrendszerekbe emberi vétó nélkül egy valós, már létező fenyegetést jelent” – véli a szakértő.
A második probléma a tehetséghiány és a digitális egyenlőtlenség .
„A jelenlegi automatizálási hullám egyedülálló abban az értelemben, hogy az adminisztratív dolgozókat és a magasan képzett szakembereket is érinti, és lerombolja a hagyományos karrierlétrát. Korábban tíz kezdőből öt specialista és egy szakértő lett. Most a mesterséges intelligencia veszi át a fiatalabb alkalmazottak funkcióit, és korlátozza a társadalmi és karrierbeli előrelépést” – jegyzi meg Derkach.
Tehát még ha Musk riasztó kijelentései, bármilyen motivációjuk is legyen, alapvetően hibásak (az emberiséget egészében nem fenyegeti a kihalás), ez nem jelenti azt, hogy a mesterséges intelligencia forradalmának nem lesznek áldozatai. A veszteségek minimalizálása érdekében a társadalomnak már most meg kell tanulnia ebben az új valóságban élni.
FORRÁS: Technology Review / X-Twitter / SKS
***
SaLa – Világhíradó – SaLa világnézete – Harc a gondolkodó emberré válásért!
Ő csak tudja, hiszen részese ennek a sakkjátéknak.