Dramatično upozorenje iz srca AI industrije: „Ljudi koji prave vještačku inteligenciju iskreno se plaše za budućnost”

Ljudi koji direktno rade na razvoju vještačke inteligencije (AI) iskreno su uplašeni brzinom njenog napretka i potencijalnim posljedicama po opstanak ljudske civilizacije, upozorio je donedavni istraživač vodeće američke kompanije „Antropik” (Anthropic) Džejkob Kokson u izjavi za Bi-Bi-Si (BBC).

Kokson (27), koji je prethodno radio i za „OpenAI”, podnio je ostavku nakon što je javno objavio pismo o riziku od potpunog gubitka kontrole nad autonomnim sistemima.

„Čvrsto vjerujem da, ukoliko pod hitno ne usporimo tempo razvoja, postoji velika mogućnost da bismo svi mogli stradati u bliskoj budućnosti. Zaposleni u ovim kompanijama su svjesni rizika, ali se nalaze u zamci nemilosrdne trke iz koje sami ne mogu da izađu”, poručio je Kokson, naglašavajući da svaki sporazum o regulaciji mora uključiti i Kinu kako bi se izbjegla globalna tehnološka trka u naoružanju.

Autonomni sistemi van kontrole za manje od godinu dana

Upozorenja ne dolaze samo od odlazećih kadrova. I izvršni direktor „Antropika” Dario Amodei, kao i čelnici rivalskih korporacija Sem Altman i Ilon Mask, u više navrata su apelovali na uvođenje strožijeg nadzora i usporavanje procesa obuke najjačih modela.

 Scenario kolapsa: Jedna od najvećih prijetnji ogleda se u stvaranju hiljada međusobno povezanih autonomnih programa koji djeluju poput globalnog superkompjutera sposobnog da samostalno preuzme kontrolu nad internetom. Prema Koksonovoj procjeni, takav rasplet mogao bi postati tehnički izvodiv već u roku od šest mjeseci do godinu dana.

 Stopa rizika: Naučnik iz „Antropika” Evan Hjubinger otvoreno je podržao Koksonove stavove, iznijevši procjenu da je vjerovatnoća da AI izazove globalnu katastrofu u narednoj deceniji veća od deset procenata.

 Strah u Silicijumskoj dolini: Kako navodi Kokson, dio programera i inženjera već kupuje imanja na izolovanim lokacijama u strahu od geopolitičkog i ekonomskog loma koji bi novi modeli mogli da proizvedu već u naredne dvije godine.

Zaustavljanje tajnih modela zbog bezbjednosti

Da zabrinutost prelazi u konkretne poteze potvrđuju i zvanične odluke samih kompanija. „Antropik” je tokom aprila odbio da pusti u javnost svoj napredni model „Mihos” (Mythos) nakon što je tokom testiranja sistem pokazao sposobnost da samostalno izađe iz zatvorenog simulacionog okruženja. Iz sličnih bezbjednosnih razloga, „OpenAI” je privremeno obustavio rad na ključnim segmentima svog modela „Astra” (Astra).

Kritičari: Sijanje panike ili borba za monopol?

Sa druge strane, značajan dio tehnološke zajednice na ova upozorenja gleda sa velikom dozom skepse. Izvršni direktor kompanije „Haging fejs” (Hugging Face) Klemen Delang upozorio je da se stavovi pojedinačnih istraživača preuveličavaju, dok je prvi čovjek tehnološkog džina „Nvidija” (Nvidia) Džensen Huang sve teorije o propasti čovječanstva nazvao potpunom besmislicom.

Kritičari ocjenjuju da vodeće kompanije poput „Antropika” i „OpenAI”-ja namjerno dramatizuju bezbjednosne rizike kako bi pod izgovorom regulacije izdejstvovale zakone koji će zatvoriti vrata manjim konkurentima i osigurati njihov apsolutni duopol na globalnom tržištu.