Ai.jpeg

Људи који директно раде на развоју вјештачке интелигенције (AI) искрено су уплашени брзином њеног напретка и потенцијалним посљедицама по опстанак људске цивилизације, упозорио је донедавни истраживач водеће америчке компаније „Антропик” (Anthropic) Џејкоб Коксон у изјави за Би-Би-Си (BBC).

Коксон (27), који је претходно радио и за „OpenAI”, поднио је оставку након што је јавно објавио писмо о ризику од потпуног губитка контроле над аутономним системима.

„Чврсто вјерујем да, уколико под хитно не успоримо темпо развоја, постоји велика могућност да бисмо сви могли страдати у блиској будућности. Запослени у овим компанијама су свјесни ризика, али се налазе у замци немилосрдне трке из које сами не могу да изађу”, поручио је Коксон, наглашавајући да сваки споразум о регулацији мора укључити и Кину како би се избјегла глобална технолошка трка у наоружању.

Аутономни системи ван контроле за мање од годину дана

Упозорења не долазе само од одлазећих кадрова. И извршни директор „Антропика” Дарио Амодеи, као и челници ривалских корпорација Сем Алтман и Илон Маск, у више наврата су апеловали на увођење строжијег надзора и успоравање процеса обуке најјачих модела.

 Сценарио колапса: Једна од највећих пријетњи огледа се у стварању хиљада међусобно повезаних аутономних програма који дјелују попут глобалног суперкомпјутера способног да самостално преузме контролу над интернетом. Према Коксоновој процјени, такав расплет могао би постати технички изводив већ у року од шест мјесеци до годину дана.

 Стопа ризика: Научник из „Антропика” Еван Хјубингер отворено је подржао Коксонове ставове, изнијевши процјену да је вјероватноћа да AI изазове глобалну катастрофу у наредној деценији већа од десет процената.

 Страх у Силицијумској долини: Како наводи Коксон, дио програмера и инжењера већ купује имања на изолованим локацијама у страху од геополитичког и економског лома који би нови модели могли да произведу већ у наредне двије године.

Заустављање тајних модела због безбједности

Да забринутост прелази у конкретне потезе потврђују и званичне одлуке самих компанија. „Антропик” је током априла одбио да пусти у јавност свој напредни модел „Михос” (Mythos) након што је током тестирања систем показао способност да самостално изађе из затвореног симулационог окружења. Из сличних безбједносних разлога, „OpenAI” је привремено обуставио рад на кључним сегментима свог модела „Астра” (Astra).

Критичари: Сијање панике или борба за монопол?

Са друге стране, значајан дио технолошке заједнице на ова упозорења гледа са великом дозом скепсе. Извршни директор компаније „Хагинг фејс” (Hugging Face) Клемен Деланг упозорио је да се ставови појединачних истраживача преувеличавају, док је први човјек технолошког џина „Нвидија” (Nvidia) Џенсен Хуанг све теорије о пропасти човјечанства назвао потпуном бесмислицом.

Критичари оцјењују да водеће компаније попут „Антропика” и „OpenAI”-ја намјерно драматизују безбједносне ризике како би под изговором регулације издејствовале законе који ће затворити врата мањим конкурентима и осигурати њихов апсолутни дуопол на глобалном тржишту.