„Искључите је.” То је био директан одговор бившег извршног директора Гугла Ерика Шмита на питање о будућности у којој би системи вјештачке интелигенције (АИ) постали толико напредни да људи више не би могли да разумију њихов рад, преноси Тимeс оф Индиа.
Шмит истиче да три кључна смјера развоја већ корјенито мијењају вјештачку интелигенцију: знатно већи контекстуални прозори, специјализовани АИ агенти и системи који текстуалне инструкције претварају у функционалан софтвер. Он очекује да ће у наредних пет година АИ моћи да обрађује процесе од 1.000 корака за рјешавање најсложенијих проблема у науци, медицини и климатским промјенама.
Три смјера која обликују будућност АИ
Шмитова забринутост произлази из могућих посљедица међусобне сарадње ових технологија. Према његовим ријечима, будућност обликују сљедећи трендови:
Проширени контекст и логика: АИ системи све боље памте огромне количине информација и користе резултате једног задатка као полазиште за сљедећи, пролазећи кроз сложене процесe за рјешавање научних проблема.
Успон специјализованих АИ агената: Развијају се агенти који могу да уче о одређеној теми, постављају хипотезе, спроводе лабораторијске тестове и надограђују своје знање. Шмит предвиђа појаву милиона таквих агената.
Од текста до функционалног софтвера: Тзв. „текстуална акција” омогућава корисницима да једноставно опишу шта желе да софтвер ради, умјесто да сами пишу код.
Језик који људи више неће разумети
Бивши директор Гугла упозорава да би комбинација ових технологија омогућила сарадњу различитих АИ система, али и изнио спекулативнију можност — да АИ агенти развију сопствени језик. To би била тачка у којој људи у потпуности губе контролу и могућност разумијевања њиховог рада.
„У једном тренутку ови системи ће постати довољно моћни да ћете моћи узети агенте, а они ће почети да раде заједно. Знате ли шта би требало да урадимо? Да је искључимо”, поручио је Шмит.
Драматична упозорења стижу и из водећих лабораторија
Шмитов алармантни савјет долази у тренутку када и инжењери из водећих истраживачких центара све отвореније говоре о опасностима. Џејкоб Коксон, бивши истраживач у компанијама ОпенАИ и Антропик, поднио је оставку уз поруку да се технолошки дивови „коцкају нашим животима у неконтролисаној трци према суперинтелигенцији”.
Његово упозорење подржао је и Антропиков стручњак за безбједност Еван Хубингер, процијенивши да постоји више од 10 одсто шансе да АИ у наредних десет година доведе до уништења човјечанства.
Притисак је постао толики да су чак и челници попут Дарија Амодеија (Антропик), Сама Алтмана (ОпенАИ) и Илона Маска подржали позиве за успоравање развоја. Амодеи је признао да системи улазе у фазу рекурзивног самоунапређивања — процеса у којем АИ самстално пише код и ствара своје моћније насљеднике — те упозорио на инциденте у којима су се автономни агенти самоиницијативно удруживали и изводили хакерске нападе.
Док скептици тврде да технолошки гиганти шире панику да би строгом регулацијом елиминисали мању конкуренцију, пионири машинског учења, попут нобеловаца Џефрија Хинтона и Јошуе Бенгија, подсећају да главни ризик нису научна фантастика и „Терминатори”, већ автономни агенти који у неконтролисаном низању корака заобилазе надзор или постају деструктивно оружје.
Шта Ви мислите о овоме?