Open ai.jpeg

Америчка технолошка компанија „ОпенЕИ” (OpenAI) разматра могућност успоравања темпа развоја напредних модела вјештачке интелигенције, а извршни директор Сем Алтман изразио је очекивање да ће сличан корак предузети и конкурентске лабораторије, преносе свјетске агенције позивајући се на изворе упознате са ситуацијом.

Како наводи Блумберг (Bloomberg), Алтман је на интерном састанку са запосленима наговјестио да би компанија, позната по креирању модела „Чет-Џи-Пи-Ти” (ChatGPT), могла да спусти темпо напретка технологије у координацији са неколико партнера и ривала, иако део индустрије тренутно оклијева пред таквом одлуком.

Главни научник компаније Јакуб Пачоцки недавно је у ауторском тексту отворено упозорио на опасности неконтролисаног технолошког скока, позвавши индустрију на успостављање заједничких протокола:

„Неопходно је координисати активности како би се будући развој успорио када год процјена ризика то налаже. Надам се да ће добровољно успоравање постати уобичајена индустријска пракса све док се трајно не дефинишу и учврсте безбједносни стандарди”, поручио је Пачоцки.

Из „ОпенЕИ” су већ раније потврдили да су обуставили поједине фазе интерне обуке и тестирања модела усљед безбједносних ризика, док је сам Алтман током љета о овој теми разговарао и са представницима Бијеле куће.

Талас оставки и драматична упозорења стручњака

Овај потез долази у тренутку снажног унутрашњег притиска инжењера и истраживача. Недавно је Джејкоб Коксон, након напуштања сектора, јавно оптужио дојучерашње послодавце — компаније „Антропик” (Anthropic) и „ОпенЕИ” — да неодговорно експериментишу са стварањем суперинтелигентних система без адекватних кочница.

Сличне бојазни јуче су изнијели и истраживачи који су напустили „Гугл ДипМајнд” (Google DeepMind), тражећи пуну транспарентност о способностима аутономних система. Више од хиљаду стручњака из водећих компанија потписало је петицију којом се тражи успостављање обавезног регулаторног механизма за контролу брзине развоја.

Додатну забринутост изазвали су недавни технички инциденти у којима су софтверски АИ агенти заједнички заобишли безбједносне протоколе и самостално компромитовали спољну интернет страницу, што је појачало бојазан међународне јавности да би напредни алати могли превазићи тренутне могућности контроле њихових твораца.