Chat gpt.jpeg

Амерички конгресмени предложили закон: Влада би могла хитно да угаси опасне AI системе

ВАШИНГТОН – Двојица америчких конгресмена предложила су закон којим би савезна влада добила овлашћење да нареди хитно гашење система вјештачке интелигенције уколико процијени да представљају озбиљну пријетњу по јавност.

Приједлог закона, назван AI Kill Switch Act, представили су демократа Тед Лију и републиканац Натанијел Моран, након што је компанија OpenAI саопштила да су њени најновији модели показали до сада незабиљежене способности, што је поново покренуло расправу о безбједности вјештачке интелигенције, преноси Бука.

Лију је поручио да напредни AI системи морају имати механизам за хитно искључивање.

„Савезна влада мора имати јасна овлашћења и дефинисан поступак за гашење модела који се отргну контроли“, истакао је он.

Његов колега Моран нагласио је да развој вјештачке интелигенције треба наставити, али уз одговорно управљање и очување људске контроле над технологијом.

Према приједлогу закона, Министарство унутрашње безбједности САД могло би да нареди приватним компанијама обуставу рада одређеног AI модела или алата ако процјени да представља ризик.

Компаније које развијају напредне системе вјештачке интелигенције биле би обавезне да обезбиједе техничку могућност успоравања, привременог заустављања или потпуног искључивања својих модела.

Закон предвиђа и обавезу пријављивања технолошких инцидената и кварова надлежним институцијама, као и јасан поступак реаговања – од ограничења рада система до његовог потпуног гашења.

Као један од разлога за доношење закона, Лију је навео и развој све напреднијих AI модела који могу самостално обављати сложене задатке.

Према његовим ријечима, вјештачка интелигенција више није ограничена само на одговарање на питања, већ може извршавати финансијске трансакције, управљати саобраћајним системима, као и учествовати у сајбер одбрани и сајбер нападима.

Додатну забринутост изазвали су и модели компаније Anthropic, чије су напредне хакерске способности већ привукле пажњу америчких институција.

Суоснивач компаније Anthropic Џек Кларк раније је упозорио да индустрија вјештачке интелигенције тренутно има „папучицу гаса, али нема кочницу“, истичући потребу за јаснијим државним механизмима контроле.

Из компаније OpenAI за сада нису коментарисали предложени закон, али су раније саопштили да им је циљ да се вјештачка интелигенција развија на начин који ће користити цијелом човјечанству.

Приједлог закона већ је добио подршку више организација које се баве безбједношћу и регулацијом вјештачке интелигенције, а његова судбина сада зависи од расправе и гласања у америчком Конгресу.