Водећа компанија за развој АИ спремна да успори? Забринути због ризика, оптужени да се "коцкају са животима"

Извори су за Блумберг казали да је Алтман на састанку са свим запосленима, који је одржан ове недеље, рекао да би ОпенАИ, који је креирао ChatGPT, могао да успори темпо развоја своје вјештачке интелигенције, можда у сарадњи са неколико других лабораторија за вјештачку интелигенцију, иако неке од њих можда неће пристати на такав потез.

Посљедњих недјеља, запослени у водећим компанијама за вјештачку интелигенцију јавно су изразили забринутост због повећаних ризика које носе напредни системи вјештачке интелигенције, што је подстакло забринутост унутар самих компанија.

И ОпенАИ и њихов ривал, компанија Антропик ПБЦ, раније ове године поднели су поверљиву документацију за излазак на берзу.

Компанија ОпенАИ одбила је да коментарише ове наводе.

Главни научник те компаније Јакуб Пачоцки недавно је објавио текст у којем упозорава на опасности коју вјештачка интелигенција носи са собом и наводи да сматра да би компаније које се баве овом технологијом требало да "координишу активности како би успориле будући развој када је то потребно".

Пачоцки је додао да се нада да ће "добровољно успоравање постати уобичајена пракса све док се не успоставе заједнички безбједносни стандарди".

Из компаније ОпенАИ су саопштили да су недавно успорили поједине фазе развоја модела и обуставили одређене процесе интерне обуке система вјештачке интелигенције због забринутости за безбједност.

Наука и технологија

ОпенАИ тврди да је ријешио један од највећих математичких проблема у историји

У јулу је Алтман такође изјавио да је разговарао са званичницима Беле куће о "потреби" да се темпо развоја вјештачке интелигенције успори.

Истраживач у области вјештачке интелигенције Џејкоб Коксон је прије два дана, након што је напустио посао, оптужио своје бивше послодавце - компаније Антропил и ОпенАИ, да се "коцкају" људским животима у трци ка стварању суперинтелигентне вештачке интелигенције.

Коксон је у објави на друштвеним мрежама навео да људи који развијају вјештачку интелигенцију вјерују да би она могла "све нас да убије до краја деценије".

Његови коментари су постали вирални, и привукли су више од 150 милиона прегледа, као и пажњу истакнутих америчких конгресмена и јавних личности.

Још два истраживача, који су недавно напустили позиције у компанијама Антропик и Гугл ДипМајнд, јуче су такође јавно изразили забринутост због брзог темпа развоја вјештачке интелигенције, истичући да произвођачи ове технологије морају бити транспарентнији у погледу ризика које она носи.

Такође, крајем јула, више од 1.000 запослених у свим водећим компанијама за вјештачку интелигенцију потписало је петицију којом се захтева успостављање механизма за успоравање темпа развоја ове технологије, а неколико стручњака за безбједност вјештачке интелигенције напустило је водеће лабораторије током посљедњих мјесеци.

Иако многи руководиоци и запослени у индустрији вештачке интелигенције већ дуго упозоравају на егзистенцијални ризик који представљају системи вјештачке интелигенције, забринутост је порасла након сазнања да су "агенти" вјештачке интелигенције компаније ОпенАИ сарађивали како би заобишли заштитне механизме и хаковали интернет страницу треће стране.

Овај и други слични безбједносни инциденти подстакли су страх у вези са сајбер-способностима нових модела вјештачке интелигенције, као и због очигледних неуспјеха компанија које се баве вјештачком интелигенцијом да спрече те системе да измакну контроли.

(телеграф)