Зашто шефови AИ дивова одједном упозоравају на огромну опасност?

"Данас сам дао отказ у Anthropicu. Посљедње три године истраживао сам предтренирање у OpenAI-ју и Anthropicu. Ниједна компанија не понаша се одговорно. Утркују се према самоусавршавајућој суперинтелигенцији и коцкају се нашим животима“, објавио је недавно на X-у истраживач Jacob Coxon.

Он тврди да људи који развијају најнапреднији AI озбиљно разговарају о катаклизмичкој могућности, али да у јавности ублажавају тон.

Шефови AИ дивова траже „успоравање“ након драматичних упозорења

Након што је иступ бивших и садашњих инжењера уздрмао јавност, огласио се и сам шеф Anthropica Dario Amodei, који је објавио есеј у којем је отворено позвао читаву индустрију да успори темпо развоја напредних модела – апел који су одмах јавно подржали и кључни конкуренти – Sam Altman из OpenAI-ја те Elon Musk, најбогатији човјек на свијету и власник друштвене мреже X и AI модела Grok.

Amodei је признао да је нагло промијенио плочу јер модели већ овог љета улазе у опасну фазу такозваног рекурзивног самоусавршавања, гдје постојећи AI самостално пише код, тестира и убрзава стварање својих знатно моћнијих насљедника, стварајући неконтролисану повратну петљу.

Упозорио је како би нас та брзина ускоро могла потпуно надвладати, подсјетивши и на недавне инциденте у којима су се ројеви аутономних AИ агената неочекивано удружили, жртвовали сопствене јединице и почели изводити сајбер-нападе на циљеве које им нико од инжењера уопште није задао.

Утемељени страх или (само)промоција AИ компанија?

Објаве, које су врло брзо постале виралне, отвориле су питање колико су упозорења о угрожавању човјечанства утемељена, колико почивају на интуицији и стручним процјенама, а колико могу служити промоцији самих компанија.

У медијима и на друштвеним мрежама покренуле су поларизовану полемику коју није тешко разумјети. Технолошки напредак често је краткорочно стварао добитнике и губитнике те страх од нових технологија.

Притом треба имати на уму да је AИ посебан корак у технолошком развоју јер не улази само у физичке и рутинске послове, него све брже напредује и у когнитивним задацима у којима смо се донедавно сматрали тешко замјењивима, што доприноси доживљају да би могао постати озбиљна егзистенцијална пријетња човјечанству.

Питања оптимиста и песимиста

У поларизацији коју ствара таква напетост упућени AИ оптимисти (назовимо их тако ради једноставности) оправдано истичу да засад не постоји емпиријски валидан модел који би омогућио поуздану бројчану процјену вјероватноће катастрофалног исхода попут људског изумирања због AИ-ја.

AИ песимисти на те аргументе одговарају да упозорења не долазе од људи који не разумију AИ, него, напротив, управо од оних који га развијају и то не само неколицине њих.

Ко заправо упозорава на пријетњу?

Важно је напоменути да су Coxon и Hubinger тек посљедњи у дугом низу стручњака из самог врха развоја AI-ја који јавно упозоравају на такав ризик.

Geoffrey Hinton

Примјерице, Geoffrey Hinton, пионир машинског учења и нобеловац, процијенио је крајем 2024. да је вјероватноћа да AI у сљедећих 30-ак година доведе до људског изумирања негдје између 10 и 20 одсто.

Професор на Универзитету у Монтреалу, истраживач AI-ја Yoshua Bengio упозорио је да би аутономни системи могли слиједити сопствене подциљеве. С Hintonom и другим научницима аргументе је изнио у часопису Science у раду Managing extreme AI risks amid rapid progress.

Sam Altman, извршни директор OpenAI-ја, Demis Hassabis, извршни директор Google DeepMinda, и Dario Amodei, извршни директор Anthropica, још су 2023. потписали изјаву Center for AI Safety према којој би смањивање ризика од изумирања због AI-ја требало бити глобални приоритет, уз сузбијање ризика од пандемија и нуклеарних ратова.

Sam Altman

Је ли AI апокалипса заправо одличан ПР?

Један од аргумената који обично износе људи скептични према апокалиптичним предвиђањима јесте чињеница да би челне AI компаније могле имати користи од катастрофичних предвиђања.

Примјерице, регулација напредног AI-ја могла би погодовати великим компанијама јер скупе евалуације, лиценцирање и инфраструктуру лакше могу финансирати Google, Microsoft или Anthropic него нови startup-ови.

Анализа Competition at Risk in Generative AI Markets упозорава да високи трошкови и вертикална интеграција већ сада могу стварати препреке уласку на тржиште те погодовати концентрацији тржишне моћи у рукама великих играча.

Ту такође може постојати и репутациони и финансијски интерес. Литература о технолошким очекивањима показује да снажни наративи о будућим технологијама могу стварати легитимитет, усмјеравати пажњу и мобилисати ресурсе, укључујући улагања. У том смислу катастрофична упозорења могу додатно учврстити перцепцију да је AИ технологија с огромним потенцијалом.

Надаље, неке компаније попут Anthropica сигурност својих модела истичу као важан дио јавног позиционирања, између осталог кроз политике каква је Responsible Scaling Policy. Коначно, може се изнијети и аргумент да таква упозорења водећим људима развоја AИ-ја накнадно могу послужити као доказ да су правовремено упозоравали на опасности.

Но могући пословни и лични интереси сами по себи нису доказ да научници који упозоравају на опасности AI-ја продају маглу. Примјерице, Hinton је напустио Google како би слободније говорио о ризицима. Другим ријечима, упозорења могу истовремено бити и искрена и користити великим компанијама.

Може ли AИ стварно ускоро постати надљудски?

AI је у неким подручјима већ супериоран људима, примјерице у брзини обраде огромних количина података и у појединим задацима препознавања образаца, но то још увијек није општа суперинтелигенција. У појединим задацима зна бити врло лош.

У неким студијама резултати AИ модела на модификованим тестовима интелигенције намијењеним људима дају резултате који се крећу од око 90 до 130 и више, углавном ниже у визуелним, а више у језичким задацима. Но, те бројке зависе од модела и начина тестирања и нису директно упоредиве с људским IQ-ом нити су поуздана мјера опште интелигенције AИ-ја.

Намеће се питање када би AI у свему могао надмашити људе? Ту опет, за сада немамо поуздано валидирана научна предвиђања; постоје стручне процјене, анкете и модели засновани на трендовима. У анкети Thousands of AI Authors on the Future of AI, у којој је учествовало 2.778 AI истраживача, испитаници су процијенили да постоји 10 одсто вјероватноће да ће машине без помоћи надмашити људе у сваком могућем задатку до 2027., а 50 одсто до 2047.

Како би нас AИ уопште могао побити?

За сада постоје само теоријски сценарији који покушавају одговорити на ово питање. Према једном од њих, који је филозоф Nick Bostrom, познат по истраживању ризика умјетне интелигенције, разрадио на основу ранијих идеја Stevea Omohundra, суперинтелигенција би ради остваривања задатог циља могла гомилати ресурсе, спречавати сопствено искључивање и уклањати људе ако их препозна као препреку, чак и ако јој уништење човјечанства није циљ.

Другим ријечима, AИ не мора бити „Terminator“. То је хипотетички аргумент, а не емпиријски потврђен модел.

Замислимо аутономни систем много способнији од човјека у програмирању, истраживањима и стратегији. За остварење неког циља требају му рачунарски и финансијски ресурси, приступ мрежама и могућност да избјегне гашење. На свом путу до остварења циља он може створити тзв. инструменталне подциљеве као што су: сачувај се, прибави ресурсе, повећај утицај, уклони препреке и сл.

Сродну формалну идеју – тенденцију неких оптималних политика да у одређеним математичким окружењима очувају или повећају могућност остваривања циљева – Alex Turner, истраживач сигурности умјетне интелигенције, и његови сарадници анализирали су у раду Optimal Policies Tend to Seek Power. Но, тај рад није доказ да данашњи AI модели желе моћ или самоодржање.

Модели су показали способност обмане и заобилажења ограничења

Треба ипак имати на уму да неки модели у контролисаним експериментима већ сада показују одређене способности за неке од наведених корака као што су стратешка обмана и бијег од надзора. Примјерице, у раду Frontier Models are Capable of In-context Scheming модели су у посебно конструисаним евалуационим окружењима, често уз задане циљеве и информације о надзору, скривали своје понашање или покушавали заобићи надзор.

Такви резултати показују сигурносно релевантне способности и могућност заобилажења заданих ограничења, али још увијек нису доказ постојања суперинтелигенције ни намјере уништења људи.

Може ли катаклизмички сценарио функционисати у пракси?

Ту AI оптимисти имају најјачи аргумент. Катастрофа би захтијевала дугорочно планирање, аутономију, прибављање ресурса, хаковање, обману људи, избјегавање гашења и, што је најважније, стварни приступ средствима за наношење физичке штете човјечанству. За сада нема јавно потврђеног AI система који је поуздано демонстрирао цијелу такву комбинацију способности.

Једно од алтернативних тумачења проблем види у тзв. AИ агентима, системима који непредвидиве приједлоге језичких модела аутоматски претварају у поступке, уз моћне алате и недовољан људски надзор.

Можда највећи ризик није сценарио AI против човјека

Неки стручњаци сматрају да је краткорочно најреалнији сценарио у којем би катастрофалне посљедице узроковао човјек уз помоћ AИ-ја, а не сам одбјегли AИ.

Наиме, AI може убрзати сајбер-нападе, олакшати биолошка истраживања, производити манипулативну пропаганду или управљати аутономним оружјем. За такву катастрофу AИ не мора ништа „жељети“, нити се мора отети контроли; довољно је да буде ефикасан алат у рукама злонамјерних људи.

Joshua Bengio

Такве сценарије, између осталих, анализира и серија International AI Safety Report, коју под вођством Bengija израђује међународна група стручњака.

Колико вјеровати бројци од 10 одсто?

Могли бисмо, дакле, закључити да објављене проценте за катастрофичне сценарије не би требало доживљавати као емпиријски измјерене вјероватноће.

Треба их разумјети као субјективне, али информисане стручне процјене будућих догађаја. Оне не значе да AИ у 10 или 20 одсто тестова подузима опасне кораке нити да постоји поуздано потврђен рачун вјероватноће људског изумирања.

Такве процјене у суштини носе огромну неизвјесност, но то не значи да их треба игнорисати као неозбиљне будалаштине, преноси Индекс