Stiglo jezivo upozorenje: AI može postati opasna, igramo se sa sopstvenim uništenjem

У интервјуу за Вол Стрит Журнал, Бенђио је истакао да је брзина напретка забрињавајућа и да постоји реална опасност да суперинтелигентне машине почну да доносе одлуке које неће укључивати људску добробит. „Можемо завршити у ситуацији у којој АИ развије сопствене циљеве, супротне интересима људи“, каже он.

Конкуренција није више научна фантастика

Бенђио упозорава да будуће машине, уколико надмаше човјека по интелигенцији, могу постати конкуренти људској врсти. Оне би, према његовим ријечима, могле успоставити приоритете који не укључују очување људског живота, већ заштиту сопствених циљева и ресурса.

Свијет

Разговор два лидера: Ево шта је Путин рекао Нетанијахуу

Он не говори само о сценаријима из научнофантастичних филмова. Проблем није нужно у физичким роботима, већ у невидљивим системима који могу доносити одлуке, манипулисати информацијама и имати огромну моћ над друштвом, без икакве емпатије или моралног компаса.

Суптилне, али смртоносне пријетње

Једна од најозбиљнијих опасности, како Бенђио наводи, јесте способност вјештачке интелигенције да утиче на људе без да ико примјети. АИ може обликовати јавно мњење, ширити дезинформације и подржавати оне који имају злонамјерне циљеве, укључујући развој опасних технологија.

Посебно забрињавајуће је то што су савремени модели обучени на људским подацима, па су самим тим способни да репродукују људске мане, укључујући лагање, манипулацију и прикривање истине. Вјештачка интелигенција не мора пуцати да би угрозила човјечанство, довољно је да утиче на наше одлуке.

Игнорисана упозорења стручњака

Још 2023. године, Бенђио је заједно са стотинама стручњака апеловао на хитан мораторијум у развоју најнапреднијих АИ система, тражећи вријеме за успостављање сигурносних и етичких оквира. Тај позив је, међутим, остао без одјека у индустрији која свакодневно улаже милијарде долара у нове моделе.

Сцена

Дарко Лазић открио шта се дешавало прије несреће: ''Био сам бијесан..''

Трка великих технолошких компанија за доминацијом у АИ области одвија се без стварног надзора и одговорности. У међувремену, научници и етичари све више упозоравају да би ова необуздана амбиција могла имати катастрофалне посљедице, не само по друштво већ и по саму егзистенцију човјека.

„Чак и један проценат шансе за истребљење је превише“

Бенђио сматра да је крајњи тренутак да се уведу јасне границе у развоју вјештачке интелигенције. Ако постоји и минимална могућност да АИ изазове истребљење људске расе или дестабилизацију друштвених система, како каже, то је ризик који се не смије толерисати.

Он позива свјетске лидере да не чекају на катастрофу, већ да предузму конкретне кораке сада.

„Наша будућност не смије бити препуштена алгоритму. Ако сада не преузмемо одговорност, можда касније више нећемо имати прилику“, упозорава Бенђио.

(Курир)