ЦНН: АИ умало изазвао рат Америке и Кине

Америчка војска припремала је пресретање пловила, а према тврдњама више извора упућених у догађај, наоружани војници били су спремни за упад на брод, док су војни авиони већ били у ваздуху, пише Си-Ен-Ен (CNN).

Операција је заустављена у посљедњем тренутку. Званичници су додатном провјером утврдили да је извјештај, који је саставио аналитичар Команде за специјалне операције, генерисан уз помоћ вјештачке интелигенције. Четбот (chatbot) који је аналитичар користио погрешно је протумачио податке и идентификовао терет. Си-Ен-Ен није успио да сазна шта је брод заиста превозио.

Један од извора описао је извјештај као „потпуно лажан“ и додао да је „замало изазвао рат“. Било каква америчка акција против кинеског пловила могла је да ескалира у оружани сукоб двије свјетске силе.

Ризици неконтролисане примјене

Инцидент јасно показује ризике који произлазе из примјене нове и недовољно испитане технологије у ратним условима. Америчка војска и обавјештајна заједница настоје да интегришу вјештачку интелигенцију у готово све аспекте дјеловања, од анализе података и одабира циљева до логистике и управљања буџетом.

Аналитичари већ дуго упозоравају да би се вјештачка интелигенција, ако се ослања на лоше или компромитоване податке, могла користити за доношење катастрофалних одлука, попут напада на кинески брод на основу дезинформација.

Како је дошло до грешке

У овом случају, аналитичар је од четбота затражио анализу обавјештајних података из бродског манифеста. Подаци су стигли из Команде за специјалне операције САД на Пацифику. Није познато да ли је коришћен комерцијални четбот или алат који је развила америчка влада.

Бивши високи амерички званичник упућен у системе вјештачке интелигенције каже да су „интерни алати углавном само копије комерцијалних производа с мало уљепшаном спољашњошћу“.

Софтвер је повезао јавно доступне информације с тајним подацима из владиних база и извео погрешан закључак о терету. Аналитичар је потом истим алатом вјештачке интелигенције форматирао налазе у стандардни формат обавјештајног извјештаја и прослиједио га даље унутар система.

Команда за специјалне операције на Пацифику и Пентагон нису одговорили на упит за коментар.

Стратешки императив Пентагона

Брза примјена вјештачке интелигенције темељи се на увјерењу да она војсци може омогућити брже доношење одлука на бојишту, од одабира циљева до распоређивања ресурса. Званичници сматрају да САД не смију себи дозволити да заостају за Кином или другим противницима који би могли бити технолошки напреднији.

Министар одбране Пит Хегсет (Pete Hegseth) у јануару је представио „Стратегију убрзања примјене вјештачке интелигенције“.

„Подстицаћемо експериментисање, уклонити бирократске препреке, усмјерити улагања и показати приступ потребан да осигурамо водећу позицију у војној примјени вјештачке интелигенције“, рекао је Хегсет.

Стратегија налаже широку примјену вјештачке интелигенције у цијелој војсци. Циљ је да се „демократизује експериментисање“ и омогући трансформација унутар Министарства. План предвиђа да се водећи свјетски модели вјештачке интелигенције ставе на располагање за три милиона цивилних и војних запослених на свим нивоима тајности података.

Проблем је што је тај процес децентрализован, наводи више америчких званичника. Различити дијелови владе користе различите алате, под различитим командама и безбједносним стандардима. Не постоји јединствен систем правила за провјеру информација које ти алати генеришу.

Због тога поузданост и функционалност бројних система вјештачке интелигенције у војсци и обавјештајној заједници значајно варирају.

Људски фактор као највећи ризик

Док политичари у Вашингтону расправљају о дугорочним егзистенцијалним пријетњама вјештачке интелигенције, подстакнути упозорењима технолошких лидера, инцидент с кинеским бродом указује на много непосреднију опасност.

Ријеч је о људима који доносе критичне одлуке на основу нетачних или обмањујућих информација које генеришу аутоматизовани системи.

Извори упозоравају да се војска све више ослања на вјештачку интелигенцију за помоћ при одабиру мета, што носи очигледан ризик од кобних грешака.

„Примјена вјештачке интелигенције у одабиру мета дефинитивно је у порасту, а не постоје јасне смјернице о томе како ће присуство човјека у том процесу спријечити цивилне жртве или пријатељску ватру“, рекао је други извор упућен у војну политику.

Такозвана „халуцинација“ алата вјештачке интелигенције, каква се догодила у овом случају, није изолован инцидент откако су се такви системи проширили унутар владе, тврди један од извора.

Неки старији обавјештајни званичници сматрају да технологија ствара притисак на аналитичаре да брже обрађују и шаљу извјештаје, што повећава могућност грешке. Више извора истиче да су млађи аналитичари посебно склони да некритички вјерују алатима које користе.

Како је сажео један од саговорника: „Вјештачка интелигенција вам омогућава да брже дођете до лоше идеје“.