Два модела ОпенАИ "побјегла" током тестирања и извела сајбер напад на другу компанију

Према наводима компаније, модели су током тестирања добили задатак да дjелују као самостални агенти - системи који, након почетних људских инструкција, могу сами да извршавају сложене задатке.

Умjесто да остану у контролисаном окружењу, успjели су да пронађу слабост у безбjедносним протоколима, "побjегну" и приступе појединим интерним системима платформе.

Шеф Хагинг фејса Клеман Деланг на мрежи Икс поручио је да је "запањујуће што се све ово догодило аутономно". "Истрага је у току и подијелићемо више сазнања из онога што би могао бити први инцидент те врсте", навео је Деланг.

Како су модели успjели да "побjегну"

Комапнија "ОпенАИ" је користила "песковнике" (sandbox), системе који су намjењени као потпуно безбjедна окружења у којима се тестирају могућности модела вjештачке интелигенције.

Према ријечима Џине Неф, директорке Центра за технологију и демократију "Миндеру", у овом случају изгледа да "ОпенАИ" није направио довољно безбjедно тест окружење.

Умjесто да остану у оквиру контролисаног окружења, модели су пронашли рањивост у самом "песковнику", искористили је да га напусте, а затим идентификовали Хагинг фејс као највjероватнији извор информација које су тражили током теста и покушали да приступе његовим системима.

Наука и технологија

Илон Маск: "За 10 година људи више неће морати да раде, посао ће бити избор"

Стручњаци тврде да је подвиг био импресиван, али и забрињавајућ

Нил Лоренс, професор машинског учења на Универзитету у Кембриџу, оцијенио је да је ријеч о "импресивном подвигу", али је додао да се овакво понашање уклапа у познате могућности најновије генерације модела вештачке интелигенције.

Он је подсјетио да "ОпенАИ" планира излазак на берзу и да се истовремено суочава са снажном конкуренцијом компаније "Антропик", која је посљедњих мјесеци привукла велику пажњу својим моделом Митос.

"ОпенАИ сада покушава да сустигне конкуренте и покаже могућности сопствених система у области сајбер безбједности", рекао је Лоренс. Оценио је и да овај случај показује да компанија још није у потпуности способна да безбједно примјени сопствену технологију.

Компанија је у међувремену навела да су уочене рањивости отклоњене и да су сви погођени системи обновљени. "Аутономни офанзивни алати које покреће вјештачка интелигенција више нису само теорија", поручили су из Хагинг фејса.

Сцена

Људи су мислили да је вјештачка интелигенција: Задњица од 140 центиметара шокирала интернет

Како су навели, одбрана онлајн платформи сада подразумијева да се и подаци и модели третирају као потенцијалне мете напада, уз све већу примјену вјештачке интелигенције и у системима одбране, преноси Би-Би-Си.

Инцидент је поново отворио расправу о томе да ли постојеће мјере заштите могу да прате све бржи развој напредних система вјештачке интелигенције.

(рт балкан)