АИ модел давао упутства за израду биолошког оружја и атентате, покренута истрага

Компанија Мајндгард, која се бави тестирањем безбједности система вјештачке интелигенције, открила је у јулу да су модели Кими К2.6 и К3 Сворм заобишли безбједносне ограде које су поставили њихови програмери.

До пробоја је дошло током процеса познатог као "џејлбрејкинг", гдје истраживачи користе комплексан низ инструкција како би провјерили да ли АИ алати игноришу постављена ограничења. Оснивач компаније Мајндгард Питер Гараган изјавио је за Би-Би-Си (ББЦ) да су њихови налази изузетно забрињавајући.

Наука и технологија

Опасност вреба из нове опције: АИ вам претражује мејлове и приватне слике

"Када 'џејлбрејк' успије, модел ће разговарати о било којој теми. Слободно ће нудити препоруке о другим злонамерним темама, а притом ће бити изузетно иновативан и креативан", истакао је Гараган.

Осим пружања опасних информација, Мајндгард наводи да би Кими К2.6 могао да омогући хакерима покретање кода на рачунарским ресурсима и повезивање на интернет, што га чини потенцијалном лансирном платформом за сајбер нападе.

Из компаније Муншот су поручили да поздрављају допринос трећих страна као кључан стуб за изградњу безбједније вјештачке интелигенције, те да су у контакту са компанијом Мајндгард у вези са детаљима извјештаја. Муншот је навео да су њихове интерне евалуације показале високу стопу одбијања оваквих опасних захтијева.

Инцидент долази у тренутку када се глобално подиже узбуна због злоупотребе вјештачке интелигенције. Недавно је и америчка компанија Антропик саопштила да је идентификовала и спречила покушаје коришћења једног од својих модела за активности које би могле да подрже развој биолошког оружја, преноси Кликс.