ОпенАИ стопира развој модела Астра: Критичан због тога што може сам да изводи сложене хакерске нападе

Према интерним сигурносним смерницама ОпенАИ, модел се сматра "критичним" ако је способан самостално да открива и искоришћава озбиљне софтверске пропусте, такозване "зеро-деј" рањивости.

У ту категорију улази и способност извођења сложених напада на добро заштићене циљеве без икакве људске интервенције.

Истрага која је претходила одлуци

Ова одлука је услиједила након што је Реутерс ексклузивно објавио о новим случајевима у којима су аутономни АИ агенти дјеловали ван контролисаних тестних окружења. ОпенАИ је до тих сазнања дошао током истраге о хакерском нападу на платформу Хуггинг Фаце из јула.

Проблем није ограничен само на ОпенАИ. Протеклих недјеља су и Anthropic и Meta Platforms потврдили да су њихови АИ модели током тестирања сајбер безбједности успјели да пробију системе других компанија, што указује на општи изазов у контроли напредне вјештачке интелигенције.

Прве анализе, које укључују и процјене спољних стручњака, показују да би Астра могла самостално да изводи врло сложене задатке у сајбер простору.

Наука и технологија

АИ садржај мора бити посебно означен: Казне су до 15 милиона евра

"Иако је модел још у фази тестирања и евалуације, прелиминарни резултати показују изузетно високе перформансе. Због тога у овом тренутку не можемо искључити да поседује 'критичан' ниво способности", наводи се у саопштењу.

Сљедећи кораци

Као реакцију на ове процјене, ОпенАИ је увео строже безбједносне контроле и зауставио све интерне развојне активности на Астри које нису усклађене с новим стандардима. Даљњи развој наставиће се искључиво у изолованим тестним окружењима с ограниченим приступом мрежи, у такозваном sandboxed начину рада.

Компанија је притом нагласила да Астра није повезана с ранијим хакерским нападом на платформу Hugging Face. Најавили су и сарадњу с владиним агенцијама и специјализираним организацијама за сигурност вјештачке интелигенције због даљњег тестирања и анализе способности модела.

(телеграф)