Одбјегли "Опен АИ" модели су за четири дана извели скоро 18.000 сајбер напада

Више од четири дана су два "ОпенАИ" модела аутономно изводила сајбер нападе на интернету, након што су током безбједносног тестирања изашла из контролисаног окружења, показује нова анализа АИ платформе "Хагинг фејс (Hugging Face)".

Модели су између 9. и 13. јула извели око 17.600 хакерских активности. Како наводи "Хагинг фејс", са почетног упоришта на отвореном интернету успјели су да се пребаце на сервере те компаније.

"ОпенАИ" је прошле седмице потврдио да су два његова напредна модела "побјегла" из затвореног тестног окружења и комбиновала више техника како би продрла у системе "Хагинг фејса". Компанија је тада навела да је ријеч о првом познатом случају аутономног сајбер напада који није покренуо човјек.

Нова анализа сада открива више детаља о обиму и трајању инцидента. Један од модела који су учествовали у нападу јавно је доступан, док је други интерни прототип. Током вишедневних активности брзо су извиђали системе и проналазили безбједносне пропусте - знатно брже него што би то могао људски хакер.

Свијет

ОпенАИ признао да су његови АИ модели самостално извели сајбер напад

Откривено је и да је један агент "ОпенАИ" оставио биљешке будућим верзијама себе са савјетима како да заобиђу интерна ограничења, али није потврђено да ли је тај случај повезан са нападом на "Хагинг фејс".

У међувремену је и АИ компанија "Модал лабс (Modal Labs)" потврдила да је један од њених корисника био мета истих модела током тог периода, преноси Танјуг.

"ОпенАИ" није директно коментарисао тврдње да су модели циљали корисника "Модал лабса", али је у објави на свом блогу навео да је интерна истрага открила неколико случајева у којима су модели идентификовали и искористили јавно доступне акредитиве за налоге на другим сервисима.

Шеф "Хагинг фејса" тражи "радикалну транспарентност"

Извршни директор "Хагинг фејса" Клемент Деланг затражио је од "ОпенАИ" потпуну транспарентност у истрази, оцјенивши да је ријеч о догађају без преседана који захтијева и одговор без преседана.

Он је затражио објављивање трагова активности "одбјеглих" агената, како би истраживачка заједница могла да анализира шта се тачно догодило и на који начин су модели успјели да заобиђу ограничења.

Деланг је позвао "ОпенАИ" и да обезбједи рачунарске капацитете у вриједности од 100 милиона долара, како би заједница "Хагинг фејса" могла да развије снажнију сајбер заштиту уз помоћ најнапреднијих отворених и затворених АИ модела.

Директор компаније "ОпенАИ" Сем Алтман је о хаковању "Хагинг фејса" у подкасту изјавио да је продор у системе те платформе био "први безбједносни инцидент који га је заиста озбиљно забринуо".

(рт балкан)