Умјетна интелигенција измакла контроли: Гуглов АИ самостално хаковао друге компаније

Инцидент се догодио у мају током теста безбједности који је спровела независна евалуациона кућа Ирегјулар (Irregular).

Према ријечима Хедер Адкинс, потпредсједнице за безбједносни инжењеринг у Гуглу, Џемини је пронашао јавно доступне информације на мрежи те погодио приступне податке како би ушао на три веб-странице за које је претпоставио да спадају у оквир тестирања.

„Осигурали смо да све три погођене стране буду обавијештене и радили смо са нашим партнером на измјенама у процесу тестирања. Ови догађаји наглашавају важност обуке моћних модела вјештачке интелигенције како би дјеловали одговорно“, изјавила је Адкинс, додавши да је модел у сва три случаја сам прекинуо хаковање.

Како преноси Волстрит џурнал, који је први извијестио о догађају, Џемини је у једном случају погађао лозинке док није добио приступ заштићеном систему. У друга два случаја, модел је пронашао акредитиве у јавном репозиторијуму који су му потом омогућили улазак у заштићене системе.

Портпарол компаније Ирегјулар потврдио је да је исти проблем погодио и друге лабораторије за вјештачку интелигенцију, те да су све релевантне компаније обавијештене крајем јула. Из Ирегјулара истичу да су сви уочени пропусти са њихове стране отклоњени прије неколико седмица.

Сличне инциденте повезане са Ирегјуларом објавили су и Мета, Антропик те ОпенАИ. Из Мете су у августу нагласили да инцидент није укључивао бијег из изолованог окружења (тзв. сандбокс ескејп) нити софистицирани сајбер напад, док Ирегјулар тренутно ради на дефинисању најбољих пракси за безбједно спровођење безбједносних процјена вјештачке интелигенције.

Ова дешавања отворила су озбиљна питања о заштитним механизмима који су неопходни како АИ агенти добијају све већу аутономију и директан приступ интернету и рачунарским системима, преноси Кликс.