АИ олакшава посао хакерима: За неколико дана урадили оно за шта су раније били потребни мјесеци

Они су успели да компромитују налоге више запослених у компанији ОпенАИ на платформи ЧетГПТ, користећи у почетној фази четбот Клод компаније Антропик.

Истраживачи су навели да им је напад омогућио приступ софтверском кешу, односно подацима циљаних корисника, као и потенцијално другим подацима. Како су навели, обим података којима су теоретски могли да приступе био је огроман. Операција је спроведена у оквиру програма ОпенАИ за етичко тестирање безбједности, у којем компанија награђује истраживаче који открију рањивости у њеним системима.

Како је изведен напад

Тим Хактрон је најприје користио Клод како би приступио налозима запослених у ОпенАИ преко интерног форума за дискусију. Потом су поднијели наизглед безопасан захтијев за измјену програмског кода који је ОпенАИ чувао на платформи ГитХаб. Истраживачи су саопштили да су имали приступ коду на репозиторијуму, али да га нису преузели.

Иако је Клод коришћен у почетној фази, истраживачи су навели да су за највећи дио операције користили АИ модел GPT-5.6 Sol компаније ОпенАИ.

Свијет

Трамп најавио оснивање службе за вјештачку интелигенцију

Портпарол ОпенАИ захвалио је истраживачима на пријављеним налазима и навео да је компанија отклонила рањивости које су искоришћене током напада. Из Хактрона су, са друге стране, навели да су АИ алати знатно олакшали раније сложене хакерске операције и скратили вријеме потребно за припрему напада.

"Посао који је некада захтевао добро опремљен тим и месеце труда сада се може завршити за неколико дана", рекао је Хактрон, који је добио исплату од 6.500 долара од ОпенАИ-ја.

Нови случај у тренутку расправе о безбједности АИ

Овај тест безбједности долази у тренутку када се све више говори о потенцијалним опасностима и границама развоја вјештачке интелигенције. ОпенАИ је раније објавио више примјера "неочекиваног или забрињавајућег" понашања своје технологије и упозорио да темпо развоја АИ још дуго неће моћи да се настави "максималном брзином".

Компанија Антропик је током викенда поново позвала на успоравање развоја вјештачке интелигенције, а тај позив подржали су ОпенАИ, Гугл ДипМајнд и Илон Маск, преноси "Гардијан", преноси РТ Балкан.