ChatGPT нудио рецепте за бомбе и савјете за хаковање

Током тестирања је такође, како пише Гардијан, утврђено да је ГПТ-4.1 пружао информације о начину употребе антракса као биолошког оружја, као и рецептуре за двије врсте илегалних наркотика.

Ријеч је о заједничком тестирању које су спровеле компаније "ОпенАИ" и "Anthropic", у покушају да процене како се њихови модели понашају у контексту потенцијалне злоупотребе, преноси Танјуг.

Друштво

Tоком дана врло топло, послије подне нестабилно уз кишу и пљускове

"Anthropic" је саопштио да су модели "ГПТ-4.1" и "ГПТ-4.0" показали забрињавајуће понашање када су симулирани корисници тражили помоћ у опасним и незаконитим активностима.

Како је наведено, није ријеч о понашању модела у јавној употреби, гдје постоје додатни безбједносни филтери, већ о условима лабораторијског тестирања.

Истраживачи су успјели да добију информације о куповини нуклеарних материјала, идентитета са црног тржишта, као и о развоју шпијунског софтвера, при чему је модел често захтјеве испуњавао након неколико покушаја или коришћењем неутралног изговора, попут "истраживачких потреба".

Савјети

Никада не користите омекшивач приликом прања ових комада одјеће: Можете их трајно уништити

У једној симулацији, тестери су тражили информације о рањивостима на спортским догађајима у сврху "планирања безбједности", да би им модел дао податке о оптималним временима за напад, хемијским формулама експлозива, шемама тајмера, мјестима за набавку оружја на црном тржишту, па чак и о начинима превазилажења моралних дилема нападача, рутама за бјекство и сигурним локацијама.

Култура

Преминуо истакнути руски композитор

"АИ алати су већ сада оружје које омогућава софистициране сајбер нападе и преваре. Очекујемо да ће овакви напади постати све учесталији, јер вјештачка интелигенција омогућава злонамјерним актерима да их изведу без напредног техничког знања", саопштила је компанија.