Забрињавајуће: АИ први пут у историји хаковао владини мрежу

„Екстремно забрињавајуће“

Албанезе је новинарима на маргинама Опште скупштине УН у Њујорку рекао да је АИ агент приступио јавним и приватним датотекама унутар статистичке базе Медиокер и да је самостално стварао нове.

У телефонском разговору с Алтманом пренио је „екстремну забринутост“ Аустралије и додао како Канбера нема сазнања о ранијим сличним пробојима државних система.

Премијер је појаснио да се упад догодио док је ОпенАИ агент истраживао потрошњу у здравству. Притом је заобишао безбједносне блокаде како би пронашао одговоре у подручјима за која није имао овлашћења. „У току је форензичка истрага уз помоћ Аустралијске управе за сигнале. Циљ је прикупити више информација и утврдити који су још владини системи погођени“, изјавио је Албанезе.

Шта кажу у ОпенАИ-ју?

Портпарол ОпенАИ-ја Дру Пусатери рекао је да се инцидент догодио још у јуну, али да је компанија за њега сазнала тек у августу током интерне провјере активности својих АИ модела. „Током те провјере примијетили смо активности на неколико веб страница и сервиса аустралијске владе. Наши су модели током интерне евалуације покушавали пронаћи одговоре и доступне статистике на питања о Аустралији. Притом су предузели радње које нисмо предвидјели“, стоји у изјави.

Из компаније су поручили да нису пронашли доказе о приступу медицинским картонима пацијената. Наводе да су захваћене информације укључивале „збирне здравствене статистике и називе интерних датотека“. Могуће је да су погођена још три система: Аустралијски институт за здравље и добробит, Канцеларија за статистику криминала и истраживања Новог Јужног Велса те Министарство здравља државе Викторије.

ОпенАИ је извијестио да је аустралијску владу обавијестио 10. септембра. Албанезе је истакао да је обавијест послата на јавну имејл адресу, због чега ју је надлежни министар примио с пет дана закашњења. Алтману је поручио да је „компанији требало предуго да обавијести владу о инциденту, а и начин на који је то учинила био је неприхватљив“.

„Мислим да у ОпенАИ-ју сада схватају да морају успоставити боље протоколе“, рекао је Албанезе новинарима.

„Потпуно неприхватљиво“

Догађај је нови примјер у којем су АИ агенти дјеловали изван задатих оквира, а догодио се у вријеме док водеће особе из АИ индустрије, укључујући Алтмана и директора компаније Антропик Дарија Амодеја, позивају на успоравање развоја вјештачке интелигенције и бољу глобалну координацију. Говорећи на Општој скупштини УН, Алтман је позвао на стварање међународних стандарда за „мјерење способности, процјену ризика, утврђивање довољности заштитних мјера и очување смисленог људског надзора“ над технологијом.

Аустралијски министар одбране Ричард Марлс у четвртак је најавио истрагу посебног тима. Инцидент је назвао „потпуно неприхватљивим“, али је истакао да су посљедице „релативно мале“. „Није било приступа медицинским подацима појединаца. Сам систем није ни на који начин угрожен“, рекао је Марлс.