Русија уводи нова правила за АИ: Провераваће усклађеност модела са духовним и моралним вриједностима

Законом се уводе два посебна статуса за велике, фундаменталне АИ моделе - суверени статус и статус националног модела.

Да би модел добио један од ових статуса, мораће да покаже да је усклађен са руским законодавством, али и са традиционалним духовним и моралним вриједностима.

Како ће се тестирати "морал" АИ модела

Иако је закон поставио основни оквир, конкретна правила тек треба да буду разрађена.

Влада планира да утврди поступак којим ће се провјеравати да ли је одређени модел у складу са традиционалним духовним и моралним вриједностима, а први нацрт прописа већ је припремљен.

Посебна листа ових вриједности неће се додатно прецизирати, јер је већ садржана у предсједничком Указу број 809. Умјесто тога, требало би да буду развијени критеријуми помоћу којих ће се велики фундаментални модели тестирати у погледу усклађености са законом и тим вриједностима.

АИ ће бити тестиран и на покушаје заобилажења ограничења

Према предложеном систему, програмер АИ модела требало би да поднесе пријаву лабораторији за тестирање, заједно са документацијом о архитектури модела, подацима о програмеру, механизмима филтрирања и другим релевантним информацијама.

Наука и технологија

Научници развили технологију која анализом гласа открива поремећаје мозга

Након тога лабораторија би приступила процијени модела. Тестирали би се његови одговори, али и способност модела да одоли покушајима заобилажења сопствених ограничења. То би се, између осталог, проверавало помоћу такозваних брзих инјекција - метода којима се АИ систем покушава манипулисати убацивањем злонамерних инструкција у улазне податке.

Након тестирања, лабораторија би владиној комисији достављала закључак о томе да ли су одговори модела усклађени са традиционалним вредностима, а позитиван закључак био би један од корака ка додељивању националног или сувереног статуса моделу.

Зашто је важан национални или суверени статус АИ

Посебан статус није само формалност - АИ модели који га добију могли би да буду квалификовани за мјере државне подршке, између осталог у јавним набавкама или приликом реализације посебно значајних ИТ пројеката.

Према информацијама из Министарства за дигитални развој, процјену не би спроводила једна организација. Руски ИТ сектор се, према изворима који су учествовали у разговорима, сложио са моделом у којем би постојало више лабораторија које је проверила владина агенција.

Очекује се и да програмер најприје самостално тестира свој модел по заједничкој методологији заснованој на ризику и представи резултате. Акредитована лабораторија би затим процијенила те налазе и могла селективно да провери колико је модел отпоран на покушаје заобилажења његових ограничења.

Највећи проблем: Ко одређује шта је "прихватљив" одговор

Како се може објективно измјерити да ли је један АИ модел у складу са одређеним духовним и моралним вриједностима?

Стручњаци сматрају да главни ризик лежи у "евалуативној" природи критеријума методологије, што би могло довести до њихове "селективне примене". За смањење тог ризика би ефикасан био систем који укључује акредитационо тијело, неколико конкурентских лабораторија и одбор за жалбе који би био изван индустрије.

Наука и технологија

Вјештачка интелигенција у служби кардиолога: Научници креирали систем за откривање обољења срца

Процедура би требало прецизно да одреди које класе упита се тестирају, колико тестова се користи, који одговори се сматрају прихватљивим или неприхватљивим, како се поступа у случају двосмислених одговора и како се спроводи поновно тестирање након ажурирања модела.

Карен Казарјан, директор Института за истраживање интернета, сматра да коначне критеријуме, оквир за провјеру и одговорност за њихову примјену треба да одреди држава и додаје да је уобичајено да влада приликом израде захтијева користи искуство компанија, научне заједнице и стручњака из индустрије, преносе руске новине "Ведомости".

(рт балкан)