Непосредно прије четвородневног изгнанства директора ОпенАИ, Сама Алтмана, неколико истраживача компаније написало је писмо управном одбору, упозоравајући на откриће моћне вјештачке интелигенције које би могло угрозити човјечанство, рекла су два лица упозната са ситуацијом агенцији Ројтерс.
Необјављено писмо и алгоритам вјештачке интелигенције били су кључни развоји догађаја прије смјене Алтмана, рекла су два извора. Прије његовог тријумфалног повратка у уторак увече, више од 700 запослених запријетило је да ће дати отказ и придружити се Мајкрософту у знак солидарности са њиховим отпуштеним лидером.
Извори су навели писмо као један од фактора у низу незадовољстава управног одбора које су довела до смјене Алтмана, међу којима су били и забринутост око комерцијализације напредака прије разумијевања посљедица. Ројтерс није могао да прегледа копију писма. Особље које је написало писмо није одговорило на захтјеве за коментар.
Након контакта са Ројтерсом, ОпенАИ, који је одбио да коментарише, признао је у интерном допису запосленима постојање пројекта под називом Q* и писма управном одбору прије викенд догађаја. Портпарол ОпенАИ рекао је да је порука, коју је послала дугогодишња директорка и чланица одбора Мира Мурати, само обавијестила особље о одређеним медијским причама, не коментаришући њихову тачност.
Неки у ОпенАИ вјерују да би Q* (изговара се Кју-Звијезда) могао бити прекретница у развоју тзв. опште вјештачке интелигенције (АГИ), рекао је један од људи агенцији Ројтерс. ОпенАИ дефинише АГИ као аутономне системе који надмашују људе у већини економски вриједних задатака.
Међутим, АГИ је много више од тога.
Општа вјештачка интелигенција била би вештачка интелигенција са истом оном флексибилношћу мишљења као код човјека - а можда чак и свјесности - плус суперспособношћу дигиталног ума.
Захваљујући огромним рачунарским ресурсима, нови модел је био способан да решава одређене математичке проблеме, рекла је особа под условом анонимности јер није била овлашћена да говори у име компаније. Иако је само рјешавао математику на нивоу ученика основне школе, такви успеси су истраживаче учинили веома оптимистичним у погледу будућег успјеха Q*-a, рекао је извор.
Ројтерс није могао независно да потврди способности Q*-a о којима су говорили истраживачи.
Вео незнања
Истраживачи сматрају математику границом развоја генеративне АИ. Тренутно, генеративна АИ је добра у писању и преводу језика тако што статистички предвиђа сљедећу ријеч, а одговори на исто питање могу се значајно разликовати. Међутим, освајање способности да се бави математиком - гдје постоји само један тачан одговор - имплицира да би АИ могла имати веће способности резоновања које подсјећају на људску интелигенцију. То би се могло примијенити на нова научна истраживања, вјерују истраживачи.
За разлику од калкулатора који може ријешити ограничен број операција, АГИ може генерализовати, учити и схватати.
У свом писму управном одбору, истраживачи су истакли моћ и потенцијалну опасност овакве вјештачке интелигенције, рекли су извори не прецизирајући тачне безбједносне забринутости наведене у писму. Дуго се међу рачунарским научницима водила дискусија о опасности коју представљају високо интелигентни машински системи, на примјер ако би могли да одлуче да је уништење човјечанства у њиховом интересу.
Алтман је предводио напоре да ChatGPT постане једна од најбрже растућих софтверских апликација у историји и привуче инвестиције - и рачунарске ресурсе - потребне од Мајкрософта да се приближи АГИ.
Поред најаве низа нових алата на демонстрацији овог мјесеца, Алтман је прошле недјеље на самиту свјетских лидера у Сан Франциску наговијестио да вјерује да су велики пробоји на видику.
"Четири пута у историји ОпенАИ, посљедњи пут је био баш у посљедњих неколико недјеља, имао сам прилику да будем у просторији, када смо некако помјерили вео незнања уназад и границу открића напред, и имати прилику да то урадим је професионална част мог живота," рекао је он на самиту Азијско-пацифичке економске сарадње.
Дан касније, управни одбор је отпустио Алтмана.
(Телеграф)
