Упозорење из Мајкрософта: Због овог потеза АИ више нећемо моћи да искључимо?

Директор за вештачку интелигенцију у компанији Мајкрософт Мустафа Сулејман критиковао је приступ компаније Антропик (Anthropic) по питању развоја свијести вјештачке интелигенције, преноси Танјуг.

Он је упозорио да би начин на који се модели обучавају могао отежати њихову контролу у будућности, пренио је Ројтерс.

Наука и технологија

АИ би могао да нас убије до краја деценије? Алтман: "Имате право да се плашите"

Међутим, Сулејман је истакао да дијели фокус Anthropica на безбједно управљање вјештачком интелигенцијом и похвалио интегритет руководства компаније, посебно њеног извршног директора Дарија Амодеија.

Његова критика односи се на укључивање идеја о свести, добробити и личном идентитету у обуку четбота Клада.

Према Сулејмановим наводима, подучавање система језику и обрасцима понашања који се повезују са људском свијешћу могло би да утиче на начин на који вјештачка интелигенција "доживљава" сопствену улогу.

Наука и технологија

Зашто шефови AИ дивова одједном упозоравају на огромну опасност?

Он сматра да би такав приступ могао да отежа управљање будућим системима који би били знатно способнији од данашњих модела, укључујући њихово искључивање када је то потребно.

Сулејман је оцијенио да би индустрија вјештачке интелигенције требало да буде усмјерена на развој система који служе људима, а не на њихово приближавање људским особинама.

Заложио се за уклањање спекулативних формулација о свијести из података и процеса обуке АИ система.

Здравље

Научници открили који систем у тијелу први почиње да стари

Расправа долази у тренутку интензивиране дебате у технолошкој индустрији о безбједности и темпу развоја напредних модела вјештачке интелигенције.

Anthropic је раније упозоравао на потенцијалне ризике све моћнијих АИ система, док су челници више великих технолошких компанија посљедњих дана говорили о потреби додатних безбједносних механизама и опрезнијег развоја.