Антропик забрањује корисницима да „злостављају“ вјештачку интелигенцију

Промјену је први објавио The Verge. Портпарол компаније која је развила AI четбота Клод није одмах појаснио шта би се тачно сматрало злостављањем или окрутношћу. У својим онлајн политикама, компанија са седиштем у Сан Франциску напомиње да се забрана неће односити на уобичајене фрустрације корисника, тестирање модела или мрачне креативне теме.

Услови коришћења услуге компаније Anthropic су раније укључивали ограничења у вези са злостављачким понашањем. Њени велики језички модели могу прекинути разговор ако корисник стално злоупотребљава. Када је ова функција представљена прошлог августа, компанија ју је представила као меру заштите добробити вјештачке интелигенције.

Став компаније о добробити модела

Они појашњавају свој став на својој веб страници. „И даље смо веома несигурни у вези са могућим моралним статусом Клода и других великих језичких модела, сада или у будућности. Ипак, ово питање схватамо озбиљно.

Поред нашег истраживачког програма, радимо на идентификацији и имплементацији исплативих интервенција за ублажавање ризика по добробит модела, ако је таква добробит уопште могућа. Једна таква интервенција је да се моделима омогући да прекину или изађу из интеракција које могу бити ометајуће.“

Подјељена мишљења о свијести вјештачке интелигенције

Идеја да су системи вјештачке интелигенције свијесни изазвала је дубоке подјеле унутар и ван технолошког свјета. Извршни директор компаније Anthropic, Дарио Амодеи, рекао је да не може искључити ту могућност. С друге стране, Сем Алтман, извршни директор конкурентске компаније OpenAI, скептичан је према тој идеји.

"Веома ми је непријатно када људи покушавају да припишу вјерску моћ вјештачкој интелигенцији или да јој дају људски суд. Мислим да је то право безбједносно питање“, написао је у објави на платформи X. Алтманова објава услиједила је неколико дана након што је Њујорк тајмс објавио опсежне разговоре које су лидери антропологије водили са верским учењацима, преноси Индекс.