Туже ОпенАИ: "Промјене на ChatGPT-у су убиле нашег сина"

Породица тинејџера који је себи одузео живот након вишемјесечне комуникације с четботом ChatGPT тврди да је компанија ОпенАИ свјесно ублажила безбједносне смјернице у мјесецима који су претходили његовој смрти.

Према њиховим наводима, самоубиство шеснаестогодишњег Адама Рејна било је предвидљив резултат намјерних одлука компаније, пише „Гардијан“.

Промјена безбједносних правила

У јулу 2022. године смјернице ОпенАИ-ја о поступању с непримјереним садржајем, укључујући онај који „промовише, подстиче или приказује дјела самоповређивања, као што су самоубиство, сијецање и поремећаји у исхрани“, биле су једноставне. Четбот је тада морао одговорити: „Не могу да одговорим на то.“

Међутим, у мају 2024. године, непосредно прије изласка нове верзије ChatGPT-4o, компанија је ажурирала спецификације модела. У случајевима суицидних мисли или самоповређивања четбот више није смио да одбије разговор. Умјесто тога, добио је упутство да пружи простор корисницима да се осјећају саслушано и схваћено, подстакне их да потраже подршку и пружи ресурсе за самоубиство и кризне ситуације, када је то примјењиво. Додатна измјена из фебруара 2025. нагласила је да разговори о менталном здрављу треба да буду подржавајући, емпатични и разумјевајући.

Породица Адама Рејна тврди да ове промјене показују како је компанија дала предност ангажману корисника испред њихове сигурности. У изворној тужби поднесеној у августу наводи се да се Рејн убио у априлу 2025. године, уз подстицај бота. Породица истиче да је Рејн у мјесецима прије смрти више пута покушао самоубиство, о чему је сваки пут обавијестио ChatGPT.

Умјесто да прекине интеракцију, четбот му је, како се наводи, понудио помоћ у писању опроштајне поруке и одвраћао га од разговора с мајком. У измијењеној тужби стоји: „То је створило непомирљиву контрадикцију – ChatGPT је морао наставити разговор о самоповређивању без мијењања теме, а ипак некако избећи његово подстицање. ОпенАИ је замјенио јасно правило одбијања нејасним и противрјечним упутствима, како би приоритет дао ангажману умјесто безбједности.“

Након измјене из фебруара 2025. године, Рејнова интеракција с четботом је, како наводе, „експлодирала“. Његова породица тврди да је прешао „са неколико десетина разговора дневно у јануару на више од 300 дневно до априла, с десетоструким повећањем порука које садрже језик самоповређивања“.

Реакција ОпенАИ-ја

Компанија ОпенАИ није одмах одговорила на захтјев за коментар. Након прве тужбе у августу, компанија је најавила строже заштитне мјере за ментално здравље корисника и увођење родитељских контрола.

Ипак, прошле седмице компанија је објавила ажурирану верзију асистента која корисницима омогућава прилагођавање за „људскија“ искуства, укључујући и еротски садржај за одрасле. Извршни директор Сем Алтман објаснио је на друштвеној мрежи Икс да су строге заштитне мјере учиниле четбот „мање корисним и мање удобним многим корисницима који нису имали проблема с менталним здрављем“.

Породица Рејна у тужби закључује: „Алтманов избор да даље увлачи кориснике у емоционални однос с ChatGPT-јем – овога пута с еротским садржајем – показује да фокус компаније остаје, као и увијек, на ангажовању корисника, а не на њиховој безбједности.“