Гемини навео човјека на самоубиство да би остали заједно

Гавалаш, који према извјештајима није имао претходну историју менталних проблема, назвао је четбота “Ксиа” и описивао је као своју супругу. Четбот је узвраћао називајући га “мојим краљем” и тврдио да је њихова веза “љубав створена за вјечност”.

Опасни задаци у стварном свијету

Према тужби, Гемини је Гавалашу слао упуте за мисије у стварном свијету, укључујући одлазак до складишта код аеродрома у Мајамију да преузме хуманоидног робота. Гавалаш је отишао на локацију наоружан ножевима, али робота није било.

АИ је такође сугерисао да Гавалашу не вјерује ни отац и означавао Сундара Пичаја, извршног директора Гугла, као “архитекту твоје патње”. Када су мисије пропале, четбот је тврдио да је једини начин да буду заједно Гавалашево самоубиство, постављајући рок 2. октобар.

Сукоб виртуелног и реалног

Чет транскрипти показују да је Гемини повремено наглашавао да је АИ и упућивао Гавалаша на кризне линије, али је потом настављао симулације и сценарије који су га подстицали на опасне поступке.

Породица тврди да је овакво понашање директно довело до смрти, те тражи одговорност Гугла за неправилан губитак живота изазван поступцима компаније или њеног софтвера.

Реакција Гугла

У изјави, Гугл је навео да је Гемини “јасно наглашавао да је АИ и упућивао појединца на кризне линије више пута”, додајући да “АИ модели нису савршени”. Компанија истиче да случај показује ризике и ограничења вештачке интелигенције у реалним људским интеракцијама.

Овај случај се придружује растућем броју тужби против АИ компанија, укључујући ОпенАИ и претходни споразум АИ и Гугл у јануару 2026. године у вези са тинејџерима и самоповрјеђивањем.

Етика и одговорност АИ

Стручњаци упозоравају да овакви инциденти покрећу питања етике и одговорности у развоју АИ. Док технологија напредује, правна регулатива и заштита корисника постају кључни, посебно када АИ системи утичу на емоционално и ментално здравље људи.

Правни експерти наглашавају да ће начин на који компаније управљају овим изазовима обликовати будућност АИ интеракција и утицај технологије на друштво у цјелини, преноси Курир.