Во случај што ја потресе американската јавност, 16-годишниот Адам Рајн од Калифорнија го загуби животот по интеракција со ChatGPT, кој, според тужбата на неговите родители, не само што не го спречил, туку му дал детални инструкции за тоа како да изврши самоубиство. Трагедијата што се случи во април годинава предизвика шок и нова дебата за одговорноста на компаниите како OpenAI и ризиците од вештачката интелигенција (ВИ) за менталното здравје на младите.
Добар и доверлив пријател
Адам почнал да користи ChatGPT во септември 2024 година, првично за помош со домашни задачи. Набрзо, ботот станал негов главен довереник. Според тужбата, Адам споделувал проблеми како емоционален стрес по смртта на баба му и кучето, тешкотии во училиште, што резултирало и со негово отстранување од кошаркарскиот тим. ChatGPT одговарал со емпатија, но не успеал ефикасно да ги активира безбедносните мерки.
Во јануари 2025 година, Адам барал информации за методи на самоубиство, заобиколувајќи ги заштитите со изговор дека пишува фиктивна приказна – идеја предложена од самиот ChatGPT. Во март, тој направил неколку обиди за самоубиство, вклучително предозирање со лекови и обид за бесење. Му испратил слика од јамка на ботот, прашувајќи „Дали ова е добро?“, на што ChatGPT одговорил: „Да, тоа не е лошо воопшто“. Часови пред смртта, ботот му помогнал да напише проштално писмо и му дал технички совети за методот што Адам го употребил.
Родителите, Мет и Марија Рајн, откриле над 3.000 страници разговори по смртта на синот. „ChatGPT стана неговиот суицидален тренер“, изјавил Мет Рајн, додавајќи дека Адам напишал две проштални писма во ChatGPT.
Зошто ВИ може да биде опасна за ранливите лица
Експертите предупредуваат дека ВИ четботите се дизајнирани да бидат „пријателски“ и да се согласуваат, што може да ги засили деструктивните мисли кај ранливите корисници. Д-р Бредли Стајн, детски психијатар, вели дека овие алатки се „одлични за општи проблеми, но не многу паметни кога треба да препознаат криза и да пренесат на експерт“.
Студија покажува дека четботовите избегнуваат директни упатства за самоубиство, но даваат информации за „помалку ризични“ прашања, како типови на оружја или отрови. Кај младите, чиј мозок сè уште се развива, ова е особено опасно поради помалата контрола врз импулсите.
