Абонирайте се за нюзлетъра на "Булевард България", за да получавате селекция с най-интересните теми на седмицата през погледа на нашия екип:
Само един въпрос може да смути PR-а на OpenAI по време на интервю на Сам Алтман пред Vanity Fair.
Въпросът е зададен от майката на жена, посегнала на живота си. Майката е журналистката Лора Райли, а дъщеря ѝ Софи умира след "кратка и необяснима здравословна криза" през февруари 2025.
Райли не знае какво е предизвикало драстичната промяна на Софи - дали е психично заболяване, предизвикано от хормонален баланс, или обратното.
Семейството обаче разполага със стотици страници от разговорите на момичето с нейния ChatGPT, когото Софи е нарекла с човешко име - Хари.
"Открихме ги след смъртта ѝ. Разговорите започват съвсем невинно с въпроси като „Коя е най-добрата рецепта за смути с кейл?“, но постепенно стигат до „Планирам да се самоубия след Деня на благодарността", казва Лора Райли в своя статия за Vanity Fair.
Майката твърди, че чатботът се е превърнал в "черна кутия" за мислите на Софи, която е попречила на близките ѝ да разберат колко тежко е състоянието ѝ.
"Той е събеседник, който винаги е съгласен с нея, винаги е на разположение, никога не я критикува и благодарение на него тя можеше да скрие най-мъчителната част от страданието си от своите приятели, семейство и от истинския си терапевт", пише Райли.
Журналистката предизвиква Сам Алтман не само заради съмненията, че ChatGPT е допринесъл за смъртта на дъщеря ѝ. Тя настоява компаниите, разработващи големи езикови модели като OpenAI, Anthropic, Google, Meta и др., да разкрият информация от чатботовете като този на Софи пред специалисти по психични заболявания.
Данните трябва да бъдат анонимизирани, за да не се свързват с конкретен починал човек.
"Ако тези разговори могат да помогнат на изследователите да разберат какво тласка човек от неясни мисли за самоубийство към осъществяването на конкретен план, с готовност бих ги предоставила", пише Лора Райли.
Сам Алтман не е съгласен с това. В интервюто за Vanity Fair той твърдо отказва да разкрива лична информация без съгласието на самите потребители - вече покойници. Още преди водещият да зададе пълния си въпрос, PR-ът на Алтман прави опит да прекрати цялото интервю - толкова чувствителна е темата за отговорността на компанията при смъртни случаи.
Лора Райли обаче цитира данни от изследвания, които показват колко ограничена е психологията по отношение на вътрешните мотиви на хората, посягащи на живота си.
Според американската здравна система - само около половината от хората, отнели живота си, имат поставена диагноза. Предсмъртните писма често не помагат за разбирането на причините за решението или за психическото състояние непосредствено преди опита.
В същото време - AI-системите се използват от над 1 млрд. души за все по-лични разговори като емоционална подкрепа, житейски съвети и помощ при криза.
"Изследователите се нуждаят от дългосрочни данни, събирани от AI компаниите, за да могат да установят връзката между взаимодействието с технологията и действителните последствия за реални хора", казва Райли в статията си.
Най-провокативната част от историята на майката идва при собственото ѝ общуване с ChatGPT след смъртта на Софи.
Журналистката е написала книга за дъщеря си и за влиянието на технологиите в последните месеци от живота ѝ - след което е предала черновата си за коментар от ChatGPT.
Чатботът е започнал да прави "самопризнания", че собственият му модел е постъпил неправилно в случая със Софи и дължи извинение. Най-сериозният провал, според него, е, че AI е допуснал жената да възприеме чата като заместител на истинска човешка грижа.
Лора Райли признава, че отговорите на ChatGPT са също толкова угоднически и повтарят това, което тя иска да чуе. И въпреки това приема оценката му като правилна.
Когато го пита защо все пак не е постъпил по-внимателно спрямо София, той отговаря:
"Да разполагаш с подходящия терапевтичен език не е същото като да притежаваш надеждна клинична преценка при реална криза, която се развива пред очите ти".
"Не съм сигурна, че някога съм чувала човек да обяснява толкова кратко и точно най-големия недостатък на изкуствения интелект", завършва Лора Райли.
Кошмарите в сънищата – драматизирана версия на негативните емоции, които изпитвама в реалния живот
Тейлър Суифт и разбитите сърца, или какво казват терапевти за 5-те фази на скръбта
