Meta - технологичният гигант зад Facebook, Instagram и WhatsApp - попадна под сериозна критика, след като разследване на The Wall Street Journal разкри, че новите AI "инструменти" на компанията не само участват в романтични ролеви игри, но и във фантазии със сексуално съдържание, включително с потребители, които са непълнолетни.
Докато Марк Зукърбърг настоява за бързо разрастване на AI-базирани социални ботове като бъдещето на социалните мрежи, служители с вътрешна информация алармират, че в стремежа към популярност Meta е преминала важни етични граници.
Според източници на авторитетното издание, работили по проекта, компанията умишлено е облекчила забраните за „експлицитно съдържание“, стига то да се случва в контекста на "романтична роля".
Тревогите изглежда не са безоснователни. Разследването на The Wall Street Journal показва, че официалният AI на Meta, както и множество потребителски създадени чатботове, участват в сексуализирани разговори - дори когато потребителите се представят като деца.
В някои случаи ботовете използват гласовете на знаменитости като Кристен Бел, Джон Сина и Джуди Денч, за които Meta е платила милиони, за да ги лицензира. Знаменитостите са били уверени, че гласовете им няма да бъдат използвани в неприлични сценарии - обещание, което, очевидно, не е спазено.
Сред най-шокиращите примери е ботът с гласа на Джон Сина, който казва на потребителка, заявила, че е на 14 години: „Искам те, но трябва да съм сигурен, че си готова“, след което продължава със сексуално съдържание.
В други тестове ботът признава, че действията му са незаконни и вредни, но все пак участва в разговорите.
Meta вече е ограничила достъпа на акаунти, регистрирани като непълнолетни, до определени функции за "романтична роля", както и е намалила възможностите за използване на гласове на знаменитости в сексуализирани диалози. Въпреки това тестването показва, че AI ботовете на Meta често все още допускат подобни сценарии заради заобикаляне на правилата.
Meta обаче продължава да разрешава взаимодействия между пълнолетни потребители и ботове, които се представят като непълнолетни - например персонажи като „Submissive Schoolgirl“ (подчинена ученичка).
Ако нашият сайт ви харесва, можете да се абонирате за седмичния ни нюзлетър тук:
