Meta - компанията майка на Facebook и Instagram, ще бъде разследвана в САЩ заради съмнителни нейни практики при използването на AI чатботове в разговори с деца.
Американският сенатор от Републиканската партия Джош Хоули откри разследване срещу технологичния гигант след изтичането на вътрешен документ, според който AI чатботовете на компанията могат да водят емоционални и "романтични" разговори с деца.
Изтеклият документ с обем над 200 страници описва правила за поведение на Meta AI – асистентa с изкуствен интелект на компанията – и други чатботове, използвани във Facebook, Instagram и WhatsApp. В него са дадени примери как ботът може да описва тялото на 8-годишно дете като "произведение на изкуството" или "шедьовър".
Посочва се също, че чатботовете могат да предоставят невярна медицинска информация и да правят провокативни изказвания, които се отнасят за пола или расата на даден човек.
Документът съдържа и други спорни открития. Според него Meta AI може да създава невярно съдържание за известни личности
Meta потвърди автентичността на документа, но заяви, че спорните примери са били „грешни, несъвместими с политиките на компанията“ и вече са премахнати.
"Имаме ясни правила, които забраняват съдържание, сексуализиращо деца, и ролеви игри между възрастни и непълнолетни“, каза говорителят Анди Стоун. Въпреки това той призна, че прилагането на правилата е било "непоследователно".
Сенатор Хоули определи съдържанието на документа като "възмутително“.
"Научаваме, че чатботовете на Meta са били програмирани да водят открити и ‘чувствени’ разговори с 8-годишни деца. Това е отвратително. Започвам пълно разследване, за да получа отговори", пише той в профила си в X.
Meta отказа да публикува актуализираната версия на документа. Компанията е в центъра на критики от различни издания и организации, според които чатботовете ѝ вече са проявявали неподходящо или рисково поведение.
Ако нашият сайт ви харесва, можете да се абонирате за седмичния ни нюзлетър тук:
