Няколко държави разследват Grok на Илон Мъск за сексуално AI съдържание с деца

"Разсъблича" ли чатботът Grok жени без тяхното съгласие? Създава ли и разпространява ли сексуализирани изображения на непълнолетни? Сигнали за това има от различни точки на света, а разследвания и проверки се подготвят или вече текат срещу изкуствения интелект на компанията xAI, интегриран в социалната мрежа X на Илон Мъск.

Сред държавите са Франция, Великобритания, Индия и Малайзия. Проверки се правят и от европейските институции.

Допълнителен обществен отзвук предизвика и реакцията на Ашли Сейнт Клеър, майка на едно от децата на Мъск. Тя заяви, че Grok е бил използван за създаване на deepfake изображения, при които нейното лице е било поставяно върху порнографски изображения. Тя определи този факт като тежко посегателство върху личността.

Европейската комисия обяви, че разглежда „много сериозно“ подадените жалби срещу Grok. Те включват твърдения, че т.нар. spicy mode в чата позволява генерирането на сексуално съдържание, в някои случаи с участието на деца. Говорителят на Комисията по цифровите въпроси Томас Рение заяви, че подобни практики са незаконни и „нямат място в Европа“.

Паралелно с това британският медиен регулатор Ofcom съобщи, че е в директна връзка с X и xAI, за да изясни какви мерки са предприети за защита на потребителите във Великобритания. Регулаторът проверява дали платформата може да е в нарушение на Online Safety Act заради AI-генерирани сексуализирани изображения на деца, както и заради случаи на създаване и разпространение на интимни изображения на жени без тяхното съгласие. В зависимост от отговора на компанията Ofcom ще прецени дали да започне официално разследване.

Във Франция прокуратурата в Париж потвърди, че е започнала разследване за разпространението на deepfake изображения с непълнолетни, генерирани от Grok и публикувани в социалната мрежа X. Поводът са сигнали от френски депутати и от трима министри, които са докладвали за „явно незаконно съдържание“ и са поискали незабавното му премахване. От прокуратурата посочват, че подобни действия подлежат на наказателна отговорност, включително възможни присъди лишаване от свобода и глоби.

Върховният комисар на Франция по въпросите на децата Сара Ел Айри заяви, че е „възмутена“ от тези практики. Случаят допълва вече започналото разследване на френското звено за борба с киберпрестъпленията срещу X, което през ноември беше разширено и заради разпространение на антисемитско съдържание и отричане на Холокоста чрез Grok.

Натискът върху Grok не се ограничава до Европа. На 2 януари индийското министерство на информационните технологии даде на X срок от 72 часа да прекрати създаването на „непристойно, порнографско и незаконно съдържание“ чрез Grok и да представи доклад за предприетите мерки. Индийските власти предупредиха, че при неизпълнение X може да понесе правни последици и санкции.

В Малайзия комисията по комуникации и мултимедия също съобщи, че разследва онлайн злоупотреби в X, включително разпространението на „грубо обидно и вредно съдържание“, свързано с използването на инструменти с изкуствен интелект.

Въпреки започналите разследвания подобни изображения продължават да се разпространяват в X - на фона на обещанията на платформата да спира потребители, които създават незаконно съдържание чрез Grok. След промени в чатбота през декември стана по-лесно да се качват снимки и да се искат промени по тях, включително „премахване на дрехите“. Това не означава пълна голота, но води до изображения на хора по бельо, в бански или в ясно сексуализирани пози.

По данни на неправителствената организация AI Forensics повече от половината от анализираните изображения, създадени от Grok в края на декември, показват хора по бельо или пo бански. Около 2% от тях вероятно включват непълнолетни, включително много малки деца. Изследователите посочват, че значителна част от това съдържание остава достъпно онлайн.

Илон Мъск първоначално реагира с ирония на случващото се, но по-късно заяви, че „всеки, който използва Grok за незаконно съдържание, ще понесе същите последствия, както ако го качи ръчно“. От X заявиха, че премахват незаконно съдържание, спират профили и си сътрудничат с властите, включително при случаи, свързани със сексуална злоупотреба с деца.

Въпреки тези уверения xAI не е представила конкретна информация за техническите мерки, които предприема. Публикувано изявление от името на Grok за „поправени защитни механизми“ по-късно беше определено като автоматично генерирано от самия AI.

Франция разследва X за манипулиране на алгоритми