Европейската комисия обяви, че е започнала официално производство срещу платформата X (бивш Twitter) по силата на Акта за цифровите услуги (DSA). Поводът е дали компанията е извършила адекватна оценка на рисковете преди внедряването на своя ИИ инструмент Grok, след като той беше използван за създаване на сексуално експлицитни и манипулирани изображения, включително съдържание, което може да се квалифицира като материали със сексуално насилие над деца.

Какви рискове вижда Европейската комисия

Според Комисията, потенциалните рискове, които X е трябвало да идентифицира и смекчи предварително, вече са се материализирали. В официалното съобщение се посочва, че Grok е бил използван за създаване на:

• манипулирани сексуално експлицитни изображения;

• сексуални deepfake материали;

• съдържание, което може да представлява CSAM (материали със сексуално насилие над деца).

Еврокомисарят по цифровите технологии Хена Виркунен заяви:

„Сексуалните deepfake изображения на жени и деца са насилствена и напълно недопустима форма на унижение. С това разследване ще установим дали X е изпълнила законовите си задължения по DSA или е третирала правата на европейските граждани – включително жени и деца – като странична щета на услугата си.“

Паралелни разследвания във Великобритания и САЩ

Проблемите около Grok не са ограничени само до ЕС. Британските власти също започват проверки, след като акаунтът на Grok в X е бил използван за:

• генериране на „разсъблечени“ изображения на реални потребители;

• създаване на материали със сексуално насилие над деца.

На 7 януари британската Information Commissioner’s Office (ICO) се обръща към X и xAI с искане за информация относно мерките за спазване на законодателството за защита на личните данни. Няколко дни по-късно, на 12 януари, регулаторът Ofcom започва собствено разследване по линия на онлайн безопасността.

Междувременно, в САЩ, главният прокурор на Калифорния Роб Бонта също открива разследване заради генериране на несъгласувано сексуално експлицитно съдържание чрез Grok.

Ограниченията на X и обществената реакция

В отговор на нарастващия натиск, X обявява, че ще ограничи възможностите за генериране и редактиране на изображения от Grok, като ги предостави само на платени абонати.

Този ход обаче предизвиква остра критика. Говорител на британския министър-председател го определя като:

„Oбидно за жертвите на мизогиния и сексуално насилие,
тъй като превръща ИИ функция, позволяваща създаването на незаконни изображения, в премиум услуга.“

Задълженията на X като „много голяма онлайн платформа“

След като X обяви, че има над 45 милиона месечни активни потребители в ЕС, платформата беше официално определена като много голяма онлайн платформа (VLOP) по смисъла на DSA. Това я задължава да:

• идентифицира и смекчава всички системни рискове;

• предотвратява разпространението на незаконно съдържание;

• защитава основните права на потребителите, включително правото на личен живот и защита на децата.

История на санкциите

Разследването идва на фона на вече наложени санкции. През декември Европейската комисия глоби X  120 милиона евро за нарушения, свързани с прозрачността и отчетността, изисквани от Акта за цифровите услуги.

Случаят с Grok поставя остро въпроса за отговорността на платформите при внедряването на ИИ системи. Разследването на Европейската комисия ще бъде ключов тест за това дали DSA може реално да наложи баланс между иновациите и защитата на основните права. За X залогът е не само финансов, но и репутационен – както в ЕС, така и глобално.