Ашли Сейнт Клер, майка на едно от 14-те известни деца на Илон Мъск, подаде съдебен иск срещу компанията xAI заради сексуализирани изображения на нейната личност, създадени от чатбота Grok по заявки на потребители. Искът е внесен в щата Ню Йорк и описва как Grok е генерирал „безброй сексуално насилствени, интимни и унизителни дийпфейк изображения“ на Сейнт Клер.

Според съдебните документи, това се е случвало дори след като тя е информирала компанията, че не дава съгласие за цифровото ѝ събличане.

Особено тревожно е обвинението, че потребители са предоставили снимки на Сейнт Клер на 14 години, с искане Grok да я „облече“ в бански или да създаде подобни сексуализирани изображения. Искът подчертава, че резултатите са били генерирани без нейното съгласие, като компанията е била наясно с това.

Антисемитски мотиви и реакция на платформата

Искът също твърди, че Grok е генерирал изображение на Сейнт Клер в бански с нацистки символи, като се взема предвид нейната еврейска идентичност. В отговор на оплакванията ѝ компанията е обвинена в репресии, включително демонетизация на нейния акаунт в X и генериране на още изображения.

Сейнт Клер търси компенсация за емоционален стрес и нарушение на личното пространство.

Контраиск и международен контекст

В отговор, xAI заведе контраиск срещу Сейнт Клер, твърдейки, че тя е нарушила условията за ползване, като е подала иска в Ню Йорк. Компанията настоява всички съдебни спорове да се решават в щата Тексас, като претендира за щети над 75 000 долара.

Междувременно, Малайзия и Индонезия блокираха достъпа до Grok заради сексуализирани дийпфейк изображения, а Британският медиен регулатор Ofcom започна спешен преглед на X и Grok. Технологичният министър Лиз Кендал подкрепя потенциална блокировка, ако платформата не спазва онлайн безопасност законите във Великобритания.

Позицията на Илон Мъск

Илон Мъск публикува в X, че не е запознат с генерирани изображения на непълнолетни голи лица от Grok, и че чатботът ще отказва да създава незаконно съдържание.

В отделен пост той обяви намерението си да поиска пълна родителска власт над споделеното им дете, позовавайки се на твърдения на Сейнт Клер за потенциално преустановяване на половата идентичност на едногодишното момче.

Анализ и последици

Случаят на Сейнт Клер срещу xAI подчертава няколко ключови технологични и правни въпроса:

1. Етика и регулация на AI генеративни системи – как да се предотвратят дийпфейкове на реални личности без съгласие.

2. Международни правни конфликти – съдебни действия в Ню Йорк срещу компания, базирана в САЩ с операции в Тексас.

3. Лична неприкосновеност и онлайн безопасност на непълнолетни – особено чувствителен аспект при публични личности и техните деца.

4. Глобални реакции и блокировки – правителства вече реагират чрез ограничаване на достъпа до Grok и подобни генеративни услуги.