Нов документален филм на BBC, озаглавен Inside the Rage Machine, твърди, че вътрешни служители на големи социални мрежи са предупреждавали работодателите си за опасностите от вредно съдържание, което се промотира чрез платформите им, но рисковете са били толерирани в името на растежа и ангажираността.

Филмът включва интервюта с повече от дузина настоящи и бивши служители на компании като Meta и TikTok.

Алгоритми, ангажираност и „ragebait“ съдържание

Според BBC, сигналоподавателите описват как старшите мениджъри са били наясно с потенциалните вреди, които могат да бъдат причинени от алгоритмите за препоръки и политики за модериране.

Въпреки че технологичните компании твърдят, че алгоритмите са предназначени да помагат на потребителите да откриват съдържание според интересите си, източниците на BBC разкриват, че те често изкарват на преден план теории на конспирацията, AI генерирано съдържание, deepfake видеа и про-нацистки материали.

Такова съдържание, известно като ragebait, е предназначено да предизвиква силна емоционална реакция и да увеличава ангажираността.

Един инженер от Meta разказал на BBC, че персоналът е бил инструктиран да допуска повече „гранично“ съдържание – включително мизогински постове и конспиративни теории – за да се конкурират с TikTok.

„Казаха ни, че това е защото цената на акциите им пада“, споделя инженерът.

Приоритет на политически случаи пред безопасността на деца

BBC получи рядък достъп до вътрешни табла за управление на TikTok, използвани от екипите за доверие и безопасност. Данните показвали, че жалбите, свързани с политици, се обработват с по-висок приоритет от тези, касаещи млади потребители.

Сигналоподаватели споделят, че това е правено, за да се угоди на политици и да се избегнат регулации или забрани.

Примери включват жалби срещу политически фигури, сравнявани с кокошка, които са били третирани с по-голям приоритет от случаи като кибербулинг на 17-годишен или разпространение на фалшиви сексуализирани изображения на 16-годишна.

Един служител на TikTok, идентифициран като „Nick“, споделя:

„Ако ежедневно се чувстваш виновен за това, което ти е казано да правиш, в един момент се замисляш – да кажа ли нещо?“

Вътрешни изследвания показват по-високи нива на насилие в Instagram Reels

Бивш изследовател на Meta, Мат Мотил, предоставя данни, че Instagram Reels, въведени за конкуренция с TikTok, първоначално са показвали значително повече вредни коментари спрямо основната платформа.

• 75% повече тормоз и заплахи

• 19% повече реч на омразата

• 7% повече насилие или подбуждане към насилие

Подобни обвинения и предишни свидетелства

Подобни твърдения са правени и по-рано, включително от Сара Уин-Уилямс, бивш директор на глобалната публична политика в Meta, която разкри, че Facebook е таргетирал реклами към 13–17-годишни въз основа на емоционалното им състояние, идентифицирайки моменти, в които се чувстват „безполезни или безпомощни“.

В своя мемоар от 2025 г. Careless People: a cautionary tale of power, greed, and lost idealism, Сара повтори твърденията и пред Сената на САЩ, че Facebook е работел „в ръка с китайското правителство“ за изграждане на цензурни инструменти.

Отговор на компаниите

Meta оспорва обвиненията и заявява, че е въвела нови защити за тийнейджърски акаунти и родителски контрол. TikTok също отрича обвиненията и не признава, че политическите случаи са били приоритизирани над безопасността на децата.