Фалшиво засичане на зловредно съдържание заключи легитимни блогове, а част от тях дори бяха изтрити от платформата

Стотици собственици на сайтове в Blogger останаха без достъп до своите блогове, след като автоматизираните системи на Google погрешно ги класифицираха като съдържащи зловреден код.

Инцидентът поставя под въпрос надеждността на автоматизираното модериране, което все по-често използва алгоритми за откриване на нарушения без предварителна човешка проверка.

Макар Google вече да възстановява част от засегнатите сайтове, случаят показва колко сериозни могат да бъдат последствията от фалшивите положителни резултати в системите за автоматизирана защита.

Проблемът започна на 4 август, когато множество потребители на платформата Blogger установиха, че сайтовете им са заключени заради предполагаемо нарушение на правилата за „зловреден софтуер и сходно злонамерено съдържание“. Според десетки публикации във форумите на Google, засегнатите блогове не съдържат нито вреден код, нито подозрителни скриптове.

При блокиране собствениците виждат предупреждение, че блогът е премахнат заради нарушение на общите условия и могат единствено да поискат повторен преглед. През това време достъпът до административния панел е напълно ограничен, което прави невъзможно публикуването на ново съдържание, редакцията на съществуващи публикации или промяната на настройките.

По информация от потребители, в някои случаи блокирането е било активирано веднага след обновяване на началната страница или промяна на шаблона на сайта, което подсказва възможен проблем в автоматичните механизми за проверка.

Темата вече събра стотици сигнали във форума за поддръжка на Blogger, а дори експерти от общността признават, че подобен мащаб на фалшиви положителни резултати е необичаен. Част от сайтовете вече са възстановени след подадено обжалване, но други потребители съобщават, че блоговете им първоначално са били отключени, а впоследствие отново блокирани или дори окончателно изтрити.

Случаят е показателен за предизвикателствата пред автоматизираното модериране. Макар подобни системи да играят ключова роля в борбата срещу зловредно съдържание, дори малка грешка в алгоритмите може да засегне голям брой легитимни сайтове и да доведе до прекъсване на дейността им. За организациите и създателите на съдържание това е още едно напомняне, че зависимостта от облачни платформи изисква редовни резервни копия и независими механизми за възстановяване при неочаквани инциденти.