Google стартира нова технология за вграждане на водни знаци и маркиране на съдържание, генерирано от изкуствен интелект, като част от усилията за справяне с нарастващите предизвикателства при проверката на автентичността на резултатите от генерирането на изкуствен интелект в текст, изображения, аудио и видео.

Системата, наречена SynthID, прилага алгоритми за дълбоко обучение за поставяне на водни знаци върху съдържание, създадено от инструментите Gemini и Lyria на Google за изкуствен интелект, и компанията твърди, че водните знаци остават откриваеми дори след модификации като изрязване, филтриране, корекции на цветовете и компресия.

Технологията, която в момента е в бета версия и е интегрирана със съществуващите продукти на Gen-AI, може също така да сканира съдържание, за да определи дали частите са генерирани от AI, казват от Google.

„Техниката на SynthID за създаване на водни знаци е незабележима за хората, но откриваема за идентификация“, заяви компанията.

Идеята е да се автоматизира откриването и маркирането на съдържание, генерирано от ИИ, в голям мащаб, за да се предотврати злоупотребата със съдържание, генерирано от ИИ, за дълбоки фалшификати, дезинформация или финансови измами.

Технологиите за водни знаци за съдържание, генерирано от изкуствен интелект, все още не са възприети в производствени системи поради строгите изисквания за качество, откриваемост и изчислителна ефективност, но Google смята, че нейната система SynthID е готова за производство.

„За да осигурим възможност за мащабно създаване на водни знаци, ние разработваме алгоритъм, интегриращ създаването на водни знаци със спекулативно вземане на проби – техника за ефективност, често използвана в производствените системи“, обясни Google.

За генерирането на текст Google заяви, че SynthID работи чрез коригиране на вероятностните оценки на избора на символи по време на процеса на генериране на изкуствен интелект и твърди, че техниката може да се използва за едва три изречения.

При изображенията и видеоклиповете технологията вгражда водни знаци директно в пиксели и отделни кадри и Google настоява, че водните знаци могат да се изрязват или компресират.

За аудиосъдържание SynthID преобразува звуковите вълни в спектрограми, преди да вгради водни знаци, които според компанията остават непокътнати при различни модификации, включително компресия на MP3 и корекции на скоростта.

Технологията е интегрирана в няколко продукта на Google и е пусната като отворен код чрез Google Responsible Generative AI Toolkit.

Google си партнира и с Hugging Face, за да предостави технологията на разработчиците.