AI Bulgaria AI Bulgaria

DeepMind представи SynthID, инструмент за разпознаване AI генерирани изображения

SynthID
DeepMind

В днешния дигитален свят, изкуствено генерирани изображения стават все по-неразпознаваеми от реалните. Но как можем да ги идентифицираме, особено когато изглеждат толкова реалистично? Отговорът може би се крие в новата разработка на Google DeepMindинструмента SynthID.

Днес, в сътрудничество с Google Cloud, стартираме бета версия на SynthID — иновативен инструмент, предназначен за идентификация на AI-генерирани изображения. Тази технология вгражда дигитален воден знак непосредствено в пикселите на изображението, правейки го невидим за човешкото око, но лесно разпознаваем от специализирани алгоритми за идентификация

– обяви DeepMind в блог пост.

Oще през май, по време на годишната конференция Google I/O, изпълнителният директор на Alphabet, Сундар Пичай обяви, че Google разработва модели, които включват водни знаци, за борба с „deepfakes“.

Днес Google DeepMind е първата голяма технологична компания, която официално представя такъв инструмент. Но какво всъщност представляват водните знаци?

Водните знаци са дизайни, които могат да бъдат наложени върху изображения с цел тяхната идентификация. Те са претърпели значителна еволюция – от физически отпечатъци върху хартия до прозрачни текстове и символи в дигиталните фотографии днес.


Изображение: Google DeepMind

Традиционните водни знаци не са достатъчно ефективни за идентифициране на AI-генерирани изображения, тъй като често се прилагат като печат върху изображение и могат лесно да бъдат премахнати.

Водният знак в SynthID е уникален, тъй като е интегриран в самите пиксели на изображението без да нарушава качеството или визуалната цялост. Той е устойчив на различни трансформации — изрязване, преоразмеряване и всичко друго, което може да направите, за да опитате да заобиколите традиционните водни знаци

– коментира Демис Хасабис, CEO на Google DeepMind.

SynthID в момента е достъпен само за избрани потребители на Vertex AI (платформа на Google за създаване на AI приложения и модели), като инструмента поддържа единствено Imagen, специализираният модел на Google за генериране на изображения от текст.

Защо SynthID и подобни иновации са важни?

През юли тази година, Белият дом обяви стратегическо партньорство с водещи компании в областта на изкуствения интелект, сред които OpenAI, Google и Meta. Целта е разработване на инструменти за вграждане на водни знаци в AI-генерирано съдържание. Проектът SynthID се очертава като един от водещите проекти в тази насока. Хасабис подчертава належащата необходимост от „системи за идентификация и откриване на такива изображения“, като заяви:

Генеративните AI технологии имат потенциал да отключат нови възможности в креативните индустрии, но също така носят и рискове. Те могат да бъдат използвани за разпространение на невярна информация, както умишлено, така и неумишлено. Затова е критично важно да разполагаме с методи за идентифициране на AI-генерирано съдържание.

Една от причините, подчертаващи спешната необходимост от такива мерки, е настъпващият избирателен процес през 2024 година в САЩ и Обединеното кралство. Рискът от използване на AI-генерирани изображения и видеоклипове с цел манипулация на общественото мнение нараства динамично, достигайки до нива, които не бива да се пренебрегват.

Хасабис споделя, че въпреки обещаващите начални резултати, SynthID не е „сребърният куршум“ на проблема с дезинформацията и нерегулираните AI технологии. Ако този инструмент или други подобни намерят широко приложение, това ще вдъхнови хакери и разработчици да открият нови начини да заобиколят системата. Както пояснява той:

Това вероятно ще бъде динамично решение, което ще изисква редовни актуализации. Постоянната бдителност е задължителна, тъй като сме изложени на риск от нови видове атаки и технологични трансформации.

DeepMind изразяват надеждата, че SynthID и подобни иновации може да станат стандарт в интернет пространството. Основните идеи могат дори да бъдат приложени в други медийни формати като видео и текст. Но, както подчертава Хасабис:

Това е само началото.

Целта на AIBulgaria.com е да предоставя актуална и стойностна информация от света на изкуствения интелект (AI). Последвайте ни в социалните мрежи – Facebook, Instagram, Twitter и LinkedIn. Също така, може да се присъедините към нашия Discord сървър!

Остави коментар