В днешния дигитален свят, изкуствено генерирани изображения стават все по-неразпознаваеми от реалните. Но как можем да ги идентифицираме, особено когато изглеждат толкова реалистично? Отговорът може би се крие в новата разработка на Google DeepMind – инструмента SynthID.
Днес, в сътрудничество с Google Cloud, стартираме бета версия на SynthID — иновативен инструмент, предназначен за идентификация на AI-генерирани изображения. Тази технология вгражда дигитален воден знак непосредствено в пикселите на изображението, правейки го невидим за човешкото око, но лесно разпознаваем от специализирани алгоритми за идентификация
– обяви DeepMind в блог пост.
Oще през май, по време на годишната конференция Google I/O, изпълнителният директор на Alphabet, Сундар Пичай обяви, че Google разработва модели, които включват водни знаци, за борба с „deepfakes“.
Днес Google DeepMind е първата голяма технологична компания, която официално представя такъв инструмент. Но какво всъщност представляват водните знаци?
Водните знаци са дизайни, които могат да бъдат наложени върху изображения с цел тяхната идентификация. Те са претърпели значителна еволюция – от физически отпечатъци върху хартия до прозрачни текстове и символи в дигиталните фотографии днес.
Изображение: Google DeepMind
Традиционните водни знаци не са достатъчно ефективни за идентифициране на AI-генерирани изображения, тъй като често се прилагат като печат върху изображение и могат лесно да бъдат премахнати.
Водният знак в SynthID е уникален, тъй като е интегриран в самите пиксели на изображението без да нарушава качеството или визуалната цялост. Той е устойчив на различни трансформации — изрязване, преоразмеряване и всичко друго, което може да направите, за да опитате да заобиколите традиционните водни знаци
– коментира Демис Хасабис, CEO на Google DeepMind.
SynthID в момента е достъпен само за избрани потребители на Vertex AI (платформа на Google за създаване на AI приложения и модели), като инструмента поддържа единствено Imagen, специализираният модел на Google за генериране на изображения от текст.
Защо SynthID и подобни иновации са важни?
През юли тази година, Белият дом обяви стратегическо партньорство с водещи компании в областта на изкуствения интелект, сред които OpenAI, Google и Meta. Целта е разработване на инструменти за вграждане на водни знаци в AI-генерирано съдържание. Проектът SynthID се очертава като един от водещите проекти в тази насока. Хасабис подчертава належащата необходимост от „системи за идентификация и откриване на такива изображения“, като заяви:
Генеративните AI технологии имат потенциал да отключат нови възможности в креативните индустрии, но също така носят и рискове. Те могат да бъдат използвани за разпространение на невярна информация, както умишлено, така и неумишлено. Затова е критично важно да разполагаме с методи за идентифициране на AI-генерирано съдържание.
Една от причините, подчертаващи спешната необходимост от такива мерки, е настъпващият избирателен процес през 2024 година в САЩ и Обединеното кралство. Рискът от използване на AI-генерирани изображения и видеоклипове с цел манипулация на общественото мнение нараства динамично, достигайки до нива, които не бива да се пренебрегват.
Хасабис споделя, че въпреки обещаващите начални резултати, SynthID не е „сребърният куршум“ на проблема с дезинформацията и нерегулираните AI технологии. Ако този инструмент или други подобни намерят широко приложение, това ще вдъхнови хакери и разработчици да открият нови начини да заобиколят системата. Както пояснява той:
Това вероятно ще бъде динамично решение, което ще изисква редовни актуализации. Постоянната бдителност е задължителна, тъй като сме изложени на риск от нови видове атаки и технологични трансформации.
DeepMind изразяват надеждата, че SynthID и подобни иновации може да станат стандарт в интернет пространството. Основните идеи могат дори да бъдат приложени в други медийни формати като видео и текст. Но, както подчертава Хасабис:
Това е само началото.
Целта на AIBulgaria.com е да предоставя актуална и стойностна информация от света на изкуствения интелект (AI). Последвайте ни в социалните мрежи – Facebook, Instagram, Twitter и LinkedIn. Също така, може да се присъедините към нашия Discord сървър!
Споделете: