Стотици учени се обединиха срещу “дълбоките фалшификати”

Отвореното писмо, озаглавено “Прекъсване на веригата за доставки на дълбоки фалшификати” (Disrupting the Deepfake Supply Chain), беше подписано от над 800 видни учени и специалисти по изкуствен интелект, като Йошуа Бенгио, Стюарт Ръсел, Дан Хендрикс, както и от изследователи от Google DeepMind и OpenAI.

Подписалите призовават за по-строго регулиране на “дълбоките фалшификати” (deepfakes), които имитират хора, и които те описват като “неподходящи или грубо подвеждащи гласове, изображения или видеоклипове, генерирани от изкуствен интелект, които разумен човек би приел за истински”.

Дълбоките фалшификати представляват нарастваща заплаха за обществото и правителствата трябва да наложат задължения по цялата верига на доставки, за да спрат разпространението на дълбоките фалшификати.

Новите закони трябва:

• Напълно да криминализират детската порнография с дълбоки фалшификати, дори когато са изобразени само измислени деца;
• Да въведат наказателни санкции за всеки, който съзнателно създава или съзнателно улеснява разпространението на вредни дълбоки фалшификати;
• Да изискват от разработчиците и разпространителите на софтуер да предотвратяват създаването на вредни дълбоки фалшификати чрез своите аудио- и визуални продукти и да носят отговорност, ако превантивните им мерки са твърде лесно заобиколени.
• Ако бъдат разработени разумно, тези закони биха могли да насърчат социално отговорния бизнес.

Тъй като изкуственият интелект напредва бързо и прави създаването на дълбоки фалшификати много по-лесно, са необходими предпазни мерки за функционирането и интегритета на нашата дигитална инфраструктура

– предупреждават изследователите.

През 2024 г. изображенията и гласовете, генерирани от изкуствен интелект, вече не могат да бъдат различени от истинските. Тази година големият акцент е върху генерирането на видео, което вече изживява своя “GPT момент” с модела Sora от OpenAI.

Open AI just released SORA. This is a clip from their site.

This new AI text to video is going to change EVERYTHING.

Prompt: A young man at his 20s is sitting on a piece of cloud in the sky, reading a book. pic.twitter.com/VL63laWwhl

— Aze Λlter. (@AzeAlter) February 15, 2024

WOW — the fidelity on Sora's dog videos is out of this world pic.twitter.com/gVJ7PAEdpj

— Pico Paco, e/λ (@PicoPaco17) February 20, 2024

Това несъмнено ще доведе до раздвижване в областта на генеративното видео. Има информация, че Adobe, Google, Runway и Midjourney и др. също работят по видео модели от следващо поколение.

Във връзка с това, миналата седмица двадесет от водещите технологични компании, сред които Google, Meta, Microsoft, OpenAI, TikTok, X, Amazon и Adobe, обещаха да предприемат действия срещу разпространението на дезинформация чрез изкуствен интелект по време на тазгодишните избори.

Споразумението включва конкретни ангажименти, които компаниите ще поемат за разработване на технологии за откриване и намаляване на рисковете, свързани със заблуждаващо съдържание с изкуствен интелект, както и за откриване и справяне с такова съдържание в различните платформи.

Последвайте ни в социалните мрежи – Facebook, Instagram, X и LinkedIn!