AI Bulgaria AI Bulgaria

2024: Рекорден брой избори в „ерата на дълбоките фалшификати“

избори

През 2024 г. светът ще стане свидетел на рекорден брой избори, с участието на народи от близо 60 държави. В тези държави живеят над 4 милиарда души – или повече от половината от населението на света. Като се замислим, това е впечатляващо, но още по-интересно е, че всички тези избори ще се проведат в среда, в която фалшивите изображения и видеоклипове (дълбоки фалшификати „deepfakes“) стават все по-реалистични и широко разпространени.

Самият термин „deepfake“ е комбинация от думите „deep learning“ и „fake“ и е представен за първи път през 2017 г. Deep learning (DL) се отнася до подразделение на машинното обучение (ML), което е вид изкуствен интелект, а „fake“ означава фалшив на английски език.

Сред ключовите събития са президентските избори в Съединените щати, изборите в Обединеното кралство, изборите за Европейски парламент и множество национални избори в Африка, Азия и Северна и Южна Америка. Очаква се резултатите от тях да доведат до дълбоки промени в международните отношения и вътрешната политика.

Огромният брой хора, които ще гласуват през 2024 г., предполага, че резултатите от вота ще имат огромно влияние върху света

Бил Гейтс.

Изборите през 2024 г. ще бъдат първите, в които напредналите AI инструменти, способни да създават убедителни дълбоки фалшификати за секунди, ще изиграят важна роля.

Според Мо Гаудат, бивш директор на Google Х, президентските избори в САЩ през 2024 г. ще бъдат важно събитие за повишаване на осведомеността за потенциалните заплахи и въздействия на AI, подобно на начина, по който „нулевият пациент“ допринася за осъзнаването на пандемия.

Когато заявят, че има нулев пациент, това обикновено води до осъзнаване на пандемия. Мисля, че предстоящите избори ще бъдат този нулев пациент.

Генеративният изкуствен интелект претърпя забележителен напредък, а мултимодалните AI модели стават все по-разпространени. Очаква се през тази година въпросните модели, способни да обработват и генерират съдържание въз основа на комбинация от текст, аудио, изображение и видео, да стават все по-интуитивни и реалистични.

Въпросът не е дали съдържанието, генерирано от изкуствен интелект, ще започне да играе роля в политиката, защото всъщност това вече се случва.

Съществуват много начини за генериране на изображения с изкуствен интелект от текст, като например DALL-E, Midjourney и Stable Diffusion. Също така е лесно да се генерира клонинг на нечий глас с AI като ElevenLabs. Дори видеоклиповете, създадени от AI, макар и все още не съвсем реалистични, могат да бъдат объркани с истински.

През изминалата година в интернет се появиха огромен брой AI-генерирани изображения и видеоклипове с участието на различни известни личности, било то политици, актьори или музиканти Например активисти, финансирани от The Singularity Group, създадоха „дълбоко фалшивa пародия на дебат“ между AI версии на Джо Байдън и Доналд Тръмп, който беше излъчен на живо в Twitch.

Въпросът е какво ще се случи, когато всеки може да отвори лаптопа си и с минимално усилие да създаде бързо убедителен deepfake на даден политик?

В този контекст експертите са единодушни, че както автомобилите трябва да бъдат оборудвани с предпазни колани, така и технологията на изкуствения интелект трябва да се управлява от правила.

През декември 2023 г., след дългогодишни преговори, ЕС постигна съгласие по своя Закон за изкуствения интелект – първият в света цялостен набор от правила, свързани с изкуствения интелект.

Съгласно закона дълбоките фалшификати попадат в категорията на системите с ограничен риск. Тази класификация означава, че те подлежат на специфични изисквания за прозрачност. От лицата, които създават дълбоки фалшификати, се изисква да разкриват, че съдържанието е изкуствено генерирано или манипулирано.

Законът не забранява напълно използването на дълбоки фалшификати. Вместо това той се стреми да ги регулира чрез тези задължения за прозрачност. Целта е да се смекчи потенциалната злоупотреба с дълбоките фалшификати, като например разпространение на дезинформация, манипулиране на общественото мнение, създаване на злонамерено или вредно съдържание и измами.

За да откриете изображения, генерирани от изкуствен интелект, обърнете внимание на аномалии, като например неестествен брой пръсти или деформирани черти. Наблюдавайте лицата за необичайни мигания или движения на очите и следете за синхронизацията между звука и устните във видеоклиповете. При аудиото обърнете внимание дали има неестествена интонация или ритъм, необичайни паузи и липса на фонов шум. И накрая, винаги е добре да вземете предвид източника на даденото изображение или видеоклип, за да разберете дали те са споделени от надеждни източници на информация.

Последвайте ни в социалните мрежи – Facebook, Instagram, X и LinkedIn!

Остави коментар