Днес бе публикуван първият международен доклад за безопасността на изкуствения интелект. Документът, озаглавен „International AI Safety Report“, е резултат от сътрудничеството между 100 независими експерти от цял свят, включително Нобелови лауреати и носители на наградата „Тюринг“, както и представители на Организацията за икономическо сътрудничество и развитие (ОИСР), Европейския съюз (ЕС) и Организацията на обединените нации (ООН).
Докладът е резултат от ангажимент, поет по време на срещата на върха в Блетчли Парк, Великобритания, през ноември 2023 г., където страните членки се съгласиха да подкрепят създаването на подобен документ, който да идентифицира рисковете, свързани с напреднали AI системи. След публикуването на междинен доклад през май 2024 г., който бе представен на срещата на върха в Сеул, Южна Корея, настоящият разширен вариант включва допълнителни анализи, актуализирани данни и нови доказателства за нарастващите възможности и заплахи, произтичащи от развитието на изкуствения интелект с общо предназначение (general-purpose AI) – изкуствен интелект, който може да изпълнява широк набор от задачи.
„Способностите на изкуствения интелект с общо предназначение нараснаха драстично през последните години“, посочват експертите. „Aко преди пет години най-добрите езикови модели рядко можеха да създадат смислен параграф текст, днес те могат да пишат компютърни програми, да генерират фотореалистични изображения, да решават научни и математически проблеми на експертно ниво и да водят задълбочени разговори по различни теми.“
Today, we are publishing the first-ever International AI Safety Report, backed by 30 countries and the OECD, UN, and EU.
— Yoshua Bengio (@Yoshua_Bengio) January 29, 2025
It summarises the state of the science on AI capabilities and risks, and how to mitigate those risks. 🧵
Link to full Report: https://t.co/k9ggxL7i66
1/16 pic.twitter.com/68Gcm4iYH5
Докладът идентифицира широк спектър от нарастващи заплахи. Освен вече познатите рискове като измами, deepfake съдържание и кражба на лични данни, експертите предупреждават за появата на по-сериозни опасности – от потенциални кибер и биологични атаки, през фундаментални промени на пазара на труда, до загуба на контрол над технологията.
Експертите са обезпокоени и от развитието на т.нар. AI агенти – автономни системи, способни да планират и действат самостоятелно с минимален човешки контрол. Според тях водещи технологични компании инвестират значителни ресурси в разработването на подобни системи, които по думите им „ще доведат до нови и сериозни предизвикателства при управлението на риска“.
В документа се обръща специално внимание на т.нар. „дилема на доказателствата“ – ситуация, при която политиците трябва да вземат решения за регулиране на изкуствения интелект без достатъчно научни данни поради главоломното развитие на технологията. Това, според експертите, може да създаде труден баланс между предприемането на превантивни мерки, които впоследствие може да се окажат ненужни, и риск от закъсняла реакция при появата на сериозни заплахи.
Носителят на наградата „Тюринг“ проф. Йошуа Бенжио, който ръководи проекта, разкрива, че между завършването на доклада на 5 декември 2024 г. и публикуването му през януари 2025 г. е настъпил важен момент в развитието на технологията – OpenAI представи своя последен „разсъждаващ“ AI модел o3, който „постига значително по-добри резултати от всички предходни модели в някои от най-предизвикателните тестове в области като програмиране, абстрактно и научно разсъждение“.
„В някои от тези тестове o3 превъзхожда много, но не всички, човешки експерти“, обяснява Бенжио. „Освен това моделът постига пробив в ключов тест за абстрактно мислене, който мнозина експерти, включително и аз, доскоро смятахме за недостижим.“
Докладът прогнозира, че ако настоящите тенденции се запазят, до края на 2026 г. някои AI модели ще бъдат обучавани с приблизително 100 пъти повече изчислителни ресурси в сравнение с най-мощните модели от 2023 г., като до 2030 г. това увеличение може да нарасне 10 000 пъти.
Въпреки това експертите са категорични – „бъдещето на AI технологиите не е предопределено“. Според тях „именно решенията, които взимаме днес като общество, ще определят дали ще успеем да овладеем рисковете и да се възползваме от огромния потенциал на тази трансформативна технология“.
Докладът ще бъде основна тема на предстоящата среща на върха в Париж през февруари (AI Action Summit). Форумът ще събере на едно място международни лидери от близо 100 държави, лидери на международни организации, изпълнителни директори на малки и големи компании, учени и неправителствени организации, които ще обсъдят конкретни мерки за гарантиране на безопасното развитие на AI технологиите.
Последвайте ни в социалните мрежи – Facebook, Instagram, X и LinkedIn!
Споделете: