AI Bulgaria AI Bulgaria

Нов доклад предупреждава, че AI крие екзистенциален риск за човечеството

доклад Gladstone AI

Съединените щати трябва да предприемат „решителни“ мерки за намаляване на заплахата от изкуствения интелект, която има потенциал да ескалира до ниво „изчезване“, се твърди в доклад, поръчан от правителството на страната.

Той е изготвен от Gladstone AI – компания, която провежда технически брифинги за правителствени служители на САЩ. Авторите поясняват, че „техните възгледи не отразяват тези на Държавния департамент на Съединените щати или на правителството на Съединените щати“.

Source: Gladstone AI

В рамките на проучването компанията е разговаряла с над 200 правителствени служители, експерти и служители на водещи компании в областта на изкуствения интелект, в това число OpenAI, Google DeepMind, Anthropic и Meta.

Скорошният бурен напредък в областта на съвременния изкуствен интелект (AI) разкри големи възможности, но също така създаде изцяло нови категории оръжия за масово унищожение и свързаните с тях катастрофални рискове

– се посочва в доклада

Основен двигател на тези рискове е ожесточената конкурентна динамика между фронтовите AI лаборатории, които създават най-напредналите AI системи в света. Всички тези лаборатории открито заявяват намерение или очакване да постигнат изкуствен общ и свръхчовешки интелект (АGI) – трансформираща технология с дълбоки последици за демократичното управление и глобалната сигурност – до края на това десетилетие или по-рано.

Авторите посочват, че възходът на съвременния AI и AGI има потенциала да дестабилизира глобалната сигурност по начин, който напомня появата на ядрените оръжия.

Системите на изкуствения интелект вече могат да бъдат използвани като оръжие по различни начини, а възможностите на изкуствения интелект се ускоряват с почти невъобразимо бързи темпове.

– твърдят авторите.

Те предупреждават, че държавите могат да започнат надпревара за създаване на собствени мощни системи за изкуствен интелект, а конкуренцията може да доведе до сериозни инциденти, международни конфликти и глобална ескалация на напрежението.

В документа, озаглавен „План за действие за повишаване на безопасността и сигурността на съвременния изкуствен интелект“, се предлагат редица мащабни и безпрецедентни политически действия за „преодоляване на катастрофалните рискове от въоръжаване и загуба на контрол над усъвършенстваните системи за изкуствен интелект по пътя към AGI“.

Авторите препоръчват Конгресът на САЩ да забрани обучението на AI  модели, които изискват изчислителна мощност над определен праг. Този праг трябва да бъде установен от новосъздадена федерална агенция за изкуствен интелект, която да контролира разработване и внедряването на нови модели.

Властите също така трябва да забранят разпространението на мощни AI модели под отворени лицензи, като нарушенията могат да се наказват със затвор, се казва в доклада. Освен това правителството на САЩ трябва да засили контрола върху производството и износа на чипове за изкуствен интелект.

Авторите признават, че някои от препоръките ще бъдат „трудни за изпълнение в политически и практически план“, но смятат, че „те са необходими предвид неотложността и мащаба на заплахата, която съвременният изкуствен интелект представлява за сигурността и дори за оцеляването на човечеството“. Те призовават за „защита в дълбочина“ с множество припокриващи се механизми за контрол, за да се осигури сигурност и устойчивост.

Последвайте ни в социалните мрежи – FacebookInstagramX и LinkedIn!

Остави коментар

Абонирайте се за нашите седмични бюлетини

Получавайте всяка неделя в 10:00ч последно публикуваните в сайта статии

Бюлетини: