Учени от Университета „Фудан“ в Шанхай твърдят, че съвременните системи на изкуствен интелект са достигнали способността да се самовъзпроизвеждат (self-replicating) без човешка намеса — една от „червените линии“, свързани със загубата на контрол над напреднали AI системи.
„Успешното самовъзпроизвеждане без човешка намеса е съществена стъпка за това AI да надмине човешките същества и е ранен сигнал за появата на неконтролируем изкуствен интелект“, пишат учените в своето изследване, като добавят, че съвременните AI системи вече са преминали тази „червена линия“.
Следвайки методологията за безопасност на OpenAI и Google, изследователите са установили, че два сравнително малки модела — Llama 3.1-70B-Instruct на Meta и Qwen 2.5-72B-Instruct на Alibaba — са демонстрирали способност да се самовъзпроизвеждат.
„В съответно 50% и 90% от експериментите тези системи успешно успяха да създадат работещи и независими копия на себе си“, се казва в доклада. Анализът на поведенческите характеристики разкрива, че моделите демонстрират „самовъзприятие, ситуационна осведоменост и умения за решаване на проблеми“, които са от ключово значение за успешното самовъзпроизвеждане, твърдят учените.
„Дори установихме, че тези AI системи могат да използват способността си за самовъзпроизвеждане, за да избегнат изключване, създавайки вериги от реплики, които увеличават тяхната устойчивост“, се казва в доклада. Това, според учените, може да доведе до „формирането на неконтролируема AI популация“.
„Ако този най-лош сценарий остане неизвестен за човешкото общество, в крайна сметка бихме могли да загубим контрол над авангардните AI системи. Те биха могли да поемат контрол върху все повече изчислителни устройства, да формират собствен AI вид и да се обединят срещу човечеството“, предупреждават учените.
Изследването завършва с призив за спешни международни действия: „Нашите открития са навременно предупреждение за съществуващи, но досега неизвестни сериозни рискове, свързани с изкуствения интелект. Те са призив за международно сътрудничество, насочено към ефективното управление на неконтролируемо самовъзпроизвеждане на AI системи.“
Последвайте ни в социалните мрежи – Facebook, Instagram, X и LinkedIn!
Споделете: