Изкуственият интелект ще преобрази света. Но преди това – може и да го унищожи. Това предупреди Пол Тюдър Джоунс – милиардер, инвеститор и основател на Tudor Investment Corporation – в интервю за CNBC, където определи AI като „непосредствена заплаха за човечеството – в рамките на нашия живот“.
Причината: затворена среща с 40 от най-влиятелните фигури в света на политиката, технологиите, науката и финансите. Сред тях – „водещите разработчици на четирите най-мощни езикови модела в света“. Джоунс споделя, че е бил поканен като участник в панел, посветен на капитализма, но вниманието му било приковано от друго – дискусия, фокусирана върху сигурността на AI.
„Изкуственият интелект ще донесе огромни ползи – особено в здравеопазването и образованието. Това е добрата новина“, казва той. „Но моделите стават все по-мощни с огромна скорост – между 25 и 500 процента подобрение на всеки три-четири тримесечия. Това дори не е крива, а вертикално издигане“.
По думите му, когато участниците били попитани какво се прави по въпроса със сигурността, отговорът бил: „Нищо. Конкурентната динамика е толкова интензивна сред компаниите, а и в геополитически план – между Русия, Китай и САЩ – толкова напрегната, че няма никакъв механизъм, никаква възможност да спрем и да се запитаме: Какво всъщност създаваме?“
Най-притеснителното, според него, било пълното мълчание в залата, когато един от водещите експерти заявил, че светът вероятно ще се задейства едва след катастрофа с десетки милиони жертви. „Той буквално каза: ще трябва да загинат между 50 и 100 милиона души, за да започнем да приемаме заплахата от изкуствения интелект сериозно – и никой не му възрази“, споделя Джоунс.
След дискусията групата преминала към упражнение, базирано на хипотетичен сценарий: „Има 10% шанс в следващите 20 години AI да унищожи половината човечество.“ Всеки участник трябвало да заеме позиция – съгласен или несъгласен. Четиримата AI експерти застанали на страната на съгласните. Заедно с тях – и самият Джоунс.
„Не че вярвам с абсолютна сигурност в този сценарий – но когато четирима от водещите инженери на планетата казват, че е възможен, не можеш да го отхвърлиш с лека ръка“, обяснява Джоунс. По думите му решението му да застане от страната на съгласните е било повлияно и от Илон Мъск, който в скорошен подкаст на Джо Роган изрази мнение, че шансът AI да унищожи човечеството е „20 процента“.
В последвалия дебат един от AI експертите се обърнал към онези, които отхвърлили тази възможност, със следния аргумент: „Ако не вярвате, че съществува дори 10% шанс някой да използва тези модели, за да създаде биооръжие, което да унищожи милиарди – тогава не разбирате с какво си имаме работа.“
„Аз не съм технологичен експерт. Но съм прекарал живота си в управление на риск“, казва Джоунс. „Честно казано, съм сред най-добрите в света по управление на макроикономически риск. И това, което ме тревожи най-много, е, че самите създатели на тази технология ни казват: ‘Създаваме нещо наистина опасно. Да, то ще бъде и нещо велико – но сме напълно безсилни да го спрем.’ А ние не правим абсолютно нищо. И това е наистина обезпокоително.“
Загрижеността на Пол Тюдър Джоунс се споделя и от водещи учени в областта на AI. Джефри Хинтън и Йошуа Бенджио – двама от т.нар. „кръстници на изкуствения интелект“ и носители на наградата „Тюринг“ – също предупреждават, че технологиите, които самите те са създали, могат да излязат извън контрол.
В нов научен труд, публикуван от физика Макс Тегмарк и екип от Масачузетския технологичен институт (MIT), се предлага изчисляване на т.нар. „константа на Комптън“ – вероятността суперинтелигентен AI да се измъкне от човешки контрол. Терминът е заимстван от физика Артър Комптън, който през 1945 г. изчислява риска от катастрофална верижна реакция при първия ядрен тест, проведен в рамките на проекта „Манхатън“. Аналогично на решенията, взети в зората на ядрената ера от екипа на Опенхаймер, Тегмарк настоява компаниите, разработващи суперинтелигентни AI системи, да поемат подобна отговорност и да оценят риска количествено: „Не е достатъчно да кажат: ‘чувстваме се уверени’. Трябва да кажат: ‘процентът е еди-колко си’“, заяви той в интервю за The Guardian.
Последвайте ни в социалните мрежи – Facebook, Instagram, X и LinkedIn!
Споделете: