Преди отстраняването на главния изпълнителен директор на OpenAI Сам Алтман миналата седмица, няколко изследователи от компанията са изпратили писмо до борда на директорите. В него те предупреждават за откритие на мощен изкуствен интелект, наречен проект „Q* (Q-Star)“, който според тях може да представлява екзистенциална заплаха за човечеството, съобщава Ройтерс.
Подробностите са оскъдни, но проектът е описан като нов алгоритъм, насочен към математическите разсъждения. Според източници, той е показал забележителни умения за решаване на сложни математически задачи.
Tози напредък дори e накарал изледователите на OpenAI да смятат, че проекта представлява огромен пробив в постигането на суперинтелигентност или т.нар. Изкуствен общ интелект (Artificial general intelligence, AGI).
OpenAI дефинира AGI като AI системи, които имат общи когнитивни способности и могат да се справят също толкова добре или по-добре от хората в широк спектър от икономически ценни задачи и области.
Въпреки това в своето писмо, служителите са изразили опасения, че компанията не разполага с адекватни предпазни мерки за комерсиализиране на такъв мощен модел на изкуствен интелект.
Твърди се, че именно това писмо е допринесло за решението на борда на директорите на OpenAI да уволни Сам Алтман миналия петък. Това доведе до протест от страна на служителите, като над 700 от тях заплашиха да напуснат.
Във вторник Алтман беше преназначен след преговори с участието на главния изпълнителен директор на Microsoft Сатя Надела.
Беше обявен и нов състав на борд на директорите, включващ Брет Тейлър, бивш изпълнителен директор на Salesforce и създател на Google Maps, Лари Съмърс, бивш министър на финансите на САЩ и Адам Д’Анджело съосновател на Quora.
Илон Мъск, който е един от основателите на OpenAI, реагира на новината за „Q*“ в Twitter/X, като нарече проекта „изключително тревожен„. Мъск неведнъж е предупреждавал за опасностите, които крие напредналият изкуствен интелект, при който няма подходящи мерки за безопасност. През 2018 г. той напусна OpenAI точно поради опасения за безопасността.
Q*Anon https://t.co/BaosFs4diz
— Elon Musk (@elonmusk) November 23, 2023
Мъск също така изрази недоволство от липсата на прозрачност от страна на борда на OpenAI, по повод уволнението на Сам Алтман.
С оглед на риска и мощта на напредналия изкуствен интелект обществото заслужава да знае защо бордът е предприел такива драстични мерки.
Given the risk and power of advanced AI, the public should be informed of why the board felt they had to take such drastic action
— Elon Musk (@elonmusk) November 19, 2023
Последвайте ни в социалните мрежи – Facebook, Instagram, X и LinkedIn!
Споделете: