AI Bulgaria AI Bulgaria

Тайният проект на OpenAI, който може да сложи край на човечеството

Q

Преди отстраняването на главния изпълнителен директор на OpenAI Сам Алтман миналата седмица, няколко изследователи от компанията са изпратили писмо до борда на директорите. В него те предупреждават за откритие на мощен изкуствен интелект, наречен проект „Q* (Q-Star)“, който според тях може да представлява екзистенциална заплаха за човечеството, съобщава Ройтерс.

Подробностите са оскъдни, но проектът е описан като нов алгоритъм, насочен към математическите разсъждения. Според източници, той е показал забележителни умения за решаване на сложни математически задачи.

Tози напредък дори e накарал изледователите на OpenAI да смятат, че проекта представлява огромен пробив в постигането на суперинтелигентност или т.нар. Изкуствен общ интелект (Artificial general intelligence, AGI).

OpenAI дефинира AGI като AI системи, които имат общи когнитивни способности и могат да се справят също толкова добре или по-добре от хората в широк спектър от икономически ценни задачи и области.

Въпреки това в своето писмо, служителите са изразили опасения, че компанията не разполага с адекватни предпазни мерки за комерсиализиране на такъв мощен модел на изкуствен интелект.

Твърди се, че именно това писмо е допринесло за решението на борда на директорите на OpenAI да уволни Сам Алтман миналия петък. Това доведе до протест от страна на служителите, като над 700 от тях заплашиха да напуснат.

Във вторник Алтман беше преназначен след преговори с участието на главния изпълнителен директор на Microsoft Сатя Надела.

Беше обявен и нов състав на борд на директорите, включващ Брет Тейлър, бивш изпълнителен директор на Salesforce и създател на Google Maps, Лари Съмърс, бивш министър на финансите на САЩ и Адам Д’Анджело съосновател на Quora.

Илон Мъск, който е един от основателите на OpenAI, реагира на новината за „Q*“ в Twitter/X, като нарече проекта „изключително тревожен„. Мъск неведнъж е предупреждавал за опасностите, които крие напредналият изкуствен интелект, при който няма подходящи мерки за безопасност. През 2018 г. той напусна OpenAI точно поради опасения за безопасността.

Мъск също така изрази недоволство от липсата на прозрачност от страна на борда на OpenAI, по повод уволнението на Сам Алтман.

С оглед на риска и моща на напредналия изкуствен интелект обществото заслужава да знае защо бордът е предприел такива драстични мерки.

Последвайте ни в социалните мрежи – Facebook, Instagram, X и LinkedIn!

Остави коментар