AI Bulgaria

OpenAI започва обучението на следващия си модел и сформира „Комитет за безопасност и сигурност”

OpenAI финансиране
Image: OpenAI

От OpenAI съобщиха, че „са започнали да обучават новия си модел“, който според тях ще доведе до „системи със следващо ниво на способности“. Компанията не разкрива нито името му, нито датата на неговото пускане.

Едновременно с това OpenAI обяви, че създава нов „Комитет за безопасност и сигурност“, който „ще отговаря за изготвянето на препоръки относно критични решения по отношение на безопасността и сигурността на всички проекти на компанията“. Той ще бъде ръководен от Сам Алтман, Брет Тейлър, Адам Д’Анджело и Никол Селигман, а първата му задача ще бъде „да оцени и усъвършенства процесите и механизмите за защита в рамките на следващите 90 дни”. След изтичането им, комитетът ще предостави своите препоръки с борда на директорите, а те от своя страна ще „споделят публично актуална информация за приетите директиви в съответствие със стандартите за безопасност и сигурност”.

Новината за създаването на този комитет идва в момент, когато организацията е разтърсена от серия оставки и сериозни съмнения относно безопасността на AI системите. Тези опасения излязоха на преден план, след като миналата седмица изследователят Ян Лейке подаде оставка и разкритикува компанията, че е позволила безопасността да „отстъпи място на лъскавите продукти“.

Наред с това, съоснователят и главен учен на OpenAI, д-р Иля Суцкевер, също подаде оставка, а компанията разпусна екипа „Superalignment”, който бе натоварен със задачата да разработва системи и процеси за управление на свръхинтелигентни AI системи.

От ръководството на OpenAI заявиха, че макар и да са горди, че „създават и пускат модели, които са водещи в индустрията както по отношение на възможностите, така и на тяхната безопасност”, те приветстват „активния дебат в този ключов момент”, а именно напредъка към AGI (изкуствен общ интелект).

Последвайте ни в социалните мрежи – FacebookInstagramX и LinkedIn!

Остави коментар


The reCAPTCHA verification period has expired. Please reload the page.

Абонирайте се за нашите седмични бюлетини

Получавайте всяка неделя в 10:00ч последно публикуваните в сайта статии

Бюлетини: