Главният изпълнителен директор на OpenAI Сам Алтман даде показания пред Сената на САЩ относно потенциалните опасности от технологията на изкуствения интелект (AI). Той беше придружен от Кристина Монтгомъри, главен офицер по поверителност и доверие в IBM, и Гари Маркус, американски психолог, когнитивен учен и автор.
Смятаме, че регулации от страна на правителствата ще бъдат от съществено значение за намаляване на рисковете от все по-мощни модели.
-заяви Алтман.
IBM призовава Конгреса да приеме подход за прецизна регулация на AI. Това означава установяване на правила за управление на разпространението на AI в конкретни случаи на употреба, а не регулиране на самата технология.
Монтгомъри подчерта необходимостта от ясно определени рискове, свързани с изкуствения интелект от страна на Конгреса. Според нея, необходимо е „разпределение на правилата в съответствие с различните рискове„, където най-строгите мерки се прилагат в случаите с най-големия потенциален риск за хората и обществото.
Голяма част стратегия на OpenAI e докато системите са относително слаби и несъвършени, да експериментират с тях, с цел да разберет как да ги направят по-добри и безопасни.
Вярваме, че ползите от инструментите, които досега сме разпространили, значително надхвърлят рисковете, но гарантирането на тяхната безопасност е от съществено значение за нашата работа.
– каза г-н Алтман.
Въпреки вярата си в предимствата на изкуствения интелект, Алтман подчертава, че от OpenAI са „сериозно обезпокоени“ от перспективата предстоящите изборни процеси да бъдат манипулирани чрез AI-генерирано съдържание.
Мисля, че ако тази технология отиде в грешна посока, последиците могат да бъдат изключително сериозни, и искаме да бъдем гласни по този въпрос. Искаме да работим с правителството, за да предотвратим това.
– заяви главният изпълнителен директор на OpenAI.
OpenAI CEO Sam Altman testified in front of the US Senate, where he urged for AI regulation.
— Eyisha Zyer 🪐 (@eyishazyer) May 17, 2023
Altman also warned of the possibility that AI
“If this technology goes wrong, it can go quit wrong” and shared his biggest fear.
What do you think? pic.twitter.com/CtiyswfifT
Бъдещи регулации
Сенатор Блументал заяви, че днешното изслушване е „първото от поредица изслушвания, чиято цел е да се напишат правилата на изкуствения интелект.“
Тепърва предстои да разберем дали бъдещите ще останат толкова дружелюбни, когато става въпрос за регулиране на технологиите на AI.
– добави той.
Не мога да си спомня, кога сме имали хора, представляващи големи корпорации или частни субекти, които да дойдат пред нас и да ни молят да ги регулираме.
– заяви Дик Дърбин, сенатор от щата Илинойс.
Спирането на развитието на AI се смята за нереалистично
Някои членове на Сената също показаха, че не желаят да оказват прекалено силен натиск върху индустрия с голям икономически потенциал за САЩ, която се конкурира пряко с противници като Китай.
Китайците създават изкуствен интелект, който подкрепя основните ценности на Китайската комунистическа партия и китайската система. Загрижен съм за това как да насърчим AI, който подкрепя и укрепва отворените пазари, отворените общества и демокрацията.
– каза Крис Кунс, демократ от Делауеър.
В основата си, AI е просто инструмент, а инструментите могат да служат за различни цели, Конгресът трябва да приеме точен подход към регулацията на технологията.
– добави той.
В заключение Алтман подчерта, че основната цел на OpenAI е да „гарантира“, че общият изкуствен интелект (AGI) ще бъде от полза за цялото човечество.
Мястото, където смятам, че трябва да се въведе схемата за лицензиране, не е свързано с настоящите възможности на тези модели, но тъй като преминаваме към общ изкуствен интелект. Поради въздействието, което той ще окаже, и мощта на тази технология, смятам, че трябва да се отнасяме към нея толкова сериозно, колкото към други мощни технологии. Това е моментът, в който аз лично смятам, че имаме нужда от такава схема.
– категоричен е Алтман.
Може да проследите цялото изслушване тук:
Последвайте ни в социалните мрежи – Facebook, Instagram, Twitter и LinkedIn.
Споделете: