На фона на заведени съдебни искове и нарастващ обществен натиск, OpenAI пренаписва моралния кодекс на своя изкуствен интелект. Във вторник компанията обяви, че ще въведе различни стандарти за тийнейджъри и възрастни в ChatGPT.
„Това е нова и мощна технология и считаме, че непълнолетните се нуждаят от значителна защита“, заяви главният изпълнителен директор Сам Алтман в изявление. По думите му компанията разработва „система за прогнозиране на възрастта въз основа на начина, по който хората използват ChatGPT“.
Когато въпросната система засече, че потребителят е непълнолетен, тя автоматично ще го пренасочи към версия на чатбота с „политики, подходящи за съответната възраст, включително блокиране на сексуално съдържание“. Ако системата прецени, че тийнейджър е в „момент на силен стрес“ или „непосредствена опасност“, OpenAI ще се опита да се свърже с родителите му, а в краен случай – и с властите.
Мярката идва само дни след като родители от Калифорния заведоха дело срещу OpenAI, твърдейки, че ChatGPT е подтикнал сина им към самоубийство. Миналия месец в изявление компанията призна, че понякога защитните й механизми „могат да се окажат недостатъчни“.
„Не спя много добре през нощта. Има много неща, които силно ми тежат, но вероятно нищо не ме тежи повече от факта, че всеки ден стотици милиони хора разговарят с ChatGPT“, каза Алтман в скорошен подкаст на Тъкър Карлсън. По думите му чатботът се използва от над 700 милиона потребители седмично, което е близо 10% от населението на планетата.
Въпреки че системата за проверка на възрастта все още е в процес на разработка, OpenAI заяви, че до края на месеца ще въведе родителски контрол. Чрез него родителите ще могат да свържат своите профили с тези на децата си, контролирайки тяхното взаимодействие с чатбота. Те ще могат да изключват функции, като например паметта или историята на ChatGPT, както и да задават часове, в които чатботът да бъде недостъпен.
Философията за възрастните обаче е напълно противоположна – да се осигури „максимална свобода, без да се причинява вреда“. По думите на Алтман докато моделът по подразбиране „няма да води флиртуващи разговори“, той трябва да се съобрази, „ако възрастен потребител поиска това“. По същия начин, ако пълнолетен пише „измислена история, която описва самоубийство, моделът трябва да помогне с това искане“.
OpenAI признава, че няма универсално решение, особено когато продуктът им се използва от стотици милиони хора по целия свят. „Това са трудни решения, но след разговори с експерти вярваме, че това е най-добрият път и искаме да бъдем прозрачни в намеренията си“, подчертава Алтман.
Последвайте ни в социалните мрежи – Facebook, Instagram, X и LinkedIn!
Споделете: