Родителите на тинејџерите кои го користат ChatGPT наскоро ќе можат да добијат известување ако платформата смета дека нивното дете е во неволја.
Тоа е една од новите родителски контроли кои ги најави производителот на чет-ботот, компанијата OpenAI. За безбедноста на оваа платформа за младите корисници се зборуваше кон крајот на август кога еден пар во Калифорнија го тужеше „OpenAI“ поради смртта на нивниот 16-годишен син, тврдејќи дека ChatGPT го поттикнал да си го одземе животот. OpenAI соопшти дека во наредниот месец ќе воведе „засилена заштита за тинејџерите“.
Кога минатата недела се појави веста за тужбата, OpenAI објави белешка на веб-страницата во која пишува дека ChatGPT е обучен да ги насочува луѓето да бараат стручна помош кога се во неволја.
Компанијата, сепак, призна дека „имало моменти кога системите не се однесувале како што е предвидено во осетливи ситуации“.
Сега е објавено уште едно ажурирање кое ќе им овозможи на родителите да: го поврзат нивниот профил со профилот на детето, да управуваат со функциите што треба да се оневозможат (како што се меморијата и историјата на четовите), да добиваат известувања кога системот ќе открие дека детето е во неволја.
Тие соработуваат со група експерти за развој на младите, грижа за менталното здравје и „интеракција помеѓу човекот и компјутерот“ за да помогнат во обликувањето на „визија базирана на докази за тоа како вештачката интелигенција може да ја поддржи благосостојбата на луѓето и да им помогне да напредуваат“.
Корисниците на ChatGPT мора да имаат најмалку 13 години, а ако се помлади од 18 години, мора да имаат дозвола од родителите за да го користат.
Тужбата што ја поднесоа Мет и Марија Рејн, родителите на 16-годишниот Адам Рејн, во Калифорнија, беше првата правна акција во која OpenAI се обвинува за убиство. Семејството приложи записи од разговорите помеѓу Адам и ChatGPT кои покажуваат дека тој објаснува дека има суицидни мисли. Тие тврдат дека програмата ги потврдила неговите „најштетни и најсамодеструктивни мисли“, а го обвинуваат OpenAI за немар и убиство.
Големите технолошки компании и безбедноста на интернет
Оваа објава на компанијата OpenAI е најновата во низата мерки на водечките светски технолошки фирми за да ги направат децата побезбедни во онлајн окружувањето.
Многу од нив се воведени како резултат на нови закони, како што е Законот за безбедност на интернет во Велика Британија.
Тоа вклучуваше воведување на проверка на возраста на Reddit, X и порнографските сајтови.
Минатата недела, компанијата Meta, која е сопственик на Facebook и Instagram, објави дека ќе воведе дополнителна заштита за четботовите со вештачка интелигенција, како што е блокирање на разговорите со тинејџерите за суицид, самоповредување и нарушувања во исхраната.
Еден американски сенатор започна истрага против технолошкиот гигант откако белешките во протечениот внатрешен документ сугерираа дека нивните AI производи можат да имаат „сензуални“ разговори со тинејџерите.
Компанијата ги опиша белешките во документот, кој го доби Reuters, како погрешни и неконзистентни со нивната политика која забранува содржина што ја сексуализира децата.