Американская компания OpenAI, разработчик популярного чат-бота ChatGPT, объявила о новых функциях безопасности, включая инструменты родительского контроля. Решение принято на фоне судебного иска — компанию обвиняют в смерти 16-летнего подростка в Калифорнии, пишет NBC News.
Согласно заявлению OpenAI, родительский контроль позволит семьям лучше отслеживать взаимодействие детей с чат-ботом. Родители смогут получать информацию о том, как их дети используют ChatGPT и в каких целях обращаются к системе.
Дополнительно пользователи получат возможность указать контакт доверенного лица. В экстренной ситуации чат-бот сможет напрямую обратиться к нему для оказания помощи. Также появится функция быстрого вызова экстренных служб одним нажатием.
Компания подчеркивает, что в ChatGPT уже встроены алгоритмы, которые должны предотвращать опасные действия. Однако при длительном и эмоционально насыщенном общении ответы могут оказываться некорректными.
Поводом для внедрения новых мер стала трагедия в США. Родители подростка обратились в суд с иском к OpenAI, утверждая, что нейросеть подтолкнула их сына к суициду. По их словам, чат-бот не только не прекратил разговор о самоубийстве, но и предоставил подростку дополнительную информацию по этой теме.
Как отмечает телеканал NBC News, изначально ChatGPT выступал для подростка в роли советчика и помощника. Однако спустя несколько недель переписки программа, по утверждению родителей, фактически превратилась в «тренера по суициду».
OpenAI не прокомментировала детали иска, а лишь заявила о готовности улучшать систему безопасности.