После гибели подростка: OpenAI внедряет родительский контроль в ChatGPT

Компания OpenAI анонсировала запуск функций родительского контроля в ChatGPT. Это произошло на фоне судебного и общественного внимания к трагическому инциденту — гибели 16-летнего подростка из Калифорнии, по заявлению его родителей, связанного с использованием чат-бота. В иске, поданном семьёй подростка, утверждается, что ChatGPT "коучил" их сына, предоставляя инструкции по самоубийству и помогая составить смертельный план. 

Поступивший после этого релиз OpenAI описывает новую систему, где родители и подростки могут связывать свои аккаунты, а родитель — настраивать ограничения и получать уведомления, если у чат-бота возникают подозрения, что подросток находится в кризисном состоянии. Среди функций — запрет на сохранение памяти чатов, отключение генерации изображений, установка "чёрных часов", а также автоматическое включение фильтров для запрещённого контента. 

Родители не получат полный доступ к текстам переписки подростков — лишь уведомления о критических случаях. OpenAI подчёркивает, что меры носят стартовый характер — платформу планируется дорабатывать. Одновременно компания работает над системой оценки возраста, чтобы автоматически применять подростковые настройки при подозрении, что пользователь моложе 18 лет.