OpenAI объявила о запуске новой системы родительского контроля для ChatGPT — шаге, который призван усилить безопасность подростков на фоне резонансных инцидентов, включая случай самоубийства подростка, предположительно связанный с использованием чат-бота.
Главное нововведение — автоматические уведомления родителей, которые активируются, если алгоритм выявит в переписке признаки тяжёлого эмоционального состояния или возможного риска членовредительства. Сессия в таком случае направляется на проверку специально обученной командой модераторов. При наличии тревожных симптомов родителям будет отправлено оповещение по e-mail, SMS или push-уведомление от системы.
В официальном заявлении компания подчеркнула, что система создаётся совместно с экспертами по подростковому психическому здоровью:
«Иногда алгоритм может ошибаться, но лучше предупредить родителей и дать им возможность вмешаться, чем промолчать».
Если связаться с родителями не удаётся, OpenAI планирует в исключительных случаях передавать информацию о потенциальной угрозе в экстренные службы, при этом гарантируя максимальную конфиденциальность данных.
Расширенные функции родительского контроля
С обновлением ChatGPT пользователи смогут связывать родительские и подростковые аккаунты. На детские профили автоматически применяются меры безопасности: фильтрация откровенного, провокационного или насильственного контента, ограничение ролевых и романтических сценариев, а также блокировка визуальных образов, создающих нереалистичные стандарты внешности.
Родители смогут дополнительно настраивать параметры доступа, включая установку «тихих часов», отключение голосового режима, запрет на сохранение контекста между сессиями и отключение генерации изображений.
Цифровое воспитание
В ближайших обновлениях компания планирует ввести автоматическую систему распознавания возраста, которая будет включать подростковый режим безопасности для пользователей младше 18 лет или в случаях, когда возраст невозможно подтвердить.
При этом OpenAI подчёркивает, что технологических решений недостаточно без участия родителей. Компания призывает взрослых обсуждать с детьми принципы ответственного использования ИИ и границы допустимого поведения в цифровом пространстве.
«Технологические барьеры могут помочь, но они не идеальны, — отмечают в OpenAI. — Важно, чтобы родители активно разговаривали с подростками о том, как они используют ИИ и какова роль технологий в их жизни».
OpenAI стала одной из первых компаний, которая делает ставку не только на алгоритмы, но и на формирование культуры цифровой осознанности. Новый подход сочетает технические фильтры с вовлечением семьи, что отражает сдвиг всей индустрии ИИ — от фокусировки на функциональности к приоритету психологической и социальной безопасности пользователей.
