OpenAI повышает безопасность ChatGPT для подростков

После участившихся сообщений о том, что пользователи развивают парасоциальные привязанности к ИИ-ассистентам, а также после судебного иска, поданного родителями подростка, который советовался с ChatGPT о способах самоубийства перед тем, как трагически свести счеты с жизнью, материнская компания ChatGPT OpenAI объявила о новых функциях безопасности для своего популярного продукта.

В двух публикациях сегодня на своем официальном сайте, а также в сообщении от сооснователя и генерального директора OpenAI Сэма Альтмана в социальной сети X, компания заявляет, что начнет автоматически сегментировать пользователей ChatGPT по возрастным категориям (определяемым на основе содержания их бесед).

Как OpenAI написала в своем блоге:

«Подростки растут вместе с искусственным интеллектом, и мы должны сделать так, чтобы ChatGPT был доступен им там, где они находятся. То, как ChatGPT отвечает 15-летнему подростку, должно отличаться от того, как он отвечает взрослым».

Хотя подростки в возрасте от 13 лет и старше по-прежнему смогут пользоваться ChatGPT, OpenAI установит для них более строгие автоматические ограничения до достижения 18-летнего возраста. В частности, будет отключена возможность переводить ChatGPT в «флиртующий» режим, а также вести любые разговоры о самоубийстве или способах нанесения вреда самому себе — даже если несовершеннолетние пользователи сами просят об этом или пытаются «взломать» защиту (jailbreak), используя фразы о том, что это нужно для упражнения по «творческому письму». OpenAI заявила, что разрешит взрослым вести подобные разговоры.

Компания также может проинформировать власти, если заметит в переписке признаки «неминуемой угрозы», хотя это понятие четко не определено.

В другой записи в блоге компания заявляет:

«Мы должны отделить пользователей младше 18 лет от тех, кому уже исполнилось 18 (ChatGPT предназначен для лиц от 13 лет и старше). Мы создаем систему предсказания возраста, чтобы оценивать его на основе того, как люди пользуются ChatGPT. Если возникают сомнения, мы перестрахуемся и по умолчанию применим настройки для пользователей младше 18 лет».

В некоторых случаях, по словам OpenAI, компания даже начнет «проверять документы» у пользователей (это мой термин, не их), то есть просить их загрузить удостоверения личности (ID), чтобы доказать, что они достаточно взрослые для использования ChatGPT в желаемом ими ключе.

«В некоторых случаях или странах мы также можем запросить документ, удостоверяющий личность; мы понимаем, что для взрослых это компромисс в вопросах конфиденциальности, но считаем его оправданным».

Ранее OpenAI также анонсировала новую серию «родительского контроля» для взрослых, у которых есть подростки, желающие пользоваться ChatGPT. Сегодня компания подробно описала некоторые из этих функций и сообщила, что они станут доступны к концу текущего месяца, в сентябре 2025 года. К ним относятся:

• Связывание аккаунта [родителя] с аккаунтом подростка (минимальный возраст 13 лет) с помощью простого приглашения по электронной почте.

• Помощь в определении того, как ChatGPT отвечает их подростку, на основе специальных правил поведения модели для несовершеннолетних.

• Управление отключением определенных функций, включая память и историю чатов.

• Получение уведомлений, когда система обнаруживает, что подросток находится в состоянии острого стресса. Если в редких экстренных случаях нам не удастся связаться с родителями, следующим шагом мы можем привлечь правоохранительные органы. Мнения экспертов лягут в основу этой функции для поддержания доверия между родителями и подростками.

• Установка часов блокировки, в течение которых подросток не может пользоваться ChatGPT, — новая функция контроля, которую мы добавляем.

Хотя эти изменения могут не сильно повлиять на опыт взрослых пользователей, это важный знак для всей индустрии. Учитывая, что, по последним данным OpenAI, у ChatGPT насчитывается 700 миллионов активных пользователей в неделю, компания остается безусловным лидером среди разработчиков генеративного ИИ по охвату аудитории, и другие фирмы, вероятно, последуют ее примеру или добавят собственные версии подобных функций в будущем.

Кроме того, предприятиям, которые полагаются на OpenAI и другие модели ИИ, следует уделить время тому, чтобы продумать защиту или отделение несовершеннолетних пользователей от собственных продуктов. Сегодняшние шаги OpenAI свидетельствуют о ее взрослении и стремлении брать на себя ответственность по мере того, как использование генеративного ИИ растет как в личной сфере, так и в бизнесе. Компаниям также необходимо адаптироваться к этим тенденциям — тем более что, учитывая широкое распространение ChatGPT, многие потребители в дальнейшем будут ожидать аналогичных функций и мер безопасности от всех используемых ими ИИ-инструментов, как в личных, так и в профессиональных целях.