OpenAI запустила специальную версию ChatGPT с родительским контролем для пользователей младше 18 лет, чтобы усилить меры безопасности.
Если компания определит, что юзер несовершеннолетний, она автоматически перенаправит его на адаптированную для младшего возраста версию чат-бота. В ней блокируется графический сексуальный контент. В случае обнаружения острого кризиса могут привлекаться правоохранительные органы.
OpenAI разрабатывает технологию, которая позволит точнее определять возраст пользователя. Но если остаются сомнения или информация неполная, ChatGPT будет по умолчанию запускать детско-подростковую версию.
«Сделать это правильно непросто, и даже самые передовые системы иногда испытывают трудности в определении возраста. Если мы не уверены или информация неполная, выберем более безопасный путь и по умолчанию включим подростковую версию ChatGPT — при этом взрослым будет дана возможность подтвердить свой возраст, чтобы разблокировать весь функционал», — говорится в блоге.
Обновления появились после начала расследования со стороны Федеральной торговой комиссии США в отношении ряда ИИ-стартапов. Регулятор намерен выяснить, как компании оценивают безопасность и способы монетизации цифровых компаньонов и какие меры предпринимают для ограничения негативного воздействия на детей и подростков.
В августе OpenAI поделилась планами по устранению недостатков ChatGPT при работе с «чувствительными ситуациями». Поводом стал иск от семьи, обвинившей чат-бот в трагедии, которая случилась с их сыном.
В сентябре стало известно о стремлении стартапа внедрить родительский контроль и перенаправлять конфиденциальные разговоры на модели рассуждений.
«Мы ставим безопасность выше приватности и свободы для подростков. Это новая и мощная технология, и мы считаем, что несовершеннолетним необходима серьезная защита. Решения непростые, но, посоветовавшись с экспертами, мы пришли к выводу, что так будет лучше, и хотим открыто заявить о своих намерениях», — написал CEO OpenAI Сэм Альтман.
К концу сентября в приложении появится родительский контроль, который позволит:
связать свой аккаунт с аккаунтом подростка через приглашение по электронной почте;
настраивать ответы ChatGPT ребенку;
управлять различными функциями, включая память и историю чатов;
получать уведомления, если система обнаружит наличие острого кризиса у подростка. Система может обратиться к правоохранителям в случае невозможности связаться с родителями;
устанавливать время, когда ребенок не может пользоваться ChatGPT.
Напомним, в июле OpenAI представила специальный режим обучения для студентов в ChatGPT, который помогает прорабатывать задачи поэтапно, а не просто получать готовый ответ.
