OpenAI представила безопасную версию ChatGPT для подростков спустя годы после начала массового использования платформы этой демографической группой.
На фоне многочисленных судебных исков, связанных с недостаточными мерами безопасности ИИ-чат-ботов, которые привели к суицидам подростков и другим проблемам со здоровьем психики, компания объявила в понедельник о запуске ChatGPT for Teens. Новый продукт обещает включить дополнительные меры безопасности, а также решить образовательный кризис, связанный с использованием ChatGPT для списывания в школах.
В образовательном сегменте ChatGPT for Teens вводит новую функцию Study Mode и другие инструменты, предназначенные для того, чтобы поощрять подростков к развитию любознательности и самостоятельному решению задач, а не просто к получению быстрых ответов.
Как объясняет OpenAI в блоге, опция Study Mode будет предоставлять подросткам направляющие вопросы и пошаговую поддержку, чтобы помочь им понять материал. При этом пользовательский интерфейс для подростков будет включать напоминания о домашних заданиях, которые появляются, когда система определяет, что подросток пытается списать, вместо того чтобы осваивать материал. В этом случае ИИ-чат-бот будет подталкивать пользователя к использованию Study Mode.
Приложение также будет поддерживать проведение викторин и визуализацию учебного материала, а также включать настройки, позволяющие родителям или опекунам определять, когда Study Mode включается по умолчанию, заявляет компания.
Тем не менее, остается неясным, насколько сложно подросткам будет обойти эти новые системы, если они решат не сотрудничать. Подростки невероятно умелы в обходе родительского контроля и других попыток ограничить цифровой опыт. До тех пор, пока режим ChatGPT для подростков не пройдет более строгих тестов, остается неясным, насколько трудно будет в действительности обходить эти меры безопасности.
Вопрос также заключается в том, почему эти защитные меры не были частью ChatGPT с самого начала. ИИ-чат-бот появился в конце 2022 года и достиг 900 миллионов еженедельных пользователей, прежде чем были добавлены значимые меры защиты, специально разработанные для подростков.
OpenAI сообщает, что возрастные защитные меры теперь будут включены по умолчанию в ChatGPT for Teens. Они разработаны для снижения воздействия вредного или развитияльно неуместного контента. Эти меры основаны на Принципах для лиц до 18 лет в спецификации модели компании (Model Spec), которые, по утверждению OpenAI, опираются на «научные данные о развитии и рекомендации экспертов».
Родители также смогут использовать инструменты для семей и родительский контроль, ранее представленные компанией, для управления настройками, получения уведомлений о безопасности и установки «Тихих часов», среди других возможностей.
OpenAI объявила о партнерстве с CodeAI, чтобы помочь подросткам узнать больше об ИИ, включая то, как он работает, как им управлять или задавать вопросы, и как его использовать. В классной комнате OpenAI уже предлагает ChatGPT for Teachers, чтобы предоставить школам институционально управляемый доступ к ИИ и сопутствующую поддержку.
Поделиться
