OpenAI вводит проверку возраста в ChatGPT для защиты подростков

OpenAI вводит проверку возраста в ChatGPT для защиты подростков

OpenAI вводит проверку возраста в ChatGPT для защиты подростков

OpenAI готовит серьёзные изменения в работе ChatGPT — компания собирается ввести проверку возраста. Новые правила затронут всех пользователей, но в первую очередь направлены на защиту подростков. Причина в том, что ChatGPT всё чаще используют для откровенных разговоров на личные темы, включая психическое здоровье.

В компании напоминают трагический случай: весной подросток несколько часов обсуждал с чат-ботом тему суицида, а затем покончил с собой. Семья подала в суд, и OpenAI решила усилить меры безопасности.

Также вспоминается другой эпизод — в Гринвиче: ChatGPT спровоцировал 56-летнего американца с манией преследования на убийство матери, после которого тот покончил с собой.

После этого в OpenAI заявили, что будут направлять «чувствительные» диалоги пользователей в более продуманные модели вроде GPT-5 и в ближайший месяц запустят родительский контроль

Как это будет работать

По словам Сэма Альтмана, CEO OpenAI, компания внедряет систему предсказания возраста. Алгоритм будет анализировать, как человек пользуется ChatGPT, и пытаться определить, подросток он или взрослый. Если останутся сомнения, пользователю автоматически назначат «подростковый режим». В некоторых странах и ситуациях может потребоваться подтверждение возраста с помощью документа.

Для подростков будут действовать жёсткие ограничения. Например, ChatGPT перестанет отвечать флиртом даже по запросу, а обсуждение суицида станет полностью запрещено. В случае выявления суицидальных мыслей компания оставляет за собой право обратиться к родителям или даже к властям, если родители недоступны.

Что это значит для взрослых

Взрослым пользователям, возможно, придётся смириться с тем, что их свобода частично ограничится — например, придётся подтверждать возраст. Альтман называет это «разумной ценой» ради безопасности подростков.

Почему это важно

ChatGPT и другие чат-боты всё чаще становятся собеседниками «для серьёзных разговоров» — от вопросов про здоровье и право до поиска поддержки в сложных ситуациях. Но, как отмечают исследователи из Стэнфорда, ИИ-помощники пока не справляются с ролью психотерапевта: они могут недооценить психическое состояние или дать неподходящий совет.

Минцифры предложило взять осуждённых педофилов на цифровой учёт

В России могут создать единый реестр людей, совершивших преступления против половой неприкосновенности несовершеннолетних. Инициатива вошла в проект доктрины Минцифры по борьбе с ИТ-преступлениями. Отбыть срок и раствориться в другом регионе станет сложнее.

Реестр предлагают использовать для контроля за бывшими заключёнными, в том числе при помощи технических средств, выяснили «Известия».

Он должен помочь отслеживать соблюдение запретов на работу с детьми, посещение школ, лагерей и других детских учреждений, а также прохождение назначенного судом лечения.

Пока это не готовое решение, а направление для обсуждения. Минцифры не раскрыло, какие сведения попадут в базу, кто получит к ней доступ и будет ли она публичной. Для запуска системы потребуется отдельно менять законодательство. Сам проект доктрины ещё проходит общественное обсуждение.

Идея реестра гуляет по кабинетам не первый год. Одни депутаты предлагали открыть его для всех, другие настаивали на закрытом формате. Зампред комитета Госдумы по безопасности Анатолий Выборный считает, что доступ следует дать только правоохранителям, медикам, уголовно-исполнительным инспекциям и кадровым службам образовательных и социальных учреждений.

Сторонники инициативы указывают на дыру в межведомственном обмене данными. Сейчас у полиции, медиков и других ведомств свои базы, которые не всегда успевают поговорить друг с другом. В результате осуждённый за преступление против ребёнка может переехать и снова оказаться рядом с детьми, иногда даже в роли тренера или педагога.

У противников тоже есть весомые аргументы. В реестр могут попасть ошибочно осуждённые, а утечка данных способна обернуться травлей не только для них, но и для невиновных родственников. Кроме того, одна большая база не исправит формальный надзор и привычку некоторых учреждений заминать скандалы.

Поэтому главный вопрос не в том, нужен ли ещё один реестр. Гораздо важнее, кто, как и для чего будет нажимать в нём кнопки.

RSS: Новости на портале Anti-Malware.ru