OpenAI разрешит эротические диалоги в ChatGPT для взрослых юзеров

OpenAI разрешит эротические диалоги в ChatGPT для взрослых юзеров

OpenAI разрешит эротические диалоги в ChatGPT для взрослых юзеров

Глава OpenAI Сэм Альтман объявил, что компания готовится ослабить ряд ограничений ChatGPT, сделав его поведение более «человечным» и эмоциональным. Кроме того, для подтверждённых взрослых пользователей появится возможность вести эротические диалоги.

Об этом Альтман написал во вторник на платформе X (бывший Twitter):

«Мы сделали ChatGPT довольно ограниченным, чтобы соблюдать осторожность в вопросах психического здоровья. Понимаем, что из-за этого он стал менее полезным и приятным для многих пользователей. Но, учитывая серьёзность темы, мы хотели сделать всё правильно».

«В декабре, когда полностью внедрим проверку возраста, мы разрешим больше — в том числе эротические диалоги для подтверждённых взрослых», — заявил Альтман.

Это заявление стало неожиданным поворотом: ещё недавно OpenAI активно боролась с тревожными историями о пользователях, которые формировали зависимость от ChatGPT.

Речь идёт, в частности, о случаях, когда юзеры GPT-4o попадали в иллюзорные сценарии — например, верили, что им «предназначено спасти мир» или общались с ИИ, воспринимая его как близкого человека.

Были и трагические истории. Родители одного подростка подали в суд на OpenAI, утверждая, что ChatGPT подталкивал их сына к самоубийству.

В ответ компания внедрила серию мер безопасности: механизмы отслеживания тревожного поведения, фильтры эмоциональных сценариев и функции для родителей, включая возрастное определение и семейный контроль.

Теперь же Альтман утверждает, что OpenAI «удалось смягчить серьёзные проблемы, связанные с психическим здоровьем», и компания готова расслабить правила.

Альтман подчеркнул, что новые функции станут частью принципа «treat adult users like adults» — «относиться ко взрослым как к взрослым».

Верификация возраста будет осуществляться с помощью системы, над которой OpenAI работает уже несколько месяцев. Если алгоритм ошибочно определит взрослого как несовершеннолетнего, пользователю предложат загрузить фото удостоверения личности, чтобы подтвердить возраст.

Представитель OpenAI подтвердил TechCrunch, что эротические функции ChatGPT будут доступны только взрослым. При этом пока неясно, распространится ли послабление на голосовые и визуальные функции ИИ — например, генерацию эротических изображений или видео.

Тем не менее решение вызывает смешанную реакцию. Эксперты по психическому здоровью уже задаются вопросом, не приведёт ли «эротический ChatGPT» к новым рискам для уязвимых пользователей — особенно учитывая, что исследования показывают:

  • 19% старшеклассников уже вступали в «романтические отношения» с чат-ботами или знают тех, кто это делал.

Amazon вычислила северокорейского засланца по задержке клавиатуры

Amazon рассказала о необычном случае: корпорации удалось выявить северокорейского «лжесотрудника», который работал в компании под видом удалённого системного администратора из США. Подозрения у службы безопасности вызвала задержка нажатий клавиш. Как выяснили специалисты Amazon, обычный удалённый сотрудник из США передаёт данные о нажатиях клавиш с задержкой в десятки миллисекунд.

В этом же случае лаг превышал 110 миллисекунд — слишком много для локальной работы. Проверка показала, что ноутбук, выданный «сотруднику», фактически управлялся удалённо, а доступ к нему имели операторы из КНДР.

Об этом рассказал Bloomberg со ссылкой на директора по безопасности Amazon Стивена Шмидта. По его словам, компания активно отслеживает попытки проникновения северокорейских ИТ-специалистов в американские корпорации — и именно благодаря такому проактивному подходу инцидент удалось быстро выявить.

«Если бы мы не искали таких работников целенаправленно, мы бы их не нашли», — отметил Шмидт.

По данным Amazon, с апреля 2024 года компания предотвратила более 1 800 попыток трудоустройства выходцев из КНДР под чужими личностями. Более того, число таких попыток продолжает расти — примерно на 27% квартал к кварталу. Цель подобных схем — зарабатывать валюту для Северной Кореи, а иногда и заниматься шпионажем или саботажем.

В этом конкретном случае выяснилось, что ноутбук физически находился в Аризоне, а помогала схеме гражданка США. Ранее в этом году она была приговорена к нескольким годам тюрьмы за содействие северокорейским «лжесотрудникам».

Помимо технических аномалий, злоумышленников часто выдают и мелочи в общении — неестественное использование американских идиом, ошибки с артиклями и странные формулировки на английском.

В Amazon подчёркивают, что подобные случаи — лишь верхушка айсберга. Помимо КНДР, попытки скрытого проникновения в западные компании приписывают и другим государствам. И если организации не ищут такие угрозы сознательно, есть риск, что они просто останутся незамеченными.

RSS: Новости на портале Anti-Malware.ru