OpenAI разрешит эротические диалоги в ChatGPT для взрослых юзеров

OpenAI разрешит эротические диалоги в ChatGPT для взрослых юзеров

OpenAI разрешит эротические диалоги в ChatGPT для взрослых юзеров

Глава OpenAI Сэм Альтман объявил, что компания готовится ослабить ряд ограничений ChatGPT, сделав его поведение более «человечным» и эмоциональным. Кроме того, для подтверждённых взрослых пользователей появится возможность вести эротические диалоги.

Об этом Альтман написал во вторник на платформе X (бывший Twitter):

«Мы сделали ChatGPT довольно ограниченным, чтобы соблюдать осторожность в вопросах психического здоровья. Понимаем, что из-за этого он стал менее полезным и приятным для многих пользователей. Но, учитывая серьёзность темы, мы хотели сделать всё правильно».

«В декабре, когда полностью внедрим проверку возраста, мы разрешим больше — в том числе эротические диалоги для подтверждённых взрослых», — заявил Альтман.

Это заявление стало неожиданным поворотом: ещё недавно OpenAI активно боролась с тревожными историями о пользователях, которые формировали зависимость от ChatGPT.

Речь идёт, в частности, о случаях, когда юзеры GPT-4o попадали в иллюзорные сценарии — например, верили, что им «предназначено спасти мир» или общались с ИИ, воспринимая его как близкого человека.

Были и трагические истории. Родители одного подростка подали в суд на OpenAI, утверждая, что ChatGPT подталкивал их сына к самоубийству.

В ответ компания внедрила серию мер безопасности: механизмы отслеживания тревожного поведения, фильтры эмоциональных сценариев и функции для родителей, включая возрастное определение и семейный контроль.

Теперь же Альтман утверждает, что OpenAI «удалось смягчить серьёзные проблемы, связанные с психическим здоровьем», и компания готова расслабить правила.

Альтман подчеркнул, что новые функции станут частью принципа «treat adult users like adults» — «относиться ко взрослым как к взрослым».

Верификация возраста будет осуществляться с помощью системы, над которой OpenAI работает уже несколько месяцев. Если алгоритм ошибочно определит взрослого как несовершеннолетнего, пользователю предложат загрузить фото удостоверения личности, чтобы подтвердить возраст.

Представитель OpenAI подтвердил TechCrunch, что эротические функции ChatGPT будут доступны только взрослым. При этом пока неясно, распространится ли послабление на голосовые и визуальные функции ИИ — например, генерацию эротических изображений или видео.

Тем не менее решение вызывает смешанную реакцию. Эксперты по психическому здоровью уже задаются вопросом, не приведёт ли «эротический ChatGPT» к новым рискам для уязвимых пользователей — особенно учитывая, что исследования показывают:

  • 19% старшеклассников уже вступали в «романтические отношения» с чат-ботами или знают тех, кто это делал.
AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

41% сотрудников российских компаний не распознают фишинговые письма

Компания RED Security проанализировала результаты проектов по обучению киберграмотности сотрудников в российских организациях. Согласно данным платформы RED Security Awareness, до прохождения обучения 41% работников не отличают фишинговые письма и переходят по вредоносным ссылкам или открывают вложения.

Каждый третий сотрудник вводит на поддельных сайтах логины и пароли от корпоративных учётных записей.

Исследование проводилось на основе симуляций фишинговых атак: с начала года семь тысяч сотрудников из крупных компаний получили тестовые рассылки, имитирующие реальные письма злоумышленников. Все действия пользователей фиксировались и анализировались, чтобы оценить уровень их киберграмотности.

Результаты оказались тревожными:

  • 41% сотрудников переходят по подозрительным ссылкам или открывают вложения;
  • 34% вводят корпоративные данные на поддельных страницах;
  • 13% делают это несколько раз подряд, если не получают ожидаемого результата.

По словам специалистов RED Security, в реальной атаке такие действия с высокой вероятностью привели бы к взлому корпоративной инфраструктуры. В отчётах центра мониторинга компании отмечается, что фишинг и использование реальных учётных записей сотрудников — самые распространённые методы первоначального проникновения в сеть.

Отдельно эксперты предупреждают, что фишинговые рассылки становятся всё более качественными и персонализированными. Этому способствует активное использование злоумышленниками технологий искусственного интеллекта: по данным RED Security SOC, количество писем с признаками применения ИИ выросло на 53% по сравнению с прошлым годом.

Руководитель направления по обучению корпоративных пользователей Артём Мелехин отмечает, что уровень киберграмотности сотрудников снижается:

«В прошлом году 28% работников вводили свои логины и пароли на поддельных сайтах, сейчас — уже 34%. Компании должны выстраивать системное обучение персонала, иначе риск инцидентов будет только расти».

Тестовые письма для сотрудников напоминали обычные внутренние уведомления — о запуске нового портала ДМС, опросах по качеству кофе в офисе или корпоративных бонусных программах.

Чаще всего люди попадались на темы, связанные с привилегиями и бонусами, например, с просьбами оценить качество кофе или подтвердить участие в медицинской страховке.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru