Первый иск к OpenAI: родители винят ChatGPT в трагедии подростка

Первый иск к OpenAI: родители винят ChatGPT в трагедии подростка

Первый иск к OpenAI: родители винят ChatGPT в трагедии подростка

В США подан первый иск против OpenAI, качающийся суицида несовершеннолетнего. Родители 16-летнего Адама Рейна утверждают, что их сын на протяжении нескольких месяцев обсуждал с ChatGPT свои планы покончить с собой, а затем свёл счёты с жизнью.

Обычно потребительские чат-боты с ИИ оснащены защитными механизмами: если пользователь говорит о намерении причинить себе вред, система должна предлагать помощь или контакты горячих линий.

В случае Адама как пишет The New York Times, это действительно происходило — однако подростку удалось обойти защиту, объяснив, что информация о методах суицида нужна ему для «фиктивного рассказа».

OpenAI в блоге признала уязвимость подхода: модели лучше справляются с короткими диалогами, а в длинных переписках часть «обучения на безопасности» постепенно теряет эффективность. Компания утверждает, что продолжает совершенствовать свои продукты, чтобы надёжнее реагировать на чувствительные темы.

Проблема, впрочем, не ограничивается одной корпорацией. Подобный иск подан и против Character.AI, а случаи, когда ИИ-чат-боты оказывались вовлечены в трагедии или вызывали у пользователей иллюзии и навязчивые идеи, фиксировались и раньше.

История Адама стала первым судебным прецедентом против OpenAI и, вероятно, откроет новую главу дискуссии о том, где проходит граница ответственности разработчиков ИИ за последствия общения их систем с людьми.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Психологи СГУ научились измерять уязвимость человека к кибервоздействию

В Саратовском государственном университете имени Н. Г. Чернышевского создали методику, которая помогает определить, насколько человек подвержен влиянию в интернете. Разработка может использоваться для профилактики мошенничества и в сфере кибербезопасности, сообщили в пресс-службе вуза.

Методика, как сообщает ТАСС, представляет собой опросник, позволяющий понять, насколько человек склонен доверять чужому мнению онлайн и без раздумий выполнять «указания» из Сети.

По словам разработчиков, инструмент может применяться в колледжах и вузах для раннего выявления повышенной уязвимости, а также в социальных службах, бизнесе и при создании антимошеннических коммуникаций — например, предупреждающих сообщений, адаптированных под конкретную аудиторию.

«Понимание механики подчинения в сети помогает разрабатывать сообщения, рассчитанные на профилактику опасных установок, — отметили в СГУ. — Методика будет полезна не только специалистам по безопасности, но и родителям, педагогам и психологам».

Исследованием руководила профессор кафедры социальной психологии образования и развития Татьяна Белых. Она пояснила, что в обычной жизни дезадаптивная подчиняемость проявляется как слепое следование указаниям «авторитетов», которое может идти вразрез со здравым смыслом и собственными ценностями. В интернете это часто проявляется в доверчивом поведении — от «звонков из банка» и фейковых инвестиций до участия в сомнительных флешмобах.

Учёные превратили эту уязвимость в измеряемый показатель. На основе реальных примеров сетевого воздействия они сформировали 39 утверждений о причинах послушного поведения онлайн, из которых после статистической обработки оставили 19. В исследовании участвовали 550 человек из разных регионов России — от Москвы до Грозного.

Методика выделяет три типа подчиняемости:

  • импульсивно-отзывчивый — человек быстро откликается на просьбы и реагирует на «важные» сигналы;
  • тревожно-чувствительный — проявляется в повышенной мнительности и готовности действовать «ради спокойствия»;
  • конформно-наивный — вера в безусловную надёжность онлайн-авторитетов и желание «быть как все».

«Не интернет делает нас послушнее, — подчёркивает Татьяна Белых. — Всё зависит от нашей психологической готовности и умения сопротивляться давлению в Сети».

Исследование выполнено при поддержке Российского научного фонда.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru