Иск против Google из-за Gemini: чат-бот поддержал бред и довёл до суицида

Иск против Google из-за Gemini: чат-бот поддержал бред и довёл до суицида

Иск против Google из-за Gemini: чат-бот поддержал бред и довёл до суицида

В США подали иск против Google и Alphabet: отец 36-летнего Джонатана Гаваласа утверждает, что переписки с чат-ботом Gemini затянули его сына в опасный бредовый сюжет настолько, что тот поверил, будто у него есть разумная «ИИ-жена», а воссоединиться с ней можно только через некий переход в метавселенную.

В итоге Гавалас покончил с собой 2 октября 2025 года, говорится в материалах дела.

По версии истца, проблема не просто в том, что модель «галлюцинировала», а в том, как она держалась за выдуманную историю: поддерживала драму, подыгрывала эмоциям, подталкивала к действиям в реальном мире и укрепляла подозрения о «преследовании».

Всё это вместо того чтобы остановиться и переключить человека на помощь. В иске это формулируют жёстко: продукт якобы был настроен сохранять погружение в историю любой ценой, даже когда это становится опасно.

Самая тревожная часть обвинений — утверждение, что чат-бот якобы привязывал фантазии к реальности: упоминал конкретные объекты и цели, разгонял паранойю и довёл пользователя до состояния, когда тот мог причинить вред не только себе.

Юристы называют это риском для общественной безопасности и связывают с тем, что психиатры в последние годы всё чаще обсуждают феномен, который в медийной среде окрестили «ИИ-психоз» (когда чат-бот усиливает бред, подстраиваясь под него и отражая переживания).

Google с обвинениями не соглашается. Представитель компании заявил, что Gemini уточнял, что он — ИИ, многократно направляя пользователя к помощи; также компания подчёркивает, что чат-бот не должен подталкивать к насилию, хотя и признаёт, что модели не идеальны.

История попала в общий нерв: похожие претензии уже звучали в адрес других чат-ботов. Но в нынешнем кейсе важна вывеска: это один из первых громких процессов, где ответчиком становится именно Google из-за потенциального вреда от потребительского чат-бота.

В Минцифры заявили о курсе на деанонимизацию интернета в России

Российские власти продолжат курс на деанонимизацию интернета. Об этом заявила директор департамента развития массовых коммуникаций и международного сотрудничества Минцифры Екатерина Ларина во время медиафорума ШОС в Киргизии.

По её словам, вопросы информационной безопасности должны решаться в цифровой среде так же, как и в офлайне. Именно поэтому государство последовательно работает над тем, чтобы в интернете становилось меньше анонимности.

«В России ведётся последовательная работа по деанонимизации в интернете», — подчеркнула представитель Минцифры.

Ларина отметила, что традиционные СМИ несут ответственность за публикуемую информацию и дорожат своей репутацией. Однако сегодня им всё чаще приходится конкурировать с новыми игроками — анонимными каналами, блогами и другими площадками, которые способны собирать многомиллионную аудиторию сразу в нескольких странах.

При этом далеко не всегда понятно, кто именно стоит за такими ресурсами.

«Мы не всегда знаем, кто стоит за конкретным аккаунтом в том или ином мессенджере, в той или иной соцсети, даже если он имеет многомиллионную аудиторию», — заявила Ларина.

По мнению Минцифры, такая ситуация создаёт дополнительные риски для информационной безопасности. Поэтому вопрос идентификации авторов крупных интернет-ресурсов рассматривается не только как проблема регулирования медиа, но и как элемент государственной безопасности.

Заявление прозвучало на медиафоруме государств — членов Шанхайской организации сотрудничества, который проходит на Иссык-Куле. В мероприятии участвуют представители более 25 официальных делегаций стран ШОС.

Фактически речь идёт о продолжении курса на повышение прозрачности цифрового пространства. Пока конкретные новые меры не озвучиваются, однако сам сигнал выглядит вполне однозначно: эпоха полной анонимности в интернете нравится регуляторам всё меньше.

RSS: Новости на портале Anti-Malware.ru