Иск против Google из-за Gemini: чат-бот поддержал бред и довёл до суицида

Иск против Google из-за Gemini: чат-бот поддержал бред и довёл до суицида

Иск против Google из-за Gemini: чат-бот поддержал бред и довёл до суицида

В США подали иск против Google и Alphabet: отец 36-летнего Джонатана Гаваласа утверждает, что переписки с чат-ботом Gemini затянули его сына в опасный бредовый сюжет настолько, что тот поверил, будто у него есть разумная «ИИ-жена», а воссоединиться с ней можно только через некий переход в метавселенную.

В итоге Гавалас покончил с собой 2 октября 2025 года, говорится в материалах дела.

По версии истца, проблема не просто в том, что модель «галлюцинировала», а в том, как она держалась за выдуманную историю: поддерживала драму, подыгрывала эмоциям, подталкивала к действиям в реальном мире и укрепляла подозрения о «преследовании».

Всё это вместо того чтобы остановиться и переключить человека на помощь. В иске это формулируют жёстко: продукт якобы был настроен сохранять погружение в историю любой ценой, даже когда это становится опасно.

Самая тревожная часть обвинений — утверждение, что чат-бот якобы привязывал фантазии к реальности: упоминал конкретные объекты и цели, разгонял паранойю и довёл пользователя до состояния, когда тот мог причинить вред не только себе.

Юристы называют это риском для общественной безопасности и связывают с тем, что психиатры в последние годы всё чаще обсуждают феномен, который в медийной среде окрестили «ИИ-психоз» (когда чат-бот усиливает бред, подстраиваясь под него и отражая переживания).

Google с обвинениями не соглашается. Представитель компании заявил, что Gemini уточнял, что он — ИИ, многократно направляя пользователя к помощи; также компания подчёркивает, что чат-бот не должен подталкивать к насилию, хотя и признаёт, что модели не идеальны.

История попала в общий нерв: похожие претензии уже звучали в адрес других чат-ботов. Но в нынешнем кейсе важна вывеска: это один из первых громких процессов, где ответчиком становится именно Google из-за потенциального вреда от потребительского чат-бота.

Имея только номер: как WhatsApp выдаёт активность и устройства пользователя

WhatsApp (принадлежит корпорации Meta, признанной экстремисткой и запрещённой в России) снова оказался в центре внимания исследователей, на этот раз из-за утечек метаданных, которые позволяют узнать о пользователе больше, чем хотелось бы. Как выяснил сооснователь и CTO Zengo Таль Беэри, имея только номер телефона, посторонний может определить, когда человек бывает онлайн, а в некоторых случаях даже выяснить, какими устройствами он пользуется.

Своё исследование Беэри представит на Black Hat Asia 2026. Суть проблемы не в том, что WhatsApp раскрывает содержимое переписки, с этим у мессенджера, по словам разработчиков, по-прежнему всё жёстко благодаря сквозному шифрованию.

Здесь, кстати, Паша Дуров не согласится. Напомним, основатель Telegram недавно назвал шифрование WhatsApp крупнейшим обманом пользователей.

Тем не мене побочным эффектом архитектуры мессенджера оказались именно метаданные. По данным Dark Reading, исследователь показал, как с помощью самодельного инструмента, работающего через протокол WhatsApp Web, можно незаметно отслеживать активность пользователя. Например, отправлять особые «тихие» сигналы, которые не отображаются на устройстве жертвы, но позволяют понять, находится ли человек онлайн.

Такие «незаметные пинги» сами по себе не выглядят чем-то катастрофическим, но на практике могут дать злоумышленнику полезные сведения. По сути, можно постепенно собрать цифровой распорядок дня жертвы: когда она спит, когда работает, в какое время с большей вероятностью откликнется на фишинговое сообщение. В теории этот же механизм можно использовать и для медленного расхода батареи устройства.

Есть и ещё один нюанс. Когда кто-то инициирует новый чат, WhatsApp в служебном обмене передаёт данные, необходимые для сквозного шифрования на всех устройствах пользователя. Из-за особенностей этих идентификаторов можно сделать вывод, на каких платформах человек использует мессенджер — например, на iPhone, Android или десктопе. Причём для этого, как утверждает исследователь, достаточно просто добавить номер в контакты, не уведомляя владельца.

Сам по себе такой слив метаданных может показаться мелочью, но, по мнению Беэри, он полезен и мошенникам, и более серьёзным киберпреступникам. Одним он даёт дополнительную информацию для фишинга и социальной инженерии, другим — помогает точнее готовить атаки под конкретную ОС и устройство.

RSS: Новости на портале Anti-Malware.ru