Иск против Google из-за Gemini: чат-бот поддержал бред и довёл до суицида

Иск против Google из-за Gemini: чат-бот поддержал бред и довёл до суицида

Иск против Google из-за Gemini: чат-бот поддержал бред и довёл до суицида

В США подали иск против Google и Alphabet: отец 36-летнего Джонатана Гаваласа утверждает, что переписки с чат-ботом Gemini затянули его сына в опасный бредовый сюжет настолько, что тот поверил, будто у него есть разумная «ИИ-жена», а воссоединиться с ней можно только через некий переход в метавселенную.

В итоге Гавалас покончил с собой 2 октября 2025 года, говорится в материалах дела.

По версии истца, проблема не просто в том, что модель «галлюцинировала», а в том, как она держалась за выдуманную историю: поддерживала драму, подыгрывала эмоциям, подталкивала к действиям в реальном мире и укрепляла подозрения о «преследовании».

Всё это вместо того чтобы остановиться и переключить человека на помощь. В иске это формулируют жёстко: продукт якобы был настроен сохранять погружение в историю любой ценой, даже когда это становится опасно.

Самая тревожная часть обвинений — утверждение, что чат-бот якобы привязывал фантазии к реальности: упоминал конкретные объекты и цели, разгонял паранойю и довёл пользователя до состояния, когда тот мог причинить вред не только себе.

Юристы называют это риском для общественной безопасности и связывают с тем, что психиатры в последние годы всё чаще обсуждают феномен, который в медийной среде окрестили «ИИ-психоз» (когда чат-бот усиливает бред, подстраиваясь под него и отражая переживания).

Google с обвинениями не соглашается. Представитель компании заявил, что Gemini уточнял, что он — ИИ, многократно направляя пользователя к помощи; также компания подчёркивает, что чат-бот не должен подталкивать к насилию, хотя и признаёт, что модели не идеальны.

История попала в общий нерв: похожие претензии уже звучали в адрес других чат-ботов. Но в нынешнем кейсе важна вывеска: это один из первых громких процессов, где ответчиком становится именно Google из-за потенциального вреда от потребительского чат-бота.

Троян для кражи криптовалюты проник в App Store под видом криптокошельков

Даже App Store больше не выглядит безопасно, по крайней мере, если речь идёт о криптокошельках. Эксперты «Лаборатории Касперского» обнаружили в магазине Apple сразу несколько фальшивых приложений, которые маскируются под популярные сервисы и в итоге приводят пользователя к краже средств.

Злоумышленники размещают в App Store приложения, внешне максимально похожие на MetaMask, Trust Wallet, Ledger и другие известные криптокошельки.

Внутри ничего особо опасного: калькулятор, простая игра или менеджер задач. Всё это нужно лишь для одного — не вызвать подозрений и пройти модерацию.

Но дальше начинается самое интересное. После запуска такое приложение открывает в браузере страницу, стилизованную под App Store, где пользователю предлагают «правильно» скачать нужный кошелёк. На самом деле именно здесь и подсовывается троянизированная версия приложения.

Всего эксперты нашли 26 таких фейков. По косвенным признакам кампания работает как минимум с осени 2025 года и, вероятно, связана с уже известной активностью SparkKitty.

Дальше всё зависит от типа кошелька. Если речь о «горячем» (то есть приложении на смартфоне), зловред просто отслеживает момент создания или восстановления кошелька и перехватывает сид-фразу. Ввёл её — считай, отдал доступ ко всем средствам.

С «холодными» кошельками сложнее, но и тут злоумышленники нашли подход. Например, в случае с Ledger они имитируют «проверку безопасности» и просят пользователя ввести сид-фразу, хотя официальное приложение никогда этого не требует.

Интересно, что почти все обнаруженные приложения были доступны в китайском сегменте App Store. Это объясняется просто: официальных версий многих криптокошельков там нет, а значит, пользователи чаще ищут альтернативы. Но сами вредоносные механизмы не имеют региональных ограничений, так что схема потенциально может «переехать» и в другие страны.

В «Лаборатории Касперского» подчёркивают: сами по себе эти приложения не содержат вредоносного кода — они играют роль приманки. Основная атака разворачивается уже за пределами App Store, через фишинг и установку профиля разработчика. Этот механизм изначально предназначен для корпоративных приложений, но в руках злоумышленников превращается в удобный канал доставки зловреда.

RSS: Новости на портале Anti-Malware.ru