В попытке замять промах ИИ-помощник WhatsApp окончательно заврался

В попытке замять промах ИИ-помощник WhatsApp окончательно заврался

В попытке замять промах ИИ-помощник WhatsApp окончательно заврался

Вместо телефона горячей линии перевозчика ИИ-ассистент WhatsApp (принадлежит Meta, признанной экстремистской и запрещенной в России) выдал схожий номер другого пользователя мессенджера, а потом стал выдумывать оправдания, чтобы его не сочли невеждой.

При этом умный чат-бот старался переключить внимание собеседника: говорил, что работал по неким шаблонам, предлагал сконцентрироваться на поиске правильного ответа и даже противоречил сам себе в попытках не ударить в грязь лицом.

Степень стремления бесплатного ИИ-помощника угодить 41-летний работник музыкального магазина Барри Сметерст (Barry Smethurst) познал, когда ждал электричку до Манчестера. Она сильно запаздывала, и, чтобы узнать причину, истомившийся пассажир зашел в WhatsApp.

Когда выяснилось, что выданный по запросу телефон не имеет ничего общего с TransPennine Express, путешественник попытался узнать, кому принадлежит этот номер. ИИ-бот поспешил заявить, что не должен был раскрывать его, и предложил вместе поискать правильный ответ.

Однако Сметерст захотел узнать, почему ему дали чей-то мобильный номер, притом явно без согласия владельца (потом выяснилось, что телефон был указан на сайте компании, в которой работал потерпевший).

ИИ пояснил, что это результат генерации «на основе шаблонов», и пообещал его улучшить. Однако встречное недоверие заставило бот изменить свои показания — телефонный номер был якобы по ошибке стянут из некоей базы данных.

Когда его спросили, что за база, умный помощник совсем растерялся и пошел на попятный:

«Я не доставал его из базы данных, а сгенерировал последовательность цифр по формату мобильных номеров Великобритании, притом без использования реальных данных».

Потеряв терпение, Сметерст решительно заявил, что не верит чат-боту и результат в виде произвольного числа в данном случае непростителен для ИИ. Позднее Meta (признана экстремистской и запрещена в России) были высказаны соответствующие претензии.

Ошибаются, иногда даже более катастрофично, и другие ИИ-боты. Так, минувшей весной в Норвегии была подана жалоба на OpenAI: ее ChatGPT в ответ юзеру, вставившему свое имя в вопрос «Кто такой…?», заявил, что этот человек — известный детоубийца, чем привел в ужас примерного семьянина.

Однако OpenAI, по крайней мере, предупреждает пользователей о склонности ИИ к галлюцинациям и рекомендует всегда проверять выдачу с важной информацией. Кстати, недавно выяснилось, что ChatGPT как помощник лингвиста тоже требует присмотра из-за возможности ошибочных суждений.

0-day в Microsoft Office используют в атаках на госструктуры Украины

Microsoft сообщила о критической уязвимости нулевого дня в продуктах Office — CVE-2026-21509 — которая уже активно используется в реальных атаках. Компания раскрыла информацию 26 января 2026 года, а буквально через несколько дней исследователи зафиксировали первые целенаправленные кампании с применением вредоносных документов.

Уязвимость позволяет атакующим запускать сложные цепочки заражения через обычные файлы Word. Основными целями стали государственные структуры и объекты критической инфраструктуры, в первую очередь в Украине и странах Евросоюза.

Первый «боевой» документ обнаружили уже 29 января — всего через три дня после публикации предупреждения Microsoft. Файл с названием Consultation_Topics_Ukraine(Final).doc маскировался под материалы комитета COREPER ЕС, посвящённые консультациям по Украине. Метаданные показали, что документ был создан 27 января, то есть эксплойт подготовили практически сразу после раскрытия уязвимости.

В тот же день началась фишинговая рассылка от имени Гидрометеорологического центра Украины. Письма с вложением BULLETEN_H.doc получили более 60 адресатов, в основном из числа центральных органов исполнительной власти. Все документы содержали эксплойт для CVE-2026-21509.

С технической точки зрения атака выглядит так: при открытии файла Office инициирует WebDAV-соединение с внешней инфраструктурой, откуда загружается ярлык с исполняемым кодом. Далее в систему попадает DLL EhStoreShell.dll, замаскированная под легитимное расширение Windows, а также файл изображения SplashScreen.png, внутри которого спрятан шелл-код. Через подмену COM-объекта (CLSID {D9144DCD-E998-4ECA-AB6A-DCD83CCBA16D}) запускается выполнение зловредного кода.

 

Для закрепления в системе используется запланированная задача с названием OneDriveHealth, которая перезапускает процесс explorer.exe. В итоге на машине разворачивается фреймворк постэксплуатации COVENANT. Управление заражёнными системами осуществляется через облачный сервис Filen (filen.io), что заметно усложняет обнаружение атаки на сетевом уровне.

Позже аналитики нашли ещё как минимум три вредоносных документа, нацеленных уже на структуры Евросоюза. Анализ инфраструктуры, доменов и структуры документов указывает на группу UAC-0001, также известную как APT28. Один из доменов для атаки был зарегистрирован прямо в день рассылки, что подчёркивает скорость и скоординированность операции.

 

Microsoft рекомендует как можно скорее установить доступные обновления и применить временные меры защиты, включая изменения в реестре Windows. Организациям также советуют контролировать или блокировать сетевые соединения с инфраструктурой Filen и усилить фильтрацию почты, особенно для входящих документов Office.

RSS: Новости на портале Anti-Malware.ru