В попытке замять промах ИИ-помощник WhatsApp окончательно заврался

В попытке замять промах ИИ-помощник WhatsApp окончательно заврался

В попытке замять промах ИИ-помощник WhatsApp окончательно заврался

Вместо телефона горячей линии перевозчика ИИ-ассистент WhatsApp (принадлежит Meta, признанной экстремистской и запрещенной в России) выдал схожий номер другого пользователя мессенджера, а потом стал выдумывать оправдания, чтобы его не сочли невеждой.

При этом умный чат-бот старался переключить внимание собеседника: говорил, что работал по неким шаблонам, предлагал сконцентрироваться на поиске правильного ответа и даже противоречил сам себе в попытках не ударить в грязь лицом.

Степень стремления бесплатного ИИ-помощника угодить 41-летний работник музыкального магазина Барри Сметерст (Barry Smethurst) познал, когда ждал электричку до Манчестера. Она сильно запаздывала, и, чтобы узнать причину, истомившийся пассажир зашел в WhatsApp.

Когда выяснилось, что выданный по запросу телефон не имеет ничего общего с TransPennine Express, путешественник попытался узнать, кому принадлежит этот номер. ИИ-бот поспешил заявить, что не должен был раскрывать его, и предложил вместе поискать правильный ответ.

Однако Сметерст захотел узнать, почему ему дали чей-то мобильный номер, притом явно без согласия владельца (потом выяснилось, что телефон был указан на сайте компании, в которой работал потерпевший).

ИИ пояснил, что это результат генерации «на основе шаблонов», и пообещал его улучшить. Однако встречное недоверие заставило бот изменить свои показания — телефонный номер был якобы по ошибке стянут из некоей базы данных.

Когда его спросили, что за база, умный помощник совсем растерялся и пошел на попятный:

«Я не доставал его из базы данных, а сгенерировал последовательность цифр по формату мобильных номеров Великобритании, притом без использования реальных данных».

Потеряв терпение, Сметерст решительно заявил, что не верит чат-боту и результат в виде произвольного числа в данном случае непростителен для ИИ. Позднее Meta (признана экстремистской и запрещена в России) были высказаны соответствующие претензии.

Ошибаются, иногда даже более катастрофично, и другие ИИ-боты. Так, минувшей весной в Норвегии была подана жалоба на OpenAI: ее ChatGPT в ответ юзеру, вставившему свое имя в вопрос «Кто такой…?», заявил, что этот человек — известный детоубийца, чем привел в ужас примерного семьянина.

Однако OpenAI, по крайней мере, предупреждает пользователей о склонности ИИ к галлюцинациям и рекомендует всегда проверять выдачу с важной информацией. Кстати, недавно выяснилось, что ChatGPT как помощник лингвиста тоже требует присмотра из-за возможности ошибочных суждений.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

В России хотят добавить внутренний эшелон в систему защиты от DDoS

Главный радиочастотный центр (ГРЧЦ, входит в Роскомнадзор) рассматривает возможность масштабирования Национальной системы противодействия DDoS-атакам (НСПА). Сейчас она работает через 88 трансграничных узлов фильтрации и в основном отражает атаки, идущие из-за рубежа.

Как рассказал «Коммерсанту» руководитель центра защиты от киберугроз ГРЧЦ Олег Диянский на форуме «Спектр-2025» в Сочи, планируется добавить новый эшелон защиты — уже внутри страны.

Он позволит фильтровать трафик от заражённых российских устройств, участвующих во внутренних DDoS-атаках.

Количество новых технических средств пока не раскрывается. Известно лишь, что речь идёт не обо всех 1,4 тыс. узлов широкополосного доступа, а только о части.

Эксперты оценивают инициативу как перспективную, но требуют аккуратного подхода. Михаил Горшилин из RED Security отметил, что расширение системы может повысить эффективность защиты, однако придётся учесть технические возможности операторов. Алексей Семенычев из группы компаний «Гарда» добавил, что работа фильтров в масштабах всего рунета может затронуть легитимный трафик и привести к сбоям некоторых сервисов.

По данным ГРЧЦ, в 2025 году система уже отразила более 18,5 тыс. DDoS-атак — на 69% больше, чем за весь 2024 год. При этом максимальная мощность отдельных атак снизилась, но их продолжительность выросла более чем наполовину — до семи суток.

Количество государственных и социальных ресурсов, подключённых к мониторингу НСПА, за год выросло вдвое — до 10,2 тыс.

По словам представителей Selectel, частота атак также резко увеличилась: за первое полугодие 2025 года компания зафиксировала 61,2 тыс. атак, почти в два раза больше, чем годом ранее. Это связывают с ростом размеров ботнетов — от сотен тысяч устройств в 2024 году до почти пяти миллионов в 2025-м.

Защита через НСПА сейчас предоставляется бесплатно, но, как отметил Диянский, ГРЧЦ изучает возможность создания коммерческого сегмента системы. Решение по этому вопросу пока не принято.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru