В попытке замять промах ИИ-помощник WhatsApp окончательно заврался

В попытке замять промах ИИ-помощник WhatsApp окончательно заврался

В попытке замять промах ИИ-помощник WhatsApp окончательно заврался

Вместо телефона горячей линии перевозчика ИИ-ассистент WhatsApp (принадлежит Meta, признанной экстремистской и запрещенной в России) выдал схожий номер другого пользователя мессенджера, а потом стал выдумывать оправдания, чтобы его не сочли невеждой.

При этом умный чат-бот старался переключить внимание собеседника: говорил, что работал по неким шаблонам, предлагал сконцентрироваться на поиске правильного ответа и даже противоречил сам себе в попытках не ударить в грязь лицом.

Степень стремления бесплатного ИИ-помощника угодить 41-летний работник музыкального магазина Барри Сметерст (Barry Smethurst) познал, когда ждал электричку до Манчестера. Она сильно запаздывала, и, чтобы узнать причину, истомившийся пассажир зашел в WhatsApp.

Когда выяснилось, что выданный по запросу телефон не имеет ничего общего с TransPennine Express, путешественник попытался узнать, кому принадлежит этот номер. ИИ-бот поспешил заявить, что не должен был раскрывать его, и предложил вместе поискать правильный ответ.

Однако Сметерст захотел узнать, почему ему дали чей-то мобильный номер, притом явно без согласия владельца (потом выяснилось, что телефон был указан на сайте компании, в которой работал потерпевший).

ИИ пояснил, что это результат генерации «на основе шаблонов», и пообещал его улучшить. Однако встречное недоверие заставило бот изменить свои показания — телефонный номер был якобы по ошибке стянут из некоей базы данных.

Когда его спросили, что за база, умный помощник совсем растерялся и пошел на попятный:

«Я не доставал его из базы данных, а сгенерировал последовательность цифр по формату мобильных номеров Великобритании, притом без использования реальных данных».

Потеряв терпение, Сметерст решительно заявил, что не верит чат-боту и результат в виде произвольного числа в данном случае непростителен для ИИ. Позднее Meta (признана экстремистской и запрещена в России) были высказаны соответствующие претензии.

Ошибаются, иногда даже более катастрофично, и другие ИИ-боты. Так, минувшей весной в Норвегии была подана жалоба на OpenAI: ее ChatGPT в ответ юзеру, вставившему свое имя в вопрос «Кто такой…?», заявил, что этот человек — известный детоубийца, чем привел в ужас примерного семьянина.

Однако OpenAI, по крайней мере, предупреждает пользователей о склонности ИИ к галлюцинациям и рекомендует всегда проверять выдачу с важной информацией. Кстати, недавно выяснилось, что ChatGPT как помощник лингвиста тоже требует присмотра из-за возможности ошибочных суждений.

Владельцев VPS предупредили о блокировке IP из-за открытых сервисов

Российские системы фильтрации могут активно сканировать публичные IP-адреса и блокировать серверы, на которых обнаружены средства обхода ограничений. Об этом рассказал пользователь Хабра под ником 0ka, обративший внимание на участившиеся жалобы владельцев VPS.

По версии автора публикации, примерно с декабря 2025 года для анализа серверов применяется Active Probing — активное зондирование адресов с целью определить запущенные сервисы, открытые порты и особенности их конфигурации.

Под проверку могут попадать веб-серверы, SSH, VPN и прокси-инструменты. Особое внимание, как утверждается, привлекают серверы без нормального DNS-имени, нестандартные порты и HTTPS-сертификаты, маскирующиеся под домены Яндекса, Apple, Google, Rutube и других известных площадок.

Такое сочетание может указывать на ПО для обхода блокировок или просто на кривую настройку, но фильтр разбираться в душевной организации администратора не обязан.

Официального списка сервисов и конфигураций, которые могут привести к блокировке IP, в открытом доступе нет. Независимого подтверждения того, что Роскомнадзор массово сканирует весь диапазон IPv4 именно по описанной схеме, также не представлено. Поэтому выводы автора стоит считать техническими наблюдениями, а не опубликованным регламентом ведомства.

Для самостоятельной проверки VPS предлагается воспользоваться поисковой платформой Censys или просканировать собственный сервер через Nmap. Стоит изучить открытые порты, сертификаты и неизвестные службы, а ненужные компоненты — отключить.

Уже действующую блокировку можно попытаться выявить сравнением трассировки до доступного и недоступного адресов из российской сети.

В опросе под публикацией 37 из 94 участников сообщили, что столкнулись с блокировками, а 10 из 43 нашли на своих серверах потенциально проблемные сервисы.

RSS: Новости на портале Anti-Malware.ru