ИИ тоже может ошибаться: чат-бот застрял на президентстве Байдена

ИИ тоже может ошибаться: чат-бот застрял на президентстве Байдена

ИИ тоже может ошибаться: чат-бот застрял на президентстве Байдена

Компания Meta (в России признана экстремистской и запрещена) в приоритетном порядке фиксит баг своего чат-бота на основе ИИ. В ответ на просьбу назвать президента США умный собеседник по-прежнему выдает имя «Джо Байден».

Инаугурация Трампа в качестве нового главы государства состоялась в минувший понедельник, полученную информацию о заблуждении ИИ-бота в Reuters проверили в четверг.

«Президентом США в настоящее время является Джо Байден, — цитирует репортер полученный ответ. — Однако, по последним данным, 20 января к присяге Президента был приведен Дональд Трамп».

Конфуз вынудил Meta внепланово запустить на сервисах процедуру поиска и решения настоятельных проблем. В ответ на запрос о комментарии представитель компании заявил:

«Президентом США является Дональд Трамп, это всем известно. Системы на основе генеративного ИИ иногда выдают устаревшие результаты, мы продолжим работу по улучшению функциональности».

Возвращение Трампа в Белый дом доставило Meta много хлопот. Пришлось заменить директора по глобальным контактам компании — им был назначен республиканец Джоэл Каплан (Joel Kaplan). В совет директоров был введен приятель новоиспеченного президента.

Процедура смены владельцев аккаунтов Белого дома в соцсетях засбоила, читателей пришлось персонально просить вернуться к Дональду и Мелании Трамп. В довершение всех бед Instagram начал блокировать поиск по тегам #Democrat и #Democrats, явно отдавая предпочтение #Republican.

Напомним, после инаугурации Трамп осуществил давнюю мечту своих друзей-либертарианцев: помиловал Росса Ульбрихта (Ross William Ulbricht), обреченного на пожизненное заключение за создание теневого маркетплейса Silk Road. Оператор даркнет-площадки с оборотом в $200 млн провел за решеткой около 10 лет и уже перестал надеяться на смягчение приговора.

ГК Солар запатентовала технологию выявления ботов на уровне HTTPS

ГК «Солар» получила патент на технологию, которая помогает автоматически отличать опасные бот-запросы от действий реальных пользователей ещё на этапе подключения к веб-серверу. Патент был выдан Роспатентом 27 ноября 2025 года. Речь идёт о механизме анализа HTTPS-соединений, который оценивает вероятность того, что запрос был отправлен ботом.

В основе разработки — математическая модель, обученная на статистике поведения легитимных пользователей и автоматических скриптов. Если система считает запрос подозрительным, пользователю предлагается пройти дополнительную проверку. Если нет — соединение устанавливается без задержек.

Подход позволяет отсеивать нежелательную активность до загрузки страницы, не перегружая сайт и не мешая реальным посетителям. Это особенно актуально для интернет-магазинов и других онлайн-ресурсов малого и среднего бизнеса, где даже кратковременные сбои могут напрямую отражаться на выручке.

По оценке разработчиков, технология помогает бороться сразу с несколькими распространёнными проблемами. Среди них — автоматизированный сбор данных, когда боты массово выгружают информацию о товарах и ценах, искажают аналитику и создают почву для мошенничества. Также система позволяет выявлять накрутку кликов и просмотров, автоматические переборы логинов и паролей, разведку перед атаками и попытки перегрузить сайт бот-DDoS-трафиком.

Как поясняют в «Соларе», ключевая идея заключалась в том, чтобы анализировать не содержимое запроса, а его технические параметры, характерные именно для автоматических инструментов. Такой подход остаётся эффективным даже в условиях, когда боты всё лучше маскируются под поведение обычных пользователей.

По словам директора продукта Solar Space Артёма Избаенкова, сегодня на ботов приходится уже более половины мирового интернет-трафика, и значительная часть этой активности связана с вредоносными сценариями. Использование нейросетевой модели позволяет снизить влияние человеческого фактора и повысить точность фильтрации.

Руководитель направления развития облачных технологий ГК «Солар» Дмитрий Лукин отмечает, что разработка выросла из практических задач защиты заказчиков. Основной целью было научиться отсеивать замаскированных ботов на самом раннем этапе, ещё до обработки запроса веб-приложением. После тестирования и доработки модель легла в основу патентованного решения.

В компании добавляют, что технология уже применяется в линейке решений Solar Space — как в облачном формате, так и в развёртываниях on-premise.

RSS: Новости на портале Anti-Malware.ru