Google не станет патчить уязвимость Gemini, связанную с ASCII smuggling

Google не станет патчить уязвимость Gemini, связанную с ASCII smuggling

Google не станет патчить уязвимость Gemini, связанную с ASCII smuggling

Google обычно гордится своей безопасностью — именно поэтому компания так активно борется с установкой непроверенных приложений на Android. Но, похоже, когда речь зашла о защите Gemini, Google решила, что тревогу бить не стоит.

По данным BleepingComputer, специалист по кибербезопасности Виктор Маркопулос проверил популярные большие языковые модели (LLM) на устойчивость к атакам ASCII smuggling — и выяснил, что Gemini, DeepSeek и Grok уязвимы. А вот Claude, ChatGPT и Copilot такие трюки распознают и не поддаются.

Если коротко, ASCII smuggling — это способ спрятать скрытую инструкцию для ИИ прямо в тексте. Например, злоумышленник может вставить «невидимый» промпт в письмо или приглашение в календаре — с микроскопическим шрифтом или в другом малозаметном виде.

Пользователь об этом даже не узнает. Но если он попросит ИИ вроде Gemini «пересказать письмо», модель послушно прочитает и выполнит скрытое указание.

 

Последствия могут быть неприятными. В теории ИИ можно заставить искать в почте конфиденциальные данные или отправлять контактную информацию. Учитывая, что Gemini уже встроен в Google Workspace, риск возрастает — ведь это доступ к корпоративной почте, календарю и документам.

Маркопулос сообщил Google о находке и даже продемонстрировал пример атаки: невидимый промпт заставил Gemini выдать ссылку на фишинговый сайт с «скидочными смартфонами». Однако в компании ответили, что это не уязвимость, а социальная инженерия — мол, ответственность лежит на пользователях.

Проще говоря, исправлять проблему Google не собирается. Ирония в том, что ИИ, который должен помогать работать безопаснее, теперь сам может стать инструментом для обмана — если прочтёт не то письмо.

Ранее мы писали о трёх серьёзных уязвимостях в экосистеме Google Gemini, получивших общее название «Gemini Trifecta». С их помощью злоумышленники могли украсть сохранённые данные пользователей и даже отследить их местоположение в реальном времени.

Авито запустит ИИ-сервис для поиска пропавших питомцев по фото

«Авито» решила подключить искусственный интеллект к задаче, где каждая минута на счету: поиску потерявшихся домашних животных. 6 июля на платформе заработает бесплатный сервис «ХвостРадар», который будет искать совпадения между фотографиями пропавших питомцев и объявлениями о найденных животных.

Принцип такой: владелец загружает фото питомца через функцию «Поиск по фото», а система анализирует изображение и сопоставляет его с объявлениями на платформе.

Алгоритм учитывает окрас, породу, форму морды, размер и другие визуальные признаки, а также геолокацию и дату публикации.

Если находится похожее объявление, пользователь может связаться с его автором через внутренний чат «Авито» или позвонить прямо в приложении. При желании можно подписаться на новые совпадения, чтобы не проверять объявления вручную каждые полчаса в режиме паники.

 

Технология создана участниками летней школы Института искусственного интеллекта AIRI и командой научно-исследовательского центра «Авито». В разработке также участвовали волонтёры, которые помогают владельцам искать пропавших животных.

В «Авито» отмечают, что уже на этапе тестирования модель показала высокую точность. Сейчас на платформе размещено более 3300 объявлений о потерянных и найденных животных, а за последний месяц владельцам удалось вернуть домой более 400 питомцев.

До конца 2026 года компания планирует расширить возможности «ХвостРадара». Среди будущих функций — поиск хозяина по фотографии найденного животного и автоматический поиск владельца для тех, кто подобрал питомца на улице.

Также «Авито» тестирует применение похожей технологии в других категориях объявлений и рассматривает возможность интеграции со сторонними сервисами.

По сути, «ХвостРадар» превращает обычную доску объявлений в умный поисковик по мордам, хвостам и лапам. И если это поможет хотя бы части животных быстрее вернуться домой, ИИ наконец-то получит вполне заслуженный плюс в карму.

RSS: Новости на портале Anti-Malware.ru