Google Chrome готовится использовать ИИ для детектирования онлайн-скама

Google Chrome готовится использовать ИИ для детектирования онлайн-скама

Google Chrome готовится использовать ИИ для детектирования онлайн-скама

Разработчики Google Chrome пробуют использовать искусственный интеллект для защиты пользователей от онлайн-мошенничества. Соответствующую функциональность нашли в тестовых сборках Canary.

Например, Leopeva64 на площадке X указала на новый флаг в билде Chrome Canary — «Client Side Detection Brand and Intent for Scam Detection». Оказалось, он активирует большую языковую модель для анализа веб-страниц.

«Включает вывод БЯМ на страницах для запроса их назначения», — гласит описание функциональности.

Источник: BleepingComputer

 

Согласно описанию, ИИ-фича будет оценивать наличие брендов на посещаемой странице и её назначение, что должно помочь выявить признаки онлайн-мошенничества. Функциональность будет работать на трёх основных десктопных платформах: macOS, Windows и Linux.

Подробности технической стороны пока не приводятся, однако известно, что пользователи будут получать предупреждения при посещении мошеннических веб-страниц.

Каждая пятая утечка уже связана с теневым использованием ИИ

Сотрудники всё чаще отправляют рабочие данные в нейросети быстрее, чем службы ИБ успевают понять, что вообще происходит. По данным «Информзащиты», в июле 2026 года уже 20% организаций, столкнувшихся с утечками, хотя бы частично связали инциденты с несанкционированным использованием ИИ. Годом ранее таких случаев было около 12%.

И это не безобидное попросил чат-бота поправить письмо. В публичные ИИ-сервисы загружают договоры, исходный код, внутреннюю переписку, клиентские обращения и техническую документацию.

На веб-интерфейсы нейросетей приходится около 42% подобных инцидентов. Ещё 24% утечек связаны с браузерными расширениями и ИИ-помощниками.

Они получают доступ к вкладкам, истории сессий и cookie, а потом тихо делают то, на что им когда-то нажали «Разрешить». Самостоятельно подключённые API и библиотеки дают ещё 19%, инструменты для программирования — 15%.

Проблема в том, что классические средства защиты часто не видят ничего подозрительного. Домен легитимный, TLS работает, вредоносной сигнатуры нет. Только конфиденциальный документ уже уехал во внешний сервис.

Почти у трети компаний, использующих ИИ, находят хотя бы один API-ключ или секрет в небезопасном месте: конфигурациях, тестовых скриптах, рабочих станциях и Git-репозиториях. Получив такой ключ, атакующий может не только потратить чужой бюджет, но и добраться до подключённых баз данных и RAG-хранилищ.

Дороже всего здесь обходится позднее обнаружение. Инциденты с теневым ИИ в среднем увеличивают ущерб примерно на $670 тыс.

Эксперты советуют начинать не с тотальных запретов, а с инвентаризации сервисов, поиска ключей, контроля расширений и классификации данных. Потому что запретить ChatGPT приказом легко. Гораздо сложнее заметить, что сотрудник уже загрузил туда половину проекта.

RSS: Новости на портале Anti-Malware.ru