Google представила систему для блокировки детской порнографии

Google представила систему для блокировки детской порнографии

Компания Google начала активную компанию по борьбе с детской порнографией и представила автоматизированную систему для распознавания и блокировки такого контента, заявил председатель совета директоров Google Эрик Шмидт британскому изданию Daily Mail.

Над созданием технологии распознавания запрещенного контента, в основу которой легли технологии анализа изображений от компании Microsoft, работало более 200 специалистов Google. Автоматизированная система может определять фотографии и видео, содержащие сцены с детской порнографией, и удалять информацию о них из сервисов компании. Для избегания ложных срабатываний, материалы дополнительно просматриваются специалистами, сообщил Эрик Шмидт.

В итоге, из поисковой выдачи Google на данный момент убраны результаты более 100 тысяч запросов, которые могли иметь отношение к детской порнографии. Дополнительно, по другим 13 тысячам запросов перед результатами поиска будет высвечиваться специальное предупреждение, передает digit.ru.

Пока эта система представлена только для английского языка, но в ближайшие шесть месяцев в нее будет добавлена поддержка 158 языков, говорится в сообщении издания Daily Mail. Эрик Шмидт сообщил, что в следующем году компания планирует закончить доработку системы и предоставить ее другим интернет-компаниям и организациям по защите детей. Также, аналогичные ограничения будут введены компанией Microsoft для ее поисковой системы Bing и сервисов Yahoo.

Хакеры надели маски ChatGPT и DeepSeek для атак на российские сайты

Злоумышленники маскируют вредоносные запросы к веб-приложениям российских компаний под трафик популярных ИИ-ассистентов. По данным Solar WAF, в ход пошли имена DeepSeek, ChatGPT, Perplexity, Claude и Grok. Для маскировки атакующие подменяют HTTP-заголовок User-Agent, по которому сервер определяет обращающееся к нему приложение.

В запросах указывались значения DeepSeekBot, ChatGPT-User, Perplexity-User, Claude-User и GrokBot. Однако за громкими названиями скрывались сканирование уязвимостей и попытки атак.

Первые подобные обращения специалисты зафиксировали 12 августа 2026 года под видом DeepSeekBot. С 27 августа к маскараду присоединились остальные ассистенты. В июне и июле трафика с такими идентификаторами в анализируемой выборке Solar WAF не наблюдалось.

Главный расчёт злоумышленников строится на доверии. Владельцы сайтов всё чаще воспринимают ИИ-агентов как источник клиентов, лидов и полезного трафика, поэтому могут применять к ним менее строгие правила. Проблема в том, что User-Agent не является удостоверением личности: написать там ChatGPT-User способен кто угодно.

Согласно данным «Солара», в 53% выявленных случаев злоумышленники пытались проводить DNS Rebinding, способный заставить систему обращаться к внутренним ресурсам. Ещё 12% запросов были связаны с попытками утечки данных, 4% — с Path Traversal для доступа к файлам за пределами разрешённых каталогов. Остальные 31% включали другие техники, в том числе старые добрые SQL-инъекции.

Эксперты прогнозируют дальнейшее усложнение атак с применением ИИ, включая уникальные сценарии, которые могут не распознаваться сигнатурами.

RSS: Новости на портале Anti-Malware.ru