ФСТЭК РФ советует госорганам закрыть двери для зарубежных ИИ-ботов

ФСТЭК РФ советует госорганам закрыть двери для зарубежных ИИ-ботов

ФСТЭК РФ советует госорганам закрыть двери для зарубежных ИИ-ботов

ФСТЭК России разослала в органы исполнительной власти письма, рекомендуя добавить в robots.txt запрет на доступ к госсайтам поисковых ботов иностранного производства (вроде GPTBot от OpenAI). Подобная мера призвана ограничить сбор данных об уязвимостях веб-ресурсов.

С одним из таких писем, от 20 августа, ознакомился «Ъ». В нем, со слов издания, приведено следующее обоснование: подобные боты «собирают информацию о существующих уязвимостях информационных ресурсов органов государственной власти РФ и о персональных данных, чтобы использовать их в зарубежных моделях машинного обучения».

Примечательно, что сама федеральная служба пока не последовала своему совету. Проведенная репортерами проверка (2 сентября) запрета на доступ GPTBot к сайту ФСТЭК не обнаружила.

С вводом подобных ограничений медлят также Минцифры, Минздрав, МЧС. В robots.txt сайтов Минюста и ФСБ такая директива присутствует, притом она вообще запрещает индексирование автоматизированными средствами.

Опрошенные «Ъ» эксперты признали существование ботов, специально собирающих данные о слабостях доступных из интернета ресурсов — таких как устаревшие плагины, ошибки конфигурации, отсутствие защиты, позволяющее внедрить на сайт вредоносный код. Сканирование при этом может проводиться как с благими намерениями, так и со злым умыслом.

Риски использования ИИ-ботов для проведения атак, по мнению специалистов, пока невелики, однако в «Лаборатории Касперского» не исключают изменения ситуации в недалеком будущем.

«Данная сфера развивается очень динамично, что требует постоянной оценки возникающих угроз, — заявил журналистам Владислав Тушканов, руководитель группы исследований и разработки технологий машинного обучения в Kaspersky. — Существуют специализированные системы для поиска разнообразных внутренних сервисов, таких как подключенные к интернету камеры. И сокрытие таких сервисов от поисковых ботов не сможет полностью решить саму проблему».

Минувшей весной похожие рекомендации по борьбе с автоматизированным сбором информации из-за рубежа рассылались хостинг-провайдерам с подачи Роскомнадзора. При этом в письмах упоминалась не только OpenAI, но также Google и Apple.

Подпишитесь на новости

Модели OpenAI и Anthropic выбирали скорые и школу как военные цели

Компания Vals AI проверила ограничения ИИ-моделей на участие в выборе военных целей. В экспериментах системы отмечали гражданских, машины скорой помощи и сдающихся солдат. Представление задания как игры часто помогало преодолеть отказы.

Результаты экспериментов опубликованы в исследовании Vals AI. Специалисты испытали 14 моделей на изображениях с имитацией съёмки с дронов.

Отдельный сценарий включал реальные спутниковые снимки иранского Минаба, где школа расположена рядом с военным комплексом.


GPT-6 Astra выделяла хотя бы одну цель в 6% обычных запросов. После оговорки об игре показатель вырос до 92%. В других экспериментах большинство моделей продолжало обнаруживать людей даже после показа сгенерированных последствий ударов.


Модели не управляли реальными атаками и не принимали решений об ударах. Авторы также не оценивали точность наведения и эффективность систем в боевых условиях.


Vals AI рекомендует усилить ограничения на уровне API. Один из обозначенных рисков — массовая разметка видеозаписей для обучения автономных систем наведения.

RSS: Новости на портале Anti-Malware.ru