ФСТЭК РФ советует госорганам закрыть двери для зарубежных ИИ-ботов

ФСТЭК РФ советует госорганам закрыть двери для зарубежных ИИ-ботов

ФСТЭК РФ советует госорганам закрыть двери для зарубежных ИИ-ботов

ФСТЭК России разослала в органы исполнительной власти письма, рекомендуя добавить в robots.txt запрет на доступ к госсайтам поисковых ботов иностранного производства (вроде GPTBot от OpenAI). Подобная мера призвана ограничить сбор данных об уязвимостях веб-ресурсов.

С одним из таких писем, от 20 августа, ознакомился «Ъ». В нем, со слов издания, приведено следующее обоснование: подобные боты «собирают информацию о существующих уязвимостях информационных ресурсов органов государственной власти РФ и о персональных данных, чтобы использовать их в зарубежных моделях машинного обучения».

Примечательно, что сама федеральная служба пока не последовала своему совету. Проведенная репортерами проверка (2 сентября) запрета на доступ GPTBot к сайту ФСТЭК не обнаружила.

С вводом подобных ограничений медлят также Минцифры, Минздрав, МЧС. В robots.txt сайтов Минюста и ФСБ такая директива присутствует, притом она вообще запрещает индексирование автоматизированными средствами.

Опрошенные «Ъ» эксперты признали существование ботов, специально собирающих данные о слабостях доступных из интернета ресурсов — таких как устаревшие плагины, ошибки конфигурации, отсутствие защиты, позволяющее внедрить на сайт вредоносный код. Сканирование при этом может проводиться как с благими намерениями, так и со злым умыслом.

Риски использования ИИ-ботов для проведения атак, по мнению специалистов, пока невелики, однако в «Лаборатории Касперского» не исключают изменения ситуации в недалеком будущем.

«Данная сфера развивается очень динамично, что требует постоянной оценки возникающих угроз, — заявил журналистам Владислав Тушканов, руководитель группы исследований и разработки технологий машинного обучения в Kaspersky. — Существуют специализированные системы для поиска разнообразных внутренних сервисов, таких как подключенные к интернету камеры. И сокрытие таких сервисов от поисковых ботов не сможет полностью решить саму проблему».

Минувшей весной похожие рекомендации по борьбе с автоматизированным сбором информации из-за рубежа рассылались хостинг-провайдерам с подачи Роскомнадзора. При этом в письмах упоминалась не только OpenAI, но также Google и Apple.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Сервис знакомств Twinby планирует проверять пользователей в МВД

Сервис онлайн-знакомств Twinby объявил о намерении получить доступ к API МВД, чтобы пользователи могли проверять потенциальных партнеров на наличие судимостей и других проблем с законом. Ранее с предложением отмечать в приложениях для знакомств пользователей с непогашенными судимостями по ряду статей — в том числе связанных с нанесением тяжкого вреда здоровью и имущественными преступлениями — выступила группа депутатов Госдумы.

Об этом рассказала «Коммерсанту» соосновательница сервиса Вероника Яковлева.

«Мы, к сожалению, не можем предугадать, с кем вы “сметчитесь” и насколько этот человек адекватен. Нет никакой универсальной методики оценки, которую могли бы применять, как это делают крупные технологические компании. Мы не можем гарантировать, что знакомство окажется удачным», — отметила Вероника Яковлева.

Кроме того, соосновательница Twinby рассказала о технологиях, которые помогают противостоять использованию дипфейков. В частности, применяется система Liveness, позволяющая определять изображения, созданные нейросетями, или случаи, когда пользователь пытается пройти регистрацию с маской. По словам Яковлевой, это практически исключает возможность выдачи себя за другого человека.

Дипфейки нередко используются для организации фиктивных знакомств: злоумышленники создают несуществующих людей и от их имени выманивают деньги или распространяют фишинговые ссылки. Российские мошенники уже давно вышли и на международный рынок, поскольку внутренний сегмент им становится тесен.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru