Microsoft: системы на базе ИИ никогда не станут абсолютно безопасными

Microsoft: системы на базе ИИ никогда не станут абсолютно безопасными

Microsoft: системы на базе ИИ никогда не станут абсолютно безопасными

Команда Microsoft AI Red Team (AIRT) подытожила свой опыт тестирования 100 продуктов, созданных в компании на основе генеративного ИИ, и пришла к выводу, что обеспечение безопасности таких систем — нескончаемый процесс.

Из-за фундаментальных ограничений ИИ-моделей угрозы вроде инъекции стимула и джейлбрейка в этой сфере неистребимы.

Однако такие атаки можно сделать более затратными — как и в случае с другими ИТ-рисками, которые удается снизить, применяя, к примеру, тактику эшелонированной защиты (defense-in-depth) или следуя принципам конструктивной безопасности (security-by-design).

Делясь опытом, в Red Team также отметили (PDF), что для выстраивания защиты ИИ-системы важно понимать ее возможности и учитывать сферу применения. Так, большие языковые модели (БЯМ, LLM) склонны слепо следовать инструкциям пользователя, и их легко обмануть, спрятав вредоносный контент в большом объеме безобидного текста при вводе.

Также атака на ИИ-помощника по литературному творчеству вряд ли приведет к серьезным последствиям, а в случае с LLM, предназначенной для анализа историй болезни, может нанести вред здоровью пациентов и поставить крест на репутации медучреждения.

Чтобы заставить LLM выдать вредный совет, необязательно проводить градиентные состязательные атаки. Тот же эффект можно получить более дешевым способом, манипулируя интерфейсом либо введя в заблуждение модель языка и технического зрения.

 

Еще одно важное наблюдение, которым поделились специалисты: использование ИИ увеличивает существующие риски и создает новые.

Напомним, вопросы использования ИИ недавно обсуждались в ходе Открытой конференции Института системного программирования РАН им. В. П. Иванникова. Участники пленарной дискуссии сошлись во мнении, что внедрение ИИ-технологий тормозят проблемы доверия и безопасности таких сервисов.

Почему тормозит Telegram в России: власти признали поэтапные ограничения

Проблемы с загрузкой видео и работой медиафайлов в Telegram в России связаны не с техническими сбоями, а с последовательным введением ограничительных мер в отношении мессенджера. Об этом 21 января 2026 года заявил зампред Совета по развитию цифровой экономики при Совете Федерации сенатор Артём Шейкин.

По его словам, Telegram не выполнил требования российских властей, направленные на борьбу с преступлениями, поэтому регулятор действует поэтапно и без резких шагов.

«Роскомнадзор последовательно применяет меры в отношении интернет-сервисов, нарушающих законодательство РФ. Иностранные мессенджеры используются для организации и проведения террористических актов, для мошеннических и иных преступлений против граждан нашей страны. Telegram не выполняет требования, направленные на предупреждение и пресечение преступлений на территории РФ», — пояснил Шейкин.

Как уточнил сенатор, ограничения вводятся с августа 2025 года. В результате в Telegram перестали работать аудио- и видеозвонки, а передача медиаконтента — в том числе видео — начала частично замедляться. Именно это, по его словам, и стало причиной массовых жалоб пользователей в последние дни.

Шейкин отметил, что постепенный характер ограничений даёт россиянам возможность без стресса перейти на альтернативные сервисы. В качестве таких альтернатив он прямо рекомендовал использовать национальные мессенджеры.

В Роскомнадзоре фактически подтвердили эту позицию, назвав комментарий Совета Федерации «исчерпывающим». При этом всего несколькими днями ранее, 16 января, ведомство официально отрицало блокировку Telegram, заявляя, что «новые меры ограничений не применяются».

Ранее мы также писали о частичной блокировке Telegram, а собеседник телеканала «Москва 24» издания на телеком-рынке подтвердил, что регулятор действительно вводит дополнительные ограничения.

Разный опыт пользователей объясняется тем, что интернет-провайдеры внедряют правила фильтрации несинхронно. Каждый оператор настраивает ограничения в своём режиме, поэтому проблемы возникают волнами — в разных сетях и в разное время.

RSS: Новости на портале Anti-Malware.ru