Microsoft: системы на базе ИИ никогда не станут абсолютно безопасными

Microsoft: системы на базе ИИ никогда не станут абсолютно безопасными

Microsoft: системы на базе ИИ никогда не станут абсолютно безопасными

Команда Microsoft AI Red Team (AIRT) подытожила свой опыт тестирования 100 продуктов, созданных в компании на основе генеративного ИИ, и пришла к выводу, что обеспечение безопасности таких систем — нескончаемый процесс.

Из-за фундаментальных ограничений ИИ-моделей угрозы вроде инъекции стимула и джейлбрейка в этой сфере неистребимы.

Однако такие атаки можно сделать более затратными — как и в случае с другими ИТ-рисками, которые удается снизить, применяя, к примеру, тактику эшелонированной защиты (defense-in-depth) или следуя принципам конструктивной безопасности (security-by-design).

Делясь опытом, в Red Team также отметили (PDF), что для выстраивания защиты ИИ-системы важно понимать ее возможности и учитывать сферу применения. Так, большие языковые модели (БЯМ, LLM) склонны слепо следовать инструкциям пользователя, и их легко обмануть, спрятав вредоносный контент в большом объеме безобидного текста при вводе.

Также атака на ИИ-помощника по литературному творчеству вряд ли приведет к серьезным последствиям, а в случае с LLM, предназначенной для анализа историй болезни, может нанести вред здоровью пациентов и поставить крест на репутации медучреждения.

Чтобы заставить LLM выдать вредный совет, необязательно проводить градиентные состязательные атаки. Тот же эффект можно получить более дешевым способом, манипулируя интерфейсом либо введя в заблуждение модель языка и технического зрения.

 

Еще одно важное наблюдение, которым поделились специалисты: использование ИИ увеличивает существующие риски и создает новые.

Напомним, вопросы использования ИИ недавно обсуждались в ходе Открытой конференции Института системного программирования РАН им. В. П. Иванникова. Участники пленарной дискуссии сошлись во мнении, что внедрение ИИ-технологий тормозят проблемы доверия и безопасности таких сервисов.

Без спутникового ТВ остаются 4,5 млн жителей Сибири и Дальнего Востока

После аварии 4 марта, приведшей к потере спутника «Экспресс-АТ1», без доступа к спутниковому телевидению остаются около 4,5 млн человек в Сибири и на Дальнем Востоке. Восстановить вещание не удаётся из-за отсутствия резервных мощностей, на закупку и вывод которых у операторов нет средств.

Авария на спутнике «Экспресс-АТ1», принадлежащем ФГУП «Космическая связь» (ГПКС), произошла 4 марта 2026 года.

В результате без телесигнала остались все абоненты оператора «Русский мир», а также часть клиентов «НТВ Плюс» и Национальной спутниковой компании (бренд «Триколор»). Сбой затронул преимущественно Сибирский регион. По оценкам аналитиков, всего пострадало до 5 млн абонентов.

Согласно данным, изложенным в письме организации «Честный промышленник» 28 депутатам Госдумы, значительная часть абонентов до сих пор остаётся без доступа к телесигналу. Документ оказался в распоряжении «Коммерсанта».

«Вещание для миллионов граждан не возобновлено по причине отсутствия резервных источников в виде дополнительных спутников, — приводит издание выдержку из обращения «Честного промышленника». — Большинство абонентов в силу географических и технологических условий не имеют доступа к другим источникам телевидения и, как следствие, возможности получения актуальной информации».

По данным источников «Коммерсанта» в космической отрасли, наибольшее число абонентов, оставшихся без сигнала, приходится на Алтайский край, Омскую область и Красноярский край — от 300 до 500 тысяч человек в каждом регионе.

«Всего от спутникового ТВ, включая телеканалы первого и второго мультиплексов, отключёнными оказались около 4,5 млн телезрителей, в том числе абоненты «Триколора»; около 60% отключений пришлось на Сибирский федеральный округ, что составляет почти 2,4 млн телезрителей. Сейчас абонентам требуется перенастроить оборудование на новый спутник», — прокомментировали ситуацию в «Триколоре». Всего авария затронула около 20% абонентской базы оператора.

В «НТВ Плюс» сообщили, что им удалось восстановить доступ к сигналу в течение нескольких дней за счёт переподключения на спутник «Ямал-402», принадлежащий компании «Газпром космические системы».

Как отметили источники «Коммерсанта» в космической отрасли, данная авария стала крупнейшей за всю историю. При этом системная проблема отсутствия резервных мощностей остаётся нерешённой. В краткосрочной перспективе её устранить не получится: до 2030 года запуск резервных аппаратов не запланирован. Создание новых спутников серии «Экспресс» займёт не менее шести лет, при этом ресурс уже находящихся на орбите аппаратов составляет 2–3 года, и нет гарантии, что с ними не произойдут аналогичные инциденты.

По информации ГПКС, причиной аварии «Экспресс-АТ1» стал сбой в системе энергопитания. В компании пообещали подключить около 1,6 млн абонентов к спутнику «Экспресс-АТ2» в начале апреля.

RSS: Новости на портале Anti-Malware.ru