NIST представил новые меры для защиты ИИ-систем

NIST представил новые меры для защиты ИИ-систем

NIST представил новые меры для защиты ИИ-систем

Национальный институт стандартов и технологий США (NIST) представил инициативу по усилению кибербезопасности систем искусственного интеллекта. Ведомство выпустило концептуальный документ и план действий по разработке специальных Control Overlays для стандарта NIST SP 800-53, которые будут учитывать риски именно в сфере ИИ.

Почему это важно: существующие подходы к киберзащите часто не охватывают угрозы, характерные для ИИ — такие как инъекция промпта, отравление моделей, утечки данных через интерфейсы и манипуляции решениями алгоритмов. Новые контрольные наборы должны закрыть эти пробелы.

Что входит в инициативу:

  • отдельные меры безопасности для генеративных ИИ, предиктивных систем и мультиагентных архитектур;
  • рекомендации для разработчиков — чтобы безопасность учитывалась на всех этапах жизненного цикла ИИ, а не «прикручивалась» постфактум;
  • расширение существующего стандарта SP 800-53 и дополнение к уже принятой AI Risk Management Framework (AI RMF 1.0).

Чтобы собрать обратную связь и сделать процесс максимально открытым, NIST запустил отдельный Slack-канал «#NIST-Overlays-Securing-AI», где к обсуждению приглашают исследователей, разработчиков, администраторов и специалистов по управлению рисками. Там будут публиковаться обновления, проводиться дискуссии и приниматься предложения по финальной версии.

Инициатива NIST может стать новым ориентиром не только для США, но и для глобального рынка — именно такие стандартизированные меры помогут компаниям по всему миру подходить к безопасности ИИ более системно.

Напомним, на днях NIST выпустил рекомендации по выявлению поддельных фото в документах. Документ под названием FATE MORPH 4B (PDF) описывает, как работают видоизменённые изображения, и объясняет, какие шаги должны предпринимать организации — от паспортных столов до пограничных служб.

Касперская: ИИ не уволит программистов, а заставит их работать по-другому

Искусственный интеллект не оставит айтишников без работы, он лишь перекроит их обязанности. Таким мнением в интервью ТАСС поделилась президент InfoWatch и глава ассоциации «Отечественный софт» Наталья Касперская.

По её словам, генеративные модели способны ошибаться и галлюцинировать, поэтому оставить их без человеческого присмотра не получится.

Программисты будут меньше писать код вручную и больше ставить задачи ИИ, разбивать их на части и проверять результат. Вокруг нейросетей уже возникает целая «обвязка» из специалистов, которые ими управляют.

«Специальности мутируют», — резюмировала Касперская.

Массовые увольнения разработчиков из-за ИИ она считает неэффективными. Некоторые американские компании, по её данным, уже возвращают сокращённых сотрудников после падения качества и роста числа ошибок.

Работы айтишникам добавит и растущий зоопарк российских ИТ-решений. Раньше разработчикам хватало поддержки Windows и иногда Linux, а теперь продукты приходится адаптировать сразу к нескольким операционным системам и их версиям.

Одновременно расходятся российский и зарубежный технологические стеки, поэтому экспортёрам приходится поддерживать фактически две разные экосистемы.

При этом нынешнего зарплатного разгона в ИТ Касперская не ждёт: в 2026 году доходы специалистов могут вырасти примерно на 5%. Пока средняя зарплата программиста, по её словам, вдвое выше заработка квалифицированного рабочего.

Касперская также призвала не зацикливаться на больших языковых моделях. Они дороги, а Россия в этом сегменте пока не входит в число лидеров. Гораздо полезнее развивать прикладной ИИ для распознавания объектов, компьютерного зрения, защиты информации и военных задач.

В общем, нейросети не заберут работу у программистов. Но желающих просто писать код и не проверять за машиной они вполне могут отправить на профессиональную перепрошивку.

RSS: Новости на портале Anti-Malware.ru