NIST представил новые меры для защиты ИИ-систем

NIST представил новые меры для защиты ИИ-систем

NIST представил новые меры для защиты ИИ-систем

Национальный институт стандартов и технологий США (NIST) представил инициативу по усилению кибербезопасности систем искусственного интеллекта. Ведомство выпустило концептуальный документ и план действий по разработке специальных Control Overlays для стандарта NIST SP 800-53, которые будут учитывать риски именно в сфере ИИ.

Почему это важно: существующие подходы к киберзащите часто не охватывают угрозы, характерные для ИИ — такие как инъекция промпта, отравление моделей, утечки данных через интерфейсы и манипуляции решениями алгоритмов. Новые контрольные наборы должны закрыть эти пробелы.

Что входит в инициативу:

  • отдельные меры безопасности для генеративных ИИ, предиктивных систем и мультиагентных архитектур;
  • рекомендации для разработчиков — чтобы безопасность учитывалась на всех этапах жизненного цикла ИИ, а не «прикручивалась» постфактум;
  • расширение существующего стандарта SP 800-53 и дополнение к уже принятой AI Risk Management Framework (AI RMF 1.0).

Чтобы собрать обратную связь и сделать процесс максимально открытым, NIST запустил отдельный Slack-канал «#NIST-Overlays-Securing-AI», где к обсуждению приглашают исследователей, разработчиков, администраторов и специалистов по управлению рисками. Там будут публиковаться обновления, проводиться дискуссии и приниматься предложения по финальной версии.

Инициатива NIST может стать новым ориентиром не только для США, но и для глобального рынка — именно такие стандартизированные меры помогут компаниям по всему миру подходить к безопасности ИИ более системно.

Напомним, на днях NIST выпустил рекомендации по выявлению поддельных фото в документах. Документ под названием FATE MORPH 4B (PDF) описывает, как работают видоизменённые изображения, и объясняет, какие шаги должны предпринимать организации — от паспортных столов до пограничных служб.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Цены на российский софт в 2026 году могут возрасти до 40%

Российские производители программного обеспечения собираются повысить стоимость лицензий и техподдержки в будущем году. Как выяснили журналисты, подорожание таких продуктов и услуг ожидается в пределах от 10 до 40%.

В числе причин представители ИТ-компаний в ответ на запрос «Ъ» назвали рост ключевой ставки Банка России, объема страховых взносов, расходов на персонал, возможную отмену освобождения от НДС, а также уже заложенные в бюджет инвестиции в разработку новых решений и поддержку существующих.

В «Группе Астра» готовятся повысить расценки до 40%, в «Базальт СПО» — в пределах 10-40%, в BPMSoft — на 25%.

В 2023 году на конференции ЦИПР крупные российские разработчики, в том числе «Базальт СПО» и «Лаборатория Касперского», подписали хартию о добровольном ограничении роста цен. Это соглашение обязывает участников не повышать цены на софт более чем на уровень инфляции плюс 15% в год.

По оценкам АНО «Цифровая экономика», доля ИТ в общем объеме ВВП по итогам 2024 года составила 6%. На каждый рубль господдержки отрасль возвращает в бюджет два.

Рост цен на рынке российского софта, по мнению аналитиков, может снизить темпы цифровизации и импортозамещения в стране. В Минцифры журналистам заявили, что отслеживают ситуацию и в случае нужды примут дополнительные меры регулирования.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru