Swordfish Security подготовила бесплатный фреймворк по оценке рисков ИИ

Swordfish Security подготовила бесплатный фреймворк по оценке рисков ИИ

Swordfish Security подготовила бесплатный фреймворк по оценке рисков ИИ

Специалисты по кибербезопасности из компании Swordfish Security объявили, что разработанная ими методология по оценке зрелости компаний, применяющих искусственный интеллект, будет доступна ИБ-командам бесплатно. Идея в том, чтобы помочь сформировать зарождающийся рынок ИИ-безопасности и дать организациям понятный инструмент для самопроверки.

Методология и карта угроз создавались именно для российского рынка: учитывались требования регуляторов и особенности отечественных ИИ-систем.

Во фреймворк под названием SAIMM включили направления анализа ИИ-систем, оценку рисков, а также набор мер по их снижению. Фактически это рабочий чек-лист, который может помочь компаниям понять текущий уровень зрелости и построить собственную дорожную карту развития безопасного ИИ.

По словам специалистов, на рынке ежедневно появляются новые ИИ-агенты, а бизнес активно внедряет инструменты на базе языковых моделей. При этом масштаб угроз растёт, а атаковать ИИ-системы зачастую проще, чем традиционное ПО из-за их специфики.

Разработчики собрали около 80 уязвимостей, характерных именно для ИИ-систем, и сопоставили их с международными классификациями — OWASP, NIST, ENISA, MITRE ATLAS и другими. В список вошли, например, компрометация модели, обход ограничений, утечка чувствительных данных в ответах модели, конфликт инструкций и другие риски. Для каждой угрозы указаны меры защиты и необходимые контроли.

Фреймворк не привязан к определённой отрасли: им могут пользоваться финтех-компании, онлайн-ритейл, госсектор и другие организации, работающие с ИИ. Разработчики также участвовали в проектах на уровне регуляторов, что позволило учесть положения национальных инициатив в сфере ИИ и критической инфраструктуры.

Совместное исследование Ассоциации Финтех и экспертов в области ИИ-безопасности показало, что четверть крупнейших финансовых компаний уже пережили инциденты, связанные с использованием искусственного интеллекта. Это указывает на то, что ИИ активно интегрируется в рабочие процессы, но инструменты его защиты всё ещё находятся в стадии становления.

Новая методология должна помочь компаниям уйти от спонтанного подхода к внедрению ИИ и выстроить системную работу с рисками.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Ростелеком выкупил 5% Базальт СПО и готов увеличить долю до 25%

В ноябре «Ростелеком» получил первый пакет акций одного из ключевых российских разработчиков системного ПО на базе Linux — «Базальт СПО». Через свой фонд «Консоль», созданный совместно с Минцифры, оператор приобрёл 5% компании. Фонд уже сообщил, что до конца года намерен увеличить долю до 25%.

Часть пакета «Консоль» получит за счёт денежных вложений в уставной капитал. Фактически «Базальт СПО» войдёт в состав коммерческого ИТ-кластера «Ростелекома».

Фонд «Консоль» работает с компаниями, которые создают платформенное и системное ПО. В его наблюдательный совет входят представители Минцифры, а сам фонд является частью группы «Ростелекома».

Сделка вписывается в стратегию оператора по формированию национального технологического стека и усилению позиций на рынке отечественного ПО. Инвестиции в «Базальт СПО» дают «Ростелекому» доступ к компетенциям крупного open-source разработчика и позволяют активнее участвовать в процессах импортозамещения.

«Базальт СПО» — один из ведущих российских производителей операционных систем, работающий более 25 лет. Компания входит в тройку крупнейших разработчиков по объёму продаж и поддерживает совместимость ОС «Альт» с более чем 6 000 программами и оборудованием из государственных реестров. Их решения используют госорганы, промышленность, ТЭК, финсектор, транспорт и медицинские учреждения.

Гендиректор «Базальт СПО» Сергей Трандин назвал сделку началом нового этапа развития:

«Мы долгое время сотрудничали с “Ростелекомом”, и теперь переходим к стратегическому партнёрству. Это расширит наши возможности и позволит сильнее влиять на развитие отечественного ПО».

Российский рынок ПО сегодня остаётся крайне раздробленным — более 1500 компаний создают массовое ПО, а доля десяти крупнейших игроков не превышает 30%. На таком фоне консолидация выглядит закономерной: объединение технологий, ресурсов и клиентских баз помогает формировать крупные платформенные решения и ускоряет развитие рынка.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru