ФСТЭК России готовит стандарт безопасной разработки систем ИИ

ФСТЭК России готовит стандарт безопасной разработки систем ИИ

ФСТЭК России готовит стандарт безопасной разработки систем ИИ

Выступая на BIS Summit 2025, первый замдиректора ФСТЭК России Виталий Лютиков сообщил, что регулятор планирует до конца года вынести на обсуждение проект стандарта привнесения аспекта безопасности в разработку ИИ-систем.

Новое методическое руководство будет представлено как дополнение к действующим нормативам по безопасной разработке программного обеспечения, в том числе ГОСТ Р 56939-2024.

У ИИ-моделей есть своя специфика с точки зрения ИБ — склонность к галлюцинациям, риск утечки конфиденциальных данных и злоупотреблений через манипуляцию промптами, возможность вмешательства в алгоритмы машинного обучения, и ее следует учитывать при создании подобных инструментов.

Приказ ФСТЭК России № 117 от 11.04.2025 об усилении защиты данных в ГИС (заработает с 1 марта будущего года) содержит раздел об ИИ-технологиях, однако изложенные в нем требования по безопасности ограничены эксплуатацией.

Вместе с тем, как и в случае с обычным софтом, не менее важно обезопасить ИИ-системы еще на стадии разработки (такой подход известен как security by design). Новая инициатива регулятора призвана восполнить этот пробел.

Вместо RTX 5070 Ti за 90 тыс. покупателю Wildberries досталась бутылка воды

Москвич заказал на Wildberries видеокарту Gigabyte GeForce RTX 5070 Ti стоимостью около 90 тысяч рублей. Однако игровой компьютер придётся собирать позже: вместо ускорителя в коробке обнаружилась двухлитровая бутылка воды.

Распаковку покупательница предусмотрительно снимала на видео прямо в пункте выдачи заказов.

На опубликованных кадрах видно, что коробка выглядела запечатанной и была обёрнута плёнкой. Снаружи — дорогая видеокарта, внутри — жидкостное охлаждение в самом буквальном смысле.

 

Когда упаковку вскрыли, на месте RTX 5070 Ti лежала бутылка воды. Она, вероятно, должна была придать посылке подходящий вес и не вызвать подозрений до момента распаковки.

Пока неизвестно, где именно произошла подмена: при упаковке товара, во время транспортировки, на складе или на другом этапе доставки. Информации о результатах обращения покупательницы в Wildberries также пока нет.

История в очередной раз показала, что дорогую технику лучше проверять, не отходя от ПВЗ, причём под запись.

RSS: Новости на портале Anti-Malware.ru