Обработал фото ИИ — готовь дисклеймер: в России обсуждают маркировку

Обработал фото ИИ — готовь дисклеймер: в России обсуждают маркировку

Обработал фото ИИ — готовь дисклеймер: в России обсуждают маркировку

Изображения, аудио и видео, созданные с помощью больших моделей искусственного интеллекта, могут обязать маркировать. Соответствующие поправки к закону об ИИ и Гражданскому кодексу подготовила рабочая группа Совета при президенте РФ.

Сейчас закон требует от крупных платформ с аудиторией более 500 тыс. россиян в сутки лишь предоставить пользователям техническую возможность поставить отметку. Делать это обязательно авторов не заставляют, сообщают «Ведомости».

Поправки меняют подход: предупреждение об использовании ИИ может стать обязательным, а его формат, содержание и место размещения определит уполномоченное ведомство. Какое именно, в проекте не указано. Обсудить документ планируют 19 августа, но сроки возможного внесения в Госдуму пока неизвестны.

Главная интрига скрывается в формулировке «создан с применением ИИ». Под неё могут попасть не только полностью сгенерированные ролики и изображения, но и обычные фотографии, слегка обработанные нейросетевым фильтром. Минимальная доля машинного участия не установлена.

Не определено и то, кто должен наносить метку, если один человек создал материал, а другой его опубликовал. Проект не объясняет, кто станет искать нарушения, обязана ли маркировка переживать перенос файла между платформами и какая ответственность грозит за её отсутствие.

Представители отрасли опасаются, что обязательные отметки усложнят работу законопослушных российских сервисов, но не остановят создателей дипфейков. Те смогут пользоваться зарубежными инструментами и загружать контент без предупреждений.

Эксперты предлагают смешанную схему, похожую на китайскую: видимые и скрытые машиночитаемые метки добавляют ИИ-сервисы, платформы проверяют их, а пользователи сообщают о происхождении материала.

SASTAV и ARX ASPM PLATFORM объединили анализ кода и управление рисками

Российские разработчики ShiftLeft Security и ARX Security обеспечили совместимость SASTAV SAST и ARX ASPM PLATFORM. Теперь статический анализ исходного кода можно запускать и настраивать непосредственно из интерфейса ASPM-платформы.

Для каждого проекта специалисты смогут выбирать репозитории и ветки, формировать наборы правил, задавать параметры сканирования и устанавливать quality gate — критерии, определяющие, можно ли выпускать продукт с обнаруженными дефектами.

Там же настраивается порядок принятия рисков. В общем, релизу придётся не просто пообещать исправиться, а пройти формальный контроль.

SASTAV отвечает за статический анализ кода. Решение позволяет создавать и редактировать правила, назначать разные наборы проверок отдельным репозиториям и управлять параметрами сканирования.

ARX ASPM PLATFORM выступает единым центром управления AppSec-инструментами. Платформа собирает результаты разных анализаторов, объединяет связанные находки, оценивает риски и показывает общее состояние защищённости цифровых продуктов.

Оба решения используют искусственный интеллект, но на разных этапах. В SASTAV он участвует в проверке дефектов, автоматическом триаже, приоритизации и подготовке рекомендаций по изменению кода. Это должно уменьшить объём сырых предупреждений, передаваемых дальше.

ИИ-ассистент ARX ASPM PLATFORM определяет статусы дефектов, найденных платформой или импортированных из внешних систем. После интеграции получается двухэтажная схема: SASTAV изучает код и фильтрует находки, а ARX сопоставляет их с результатами других инструментов и помогает решить, какой риск допустим.

Разработчики рассчитывают сократить число ручных операций, ускорить подключение проектов к DevSecOps и снизить нагрузку на AppSec-команды.

RSS: Новости на портале Anti-Malware.ru