Российские ИИ-модели отправят на проверку традиционных ценностей

Российские ИИ-модели отправят на проверку традиционных ценностей

Российские ИИ-модели отправят на проверку традиционных ценностей

Российские разработчики смогут передавать большие ИИ-модели в независимые испытательные лаборатории, которые проверят их на соответствие законодательству и традиционным духовно-нравственным ценностям. Возможную схему Минцифры обсуждает с бизнесом при подготовке подзаконных актов.

Проверка затронет не все представленные на рынке системы, а только модели, претендующие на статус национальных или суверенных, сообщают «Ведомости».

Такой статус откроет доступ к господдержке, государственным данным, закупкам и приоритетному внедрению в отдельных отраслях. Первопроходцами могут стать образование и госуслуги.

Разработчик должен будет самостоятельно протестировать модель по общей риск-ориентированной методике и предоставить описание архитектуры, механизмов фильтрации и другие документы.

Затем аккредитованная лаборатория проверит результаты, прогонит систему через специальные бенчмарки и попробует обойти её ограничения с помощью промпт-инъекций. Получится своеобразный духовно-нравственный пентест: ИИ будут провоцировать, а потом внимательно читать, что он наговорил.

Проводить экспертизу сможет не одна назначенная организация, а несколько лабораторий, прошедших аккредитацию. Они подготовят заключения, но окончательное решение о соответствии и присвоении статуса останется за Минцифры. Безопасность моделей для государственных систем отдельно оценят ФСБ и ФСТЭК России.

Перечень традиционных ценностей заново составлять не планируют: он уже закреплён президентским указом № 809. Сложнее будет превратить такие понятия, как справедливость, гражданственность и историческая память, в измеримые технические критерии.

Эксперты предупреждают, что оценочность требований может привести к избирательному применению правил. Поэтому рынку потребуются прозрачные тесты, воспроизводимые результаты, сроки действия заключений и переаттестация после обновления моделей.

В Минцифры подчёркивают, что пакет документов ещё согласовывается. Финальная конструкция проверки не утверждена.

Мошенники заманивают удалёнщиков компенсацией за домашний интернет

Российских удалёнщиков атакуют под видом работодателей, государственных ведомств и корпоративных ИТ-служб. Одной из приманок стала компенсация расходов на домашний интернет и личный компьютер.

Чтобы получить несуществующую выплату, человеку предлагают пройти идентификацию на поддельном сайте или сообщить код из СМС, рассказал руководитель группы обучения информационной безопасности Яндекса Александр Лунев.

Вместо денег сотрудник рискует передать мошенникам учётные или платёжные данные. Компенсация получается действительно удалённой — настолько, что до банковского счёта жертвы она не доезжает.

Другой сценарий начинается с письма якобы от ИТ-службы компании. В нём требуют срочно продлить доступ к рабочей системе, подтвердить учётную запись или установить обновление по ссылке. Давление на срочность нужно, чтобы человек сначала нажал, ввёл пароль и запустил файл, а уже потом задумался, почему корпоративный администратор пишет с незнакомого адреса.

Дополнительным слабым местом становится домашняя сеть. В отличие от офисной инфраструктуры, за её настройку отвечает сам пользователь. К одному роутеру часто подключены рабочий ноутбук, смартфоны, камеры, телевизоры и умные колонки. Компрометация сети поэтому может создать риски сразу для всей домашней цифровой команды.

Специалист рекомендует заменить стандартные пароли роутера и Wi-Fi, обновить прошивку и отключить функцию быстрого подключения устройств. Камеры, телевизоры, колонки и другую технику лучше вынести в отдельную гостевую сеть, изолировав её от рабочего компьютера.

Любую срочную просьбу стоит проверить по независимому каналу: связаться с работодателем или ИТ-службой через известный номер либо корпоративный мессенджер. Пароли и коды из СМС настоящие компании, банки и ведомства по телефону не запрашивают.

RSS: Новости на портале Anti-Malware.ru