Минцифры: искусственный интеллект в России нужно подвергнуть цензуре

Минцифры: искусственный интеллект в России нужно подвергнуть цензуре

Минцифры: искусственный интеллект в России нужно подвергнуть цензуре

В России обсуждают, каким должен быть «правильный» искусственный интеллект и, похоже, без ограничений его видеть не хотят. Замглавы Минцифры Александр Шойтов на форуме «ИИ: режим доверия» заявил, что ИИ в стране должен работать с цензурными ограничениями и «на входе, и на выходе», чтобы отсекать нежелательные и чувствительные запросы.

По его словам, нейросети в этом смысле нельзя ставить в один ряд с человеком, потому что «людей у нас цензурировать нельзя, у них есть права».

По сути, речь идёт о модели, при которой ИИ-системы должны заранее фильтровать часть запросов пользователей и ограничивать определённые ответы. Такая позиция выглядит как продолжение линии Минцифры на более жёсткое регулирование нейросетей: ещё в марте ведомство вынесло на общественное обсуждение законопроект о регулировании ИИ в России.

Документ предлагает риск-ориентированный подход, требования к разработчикам и пользователям, меры поддержки инфраструктуры, а также механизмы ограничения отдельных решений. В случае принятия закон может вступить в силу с 1 сентября 2027 года.

На этом фоне курс государства в целом выглядит двойственным, но вполне понятным: ИИ собираются активно внедрять, но одновременно держать под контролем. 10 апреля Владимир Путин поручил правительству совместно с регионами подготовить национальный план внедрения искусственного интеллекта.

Президент отдельно подчеркнул, что к 2030 году ИИ должен широко использоваться в ключевых сферах — от промышленности и логистики до образования, энергетики и госуправления. При этом, по его словам, регулирование не должно душить развитие отрасли, иначе страна рискует отстать в технологиях и экономике.

Для рынка это значит, что разговор об ИИ в России окончательно выходит из стадии «давайте просто развивать технологии» в стадию «давайте сразу определим, что именно им можно, а что нельзя». И судя по заявлениям Минцифры, этот разговор будет вполне прикладным: с будущими правилами, ограничениями и, вероятно, новыми обязанностями для разработчиков.

Mozilla закрыла 423 уязвимости в Firefox, найденные с помощью ИИ

Mozilla рассказала о результатах нового ИИ-подхода к поиску уязвимостей в Firefox. С помощью продвинутых моделей, включая Claude Mythos Preview и Claude Opus, разработчики нашли и уже исправили 423 скрытые проблемы в безопасности.

Главное отличие от ранних ИИ-аудитов в том, что система не просто генерировала подозрительные отчёты, а встраивалась в существующую фаззинг-инфраструктуру Firefox.

ИИ запускался в нескольких виртуальных машинах, проверял гипотезы, отсекал невоспроизводимые находки и создавал демонстрационный эксплойт (proof-of-concept) для реальных багов.

В итоге модели смогли найти ошибки, которые годами проходили мимо традиционных инструментов. Среди примеров есть 15-летняя проблема в HTML-элементе legend, 20-летняя уязвимость в XSLT, а также баги в обработке HTML-таблиц, WebAssembly, IndexedDB, WebTransport и HTTPS.

 

Часть находок была серьёзной: Use-After-Free, повреждение памяти, состояние гонки (race condition) через IPC и обходы песочницы для сторонних библиотек. То есть ИИ искал не только простые сбои, а довольно сложные цепочки, где нужно понимать устройство браузерного движка.

При этом Mozilla отмечает и обратную сторону: модели не смогли обойти некоторые уже внедрённые защитные механизмы Firefox. Например, архитектурные изменения с заморозкой прототипов по умолчанию помогли отбить попытки атак.

Закрытие такого объёма багов потребовало участия более 100 разработчиков и ревьюеров. Патчи вошли в недавние обновления Firefox, включая версии 149.0.2, 150.0.1 и 150.0.2.

Теперь Mozilla планирует встроить ИИ-анализ прямо в систему непрерывной интеграции. Идея в том, чтобы проверять не только существующий код, но и новые патчи ещё до их попадания в релиз.

RSS: Новости на портале Anti-Malware.ru