Минцифры: искусственный интеллект в России нужно подвергнуть цензуре

Минцифры: искусственный интеллект в России нужно подвергнуть цензуре

Минцифры: искусственный интеллект в России нужно подвергнуть цензуре

В России обсуждают, каким должен быть «правильный» искусственный интеллект и, похоже, без ограничений его видеть не хотят. Замглавы Минцифры Александр Шойтов на форуме «ИИ: режим доверия» заявил, что ИИ в стране должен работать с цензурными ограничениями и «на входе, и на выходе», чтобы отсекать нежелательные и чувствительные запросы.

По его словам, нейросети в этом смысле нельзя ставить в один ряд с человеком, потому что «людей у нас цензурировать нельзя, у них есть права».

По сути, речь идёт о модели, при которой ИИ-системы должны заранее фильтровать часть запросов пользователей и ограничивать определённые ответы. Такая позиция выглядит как продолжение линии Минцифры на более жёсткое регулирование нейросетей: ещё в марте ведомство вынесло на общественное обсуждение законопроект о регулировании ИИ в России.

Документ предлагает риск-ориентированный подход, требования к разработчикам и пользователям, меры поддержки инфраструктуры, а также механизмы ограничения отдельных решений. В случае принятия закон может вступить в силу с 1 сентября 2027 года.

На этом фоне курс государства в целом выглядит двойственным, но вполне понятным: ИИ собираются активно внедрять, но одновременно держать под контролем. 10 апреля Владимир Путин поручил правительству совместно с регионами подготовить национальный план внедрения искусственного интеллекта.

Президент отдельно подчеркнул, что к 2030 году ИИ должен широко использоваться в ключевых сферах — от промышленности и логистики до образования, энергетики и госуправления. При этом, по его словам, регулирование не должно душить развитие отрасли, иначе страна рискует отстать в технологиях и экономике.

Для рынка это значит, что разговор об ИИ в России окончательно выходит из стадии «давайте просто развивать технологии» в стадию «давайте сразу определим, что именно им можно, а что нельзя». И судя по заявлениям Минцифры, этот разговор будет вполне прикладным: с будущими правилами, ограничениями и, вероятно, новыми обязанностями для разработчиков.

GPT-6 Astra научилась создавать эксплойты со стопроцентной точностью

OpenAI представила GPT-6 Astra, назвав её самой интеллектуальной и согласованной с человеком моделью в мире. Новинка умеет работать с компьютером и браузером, писать код, решать научные задачи, а также и настолько хорошо создавать эксплойты, что выпускать её без предохранителей корпорация благоразумно не стала.

На ExploitBench, где ИИ превращает известные уязвимости в работающие эксплойты, Astra набрала 100%.

Предыдущая GPT-5.6 Sol получила 78,5%. В отдельном тесте на свежих уязвимостях модель достигла выполнения произвольного кода в 39% случаев против 11,5% у предшественницы и попутно обнаружила две неизвестные 0-day. Информацию о них OpenAI передаёт разработчикам затронутого софта.

Экспертные испытания без публичных ограничений показали, что Astra способна использовать неизвестные уязвимости для выполнения кода в защищённых браузерах и создавать эксплойты для повышения привилегий в современных ОС.

Поэтому публичная версия ограничена безопасным анализом кода и подготовкой исправлений. Запросы на создание PoC-эксплойтов она будет отклонять. Расширенный доступ для проверки уязвимостей, анализа вредоносных программ и разработки средств обнаружения OpenAI планирует выдавать защитникам через программу Daybreak.

Компания также усилила защиту от джейлбрейка и внедрила мониторинг действий модели. Проверки могут останавливать даже легитимные задачи по кибербезопасности и требовать подтверждения пользователя.

Сейчас Astra получают отдельные организации. Затем модель появится у подписчиков ChatGPT Plus, Pro, Business и Enterprise, а также в API, Microsoft Azure и AWS Bedrock.

Параллельно OpenAI пообещала направить $1 млрд на предоставление передовых ИИ-инструментов энергетикам, банкам, водоканалам, госорганам и разработчикам open source.

RSS: Новости на портале Anti-Malware.ru