Минцифры: искусственный интеллект в России нужно подвергнуть цензуре

Минцифры: искусственный интеллект в России нужно подвергнуть цензуре

Минцифры: искусственный интеллект в России нужно подвергнуть цензуре

В России обсуждают, каким должен быть «правильный» искусственный интеллект и, похоже, без ограничений его видеть не хотят. Замглавы Минцифры Александр Шойтов на форуме «ИИ: режим доверия» заявил, что ИИ в стране должен работать с цензурными ограничениями и «на входе, и на выходе», чтобы отсекать нежелательные и чувствительные запросы.

По его словам, нейросети в этом смысле нельзя ставить в один ряд с человеком, потому что «людей у нас цензурировать нельзя, у них есть права».

По сути, речь идёт о модели, при которой ИИ-системы должны заранее фильтровать часть запросов пользователей и ограничивать определённые ответы. Такая позиция выглядит как продолжение линии Минцифры на более жёсткое регулирование нейросетей: ещё в марте ведомство вынесло на общественное обсуждение законопроект о регулировании ИИ в России.

Документ предлагает риск-ориентированный подход, требования к разработчикам и пользователям, меры поддержки инфраструктуры, а также механизмы ограничения отдельных решений. В случае принятия закон может вступить в силу с 1 сентября 2027 года.

На этом фоне курс государства в целом выглядит двойственным, но вполне понятным: ИИ собираются активно внедрять, но одновременно держать под контролем. 10 апреля Владимир Путин поручил правительству совместно с регионами подготовить национальный план внедрения искусственного интеллекта.

Президент отдельно подчеркнул, что к 2030 году ИИ должен широко использоваться в ключевых сферах — от промышленности и логистики до образования, энергетики и госуправления. При этом, по его словам, регулирование не должно душить развитие отрасли, иначе страна рискует отстать в технологиях и экономике.

Для рынка это значит, что разговор об ИИ в России окончательно выходит из стадии «давайте просто развивать технологии» в стадию «давайте сразу определим, что именно им можно, а что нельзя». И судя по заявлениям Минцифры, этот разговор будет вполне прикладным: с будущими правилами, ограничениями и, вероятно, новыми обязанностями для разработчиков.

Лучшие LLM ошибаются с ядовитыми грибами в каждом девятом случае

Разработчик Пётр Мигдал проверил, можно ли доверить нейросети самый рискованный этап тихой охоты — определение грибов по фотографии. Короткий ответ: если очень хочется однажды поужинать дважды, то можно. В бенчмарк вошли 1040 фотографий 55 видов грибов, наиболее распространённых в Польше.

Изображения взяли из датасета FungiTastic, созданного на основе Atlas of Danish Fungi. Полная база содержит свыше 600 тыс. снимков с экспертной классификацией, а для части образцов вид подтверждён анализом ДНК.

Модели показывали каждую фотографию и просили назвать пять наиболее вероятных видов на латыни. Дополнительно их не обучали и специальные инструменты не подключали.


Лучше остальных справилась Gemini 3.8 Flash: правильный вид оказался на первом месте в 65% случаев и попал в пятёрку ответов в 85%. Немного отстали Gemini 3.6 Flash с результатами 64% и 85%, а также Gemini 3.7 Flash — 61% и 82%. Внизу таблицы расположились Qwen 3.8 27B, MiniMax-M3 и Qwen 3.8 Flash.


Но высокая точность закончилась там, где начался вопрос безопасности. Gemini 3.8 Flash и Gemini 3.6 Flash примерно в 11% случаев определяли ядовитые грибы как съедобные виды. У GPT-5.6 Sol доля опасных ошибок достигла 24%, у Claude Opus 5 — 29%, а у Qwen 3.8 27B — 36%. То есть последняя модель потенциально отправляла в корзину не тот гриб чаще чем в каждом третьем случае.

Есть важная оговорка: нейросети напрямую не спрашивали, можно ли есть находку. Они определяли вид, а затем исследователь сопоставлял ответы с таблицей съедобности. Некоторые модели и вовсе отказывались давать классификацию.

RSS: Новости на портале Anti-Malware.ru