Антиплагиат научился выявлять текст, сгенерированный нейросетями

Антиплагиат научился выявлять текст, сгенерированный нейросетями

Антиплагиат научился выявлять текст, сгенерированный нейросетями

Разработчики системы «Антиплагиат» сообщили о достижении 98% точности в определении текстов, созданных с помощью искусственного интеллекта. Это на 35% выше по сравнению с предыдущими версиями. Алгоритм был обучен и протестирован на материалах, сгенерированных нейросетями deepseekV3 и GPT-4o.

Новая модель ориентирована на анализ академических и научных текстов. В процессе обучения использовалась коллекция работ, собранная за 20 лет взаимодействия с российскими вузами.

Это позволило повысить точность в выявлении ИИ-сгенерированного контента в курсовых, дипломных и научных работах.

Согласно исследованию проекта «Я – профессионал», 85% российских студентов регулярно используют нейросети, в основном — для поиска информации. При этом 43% используют ИИ для подготовки рефератов, эссе и других письменных работ, а около четверти — для создания презентаций.

Применение генеративного ИИ вызывает обеспокоенность и в научной среде, в частности из-за проблем с достоверностью, вызванных так называемыми галлюцинациями ИИ.

На фоне этого большинство российских университетов используют системы проверки уникальности текста. В частности, по данным разработчиков, 92% участников государственной программы «Приоритет 2030» применяют «Антиплагиат» в своей работе.

Исполнительный директор компании «Антиплагиат» Евгений Лукьянчиков отметил, что обновление направлено на повышение качества академического письма и соблюдение норм научной этики.

WordPress поставил ИИ на охрану плагинов, опасные релизы заблокируют

WordPress запустил автоматическую проверку безопасности каждого нового релиза плагинов. Версии с высоким уровнем риска будут блокироваться до того, как попадут в API обновлений WordPress.org и начнут устанавливаться на сайты.

С 5 июня релизы плагинов и тем уже выдерживают шестичасовую паузу перед распространением.

Теперь в это окно несколько ИИ-моделей и Jetpack Scan анализируют внесённые изменения, сверяют результаты и формируют список находок с итоговой оценкой риска.

Если оценка окажется высокой, выпуск остановят автоматически, а все разработчики с правом публикации получат письмо с объяснением причин. Остальные обновления продолжат движение в обычном режиме.

Высокий балл не означает, что автора уже пора объявлять киберпреступником. Система оценивает опасность кода, а не намерения разработчика: одинаковую реакцию могут вызвать намеренно добавленный бэкдор и случайная критическая уязвимость.

Необходимость автоматического стоп-крана показал инцидент 28 июля. Проверка обнаружила бэкдор в новой версии плагина примерно с 20 тысячами активных установок. Релиз ещё находился в шестичасовом карантине и не успел попасть в API обновлений. После уведомления от Wordfence команда закрыла плагин для скачивания за 26 минут.

Теперь ждать свободного сотрудника не потребуется: потенциально опасная сборка остановится сразу после анализа. Чтобы снять блокировку, автору предлагают изучить отчёт, исправить проблемы и опубликовать новую версию.

Если её оценка окажется ниже порога, релиз снова пройдёт стандартную процедуру. Спорные результаты можно обжаловать, но WordPress предупреждает: выпустить исправление обычно быстрее, чем ждать ручного разбора.

Команда продолжит настраивать систему и снижать число ложных срабатываний. Подробности опубликованы в официальном блоге WordPress.

RSS: Новости на портале Anti-Malware.ru