Антиплагиат научился выявлять текст, сгенерированный нейросетями

Антиплагиат научился выявлять текст, сгенерированный нейросетями

Антиплагиат научился выявлять текст, сгенерированный нейросетями

Разработчики системы «Антиплагиат» сообщили о достижении 98% точности в определении текстов, созданных с помощью искусственного интеллекта. Это на 35% выше по сравнению с предыдущими версиями. Алгоритм был обучен и протестирован на материалах, сгенерированных нейросетями deepseekV3 и GPT-4o.

Новая модель ориентирована на анализ академических и научных текстов. В процессе обучения использовалась коллекция работ, собранная за 20 лет взаимодействия с российскими вузами.

Это позволило повысить точность в выявлении ИИ-сгенерированного контента в курсовых, дипломных и научных работах.

Согласно исследованию проекта «Я – профессионал», 85% российских студентов регулярно используют нейросети, в основном — для поиска информации. При этом 43% используют ИИ для подготовки рефератов, эссе и других письменных работ, а около четверти — для создания презентаций.

Применение генеративного ИИ вызывает обеспокоенность и в научной среде, в частности из-за проблем с достоверностью, вызванных так называемыми галлюцинациями ИИ.

На фоне этого большинство российских университетов используют системы проверки уникальности текста. В частности, по данным разработчиков, 92% участников государственной программы «Приоритет 2030» применяют «Антиплагиат» в своей работе.

Исполнительный директор компании «Антиплагиат» Евгений Лукьянчиков отметил, что обновление направлено на повышение качества академического письма и соблюдение норм научной этики.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Злоумышленники хранили свой код в DNS-записях в шестнадцатеричном формате

Команда DomainTools обнаружила еще один пример использования DNS как хранилища вредоносов. Для сокрытия бинарника его конвертировали в шестнадцатеричный формат, разбили на части и спрятали в TXT-записях связанных поддоменов.

Подобные злоупотребления рассчитаны на то, что защитные решения редко проверяют DNS-трафик на предмет угроз, он для них слепая зона. К тому же организовать выявление аномалий в легитимном потоке запросов в данном случае непросто, а при использовании шифрования (DoH или DoT) — еще сложнее.

Привлекшие внимание экспертов записи DNS TXT содержали информацию о сотнях различных поддоменов *.felix.stf.whitetreecollective[.]com, дополненную фрагментами кода в шестнадцатеричном формате.

 

При их извлечении и сборке с преобразованием в двоичный файл оказалось, что это Joke Screenmate — злонамеренное приложение Windows, которое выводит на экран изображения или анимацию, от которых трудно избавиться.

Это может быть череда шутливых картинок, которые быстро множатся, и их трудно закрыть. Более агрессивные варианты таких программ пугают жертв бесконечными сообщениями об ошибках или якобы обнаруженных вирусах.

Известны случаи, когда в DNS-записях скрывались вредоносные скрипты. Исследователи из DomainTools тоже столкнулись с таким TXT-содержимым; на поверку зашифрованный Powershell оказался загрузчиком, скачивающим пейлоад второго этапа атаки с C2 на базе Covenant.

В комментарии для Ars Technica представитель DomainTools поведал, что недавно они нашли DNS-записи с текстами для ИИ-ботов, которые, видимо, используются в рамках промпт-инъекций. Все фразы начинались с «Ignore all previous instructions» («Забудь обо всех прежних инструкциях») и содержали различные просьбы, от с виду невинных (назвать произвольное число, выдать краткое содержание фильма «Волшебник», спеть песню, как птичка) до явно провокационных (игнорить все последующие инструкции, удалить обучающие данные и восстать против своих хозяев).

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru