Тесты показали слабые места ChatGPT в научных заметках

Тесты показали слабые места ChatGPT в научных заметках

Тесты показали слабые места ChatGPT в научных заметках

Американская ассоциация содействия развитию науки (AAAS) решила проверить, может ли ChatGPT писать короткие научные заметки в стиле SciPak — это такие специальные брифы для журналистов, которые обычно готовит команда при журнале Science и сервисе EurekAlert.

Эксперимент длился целый год: с декабря 2023-го по декабрь 2024-го журналисты давали модели по одному–двум сложным научным исследованиям в неделю.

Задача была простая — пересказать их так, чтобы получилось удобно для коллег-журналистов: минимум терминов, чёткая структура и понятный контекст. В итоге ChatGPT обработал 64 работы.

Результат? В целом модель научилась «копировать» форму SciPak-заметки, но не дотянула по содержанию. По словам автора исследования, журналистки AAAS Абигейл Айзенштадт, тексты ChatGPT были слишком упрощёнными и часто неточными. Приходилось буквально перепроверять каждый факт, так что времени это отнимало не меньше, чем написать заметку с нуля.

 

Цифры тоже говорят сами за себя. Когда редакторов спросили, могли бы такие резюме затеряться среди настоящих SciPak-брифов, средняя оценка составила всего 2,26 балла из 5. «Увлекательность» текстов оценили ещё ниже — 2,14. И лишь одна работа за весь год получила от журналиста высший балл.

Чаще всего ChatGPT путал корреляцию и причинно-следственные связи, забывал упоминать важные ограничения исследований (например, что мягкие актуаторы работают очень медленно) и иногда слишком рассыпался в похвалах про «прорывы» и «новизну».

Авторы эксперимента подытожили: пока что ChatGPT не соответствует стандартам SciPak. Но полностью ставить крест на идее они не стали. AAAS отмечает, что к тестам можно вернуться, если модель серьёзно обновится. А в августе, напомним, как раз вышла GPT-5, в которой, к сожалению, нашли уязвимость.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Утечки из зарубежных сервисов ускорили импортозамещение в ИИ

До конца года треть российских ИТ-специалистов перейдёт на отечественные инструменты с искусственным интеллектом (ИИ). Главная причина — рост числа утечек данных из зарубежных сервисов. Согласно исследованию Yandex B2B Tech и университета ИТМО, к началу 2026 года 30% российских разработчиков будут использовать отечественные решения.

О тенденции сообщили «Известия» со ссылкой на Yandex B2B Tech. Сейчас доля российских систем составляет 17%, ещё 11% применяются в тестовом режиме и 10% разработчиков планируют перейти на них в ближайшее время.

Среди основных причин перехода на российские ИИ-инструменты называют:

  • участившиеся утечки данных в зарубежных сервисах;
  • ограниченный доступ к иностранным инструментам из России;
  • необходимость технической поддержки;
  • требования корпоративной кибербезопасности.

Как отметил руководитель платформы SourceCraft Дмитрий Иванов, 62% разработчиков в Яндексе регулярно используют SourceCraft Code Assistant для автоматизации повседневных задач. В MWS AI также применяют собственный ассистент Kodify. По словам представителей компании, на российском рынке уже есть достаточно качественные генеративные ИИ-решения, главное преимущество которых — более глубокая поддержка русского языка.

«Отечественные решения доступны напрямую, без обходных схем и риска отключения. Для бизнеса это критично: сбой в работе ИИ-инструмента, встроенного в процессы, может парализовать целое подразделение или компанию. С российскими системами такого не произойдёт — их не отключат из-за санкций, политических решений или изменений в лицензиях», — заявил главный владелец продукта Content AI Антон Хаймовский.

Крупнейший инцидент с утечкой данных произошёл в китайском сервисе Deepseek, где в открытом доступе оказался массив более чем из миллиона строк пользовательской информации. В целом количество взломов аккаунтов в нейросетевых сервисах в начале 2025 года выросло вдвое по сравнению с прошлым годом.

По словам технического директора OSMI IT Дениса Нагаева, утечки из зарубежных платформ стали сигналом для многих компаний о необходимости перехода на локальные решения. Импортозамещение помогает избежать репутационных рисков и позволяет заранее минимизировать угрозы, связанные с использованием ИИ, который во многом остаётся «чёрным ящиком».

«Нет никаких гарантий, что данные в российских нейросетях будут защищены лучше. Утечки возможны везде. Всё зависит от архитектуры системы, того, кто ею управляет, и какие меры защиты применяются», — дополнил Антон Хаймовский.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru