Тесты показали слабые места ChatGPT в научных заметках

Тесты показали слабые места ChatGPT в научных заметках

Тесты показали слабые места ChatGPT в научных заметках

Американская ассоциация содействия развитию науки (AAAS) решила проверить, может ли ChatGPT писать короткие научные заметки в стиле SciPak — это такие специальные брифы для журналистов, которые обычно готовит команда при журнале Science и сервисе EurekAlert.

Эксперимент длился целый год: с декабря 2023-го по декабрь 2024-го журналисты давали модели по одному–двум сложным научным исследованиям в неделю.

Задача была простая — пересказать их так, чтобы получилось удобно для коллег-журналистов: минимум терминов, чёткая структура и понятный контекст. В итоге ChatGPT обработал 64 работы.

Результат? В целом модель научилась «копировать» форму SciPak-заметки, но не дотянула по содержанию. По словам автора исследования, журналистки AAAS Абигейл Айзенштадт, тексты ChatGPT были слишком упрощёнными и часто неточными. Приходилось буквально перепроверять каждый факт, так что времени это отнимало не меньше, чем написать заметку с нуля.

 

Цифры тоже говорят сами за себя. Когда редакторов спросили, могли бы такие резюме затеряться среди настоящих SciPak-брифов, средняя оценка составила всего 2,26 балла из 5. «Увлекательность» текстов оценили ещё ниже — 2,14. И лишь одна работа за весь год получила от журналиста высший балл.

Чаще всего ChatGPT путал корреляцию и причинно-следственные связи, забывал упоминать важные ограничения исследований (например, что мягкие актуаторы работают очень медленно) и иногда слишком рассыпался в похвалах про «прорывы» и «новизну».

Авторы эксперимента подытожили: пока что ChatGPT не соответствует стандартам SciPak. Но полностью ставить крест на идее они не стали. AAAS отмечает, что к тестам можно вернуться, если модель серьёзно обновится. А в августе, напомним, как раз вышла GPT-5, в которой, к сожалению, нашли уязвимость.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Microsoft: новая версия XCSSET для macOS ворует крипту и данные браузеров

Специалисты Microsoft Threat Intelligence сообщили о появлении новой модификации вредоносной программы XCSSET, которая пока замечена только в ограниченных атаках, но уже обзавелась свежим набором фишек.

Напомним, XCSSET — это модульный троян для macOS, который ворует заметки, данные браузеров и криптокошельков, а ещё умеет подменять Xcode-проекты.

То есть заражённый проект, если его открыть и собрать, сам запускает вредоносный код. Такой трюк опасен тем, что разработчики часто делятся проектами между собой, и вредонос может распространяться почти «незаметно».

Что изменилось в новой версии:

  • теперь XCSSET умеет тянуть данные из Firefox — для этого он ставит модифицированную сборку утилиты HackBrowserData, которая расшифровывает и выгружает данные;
  • обновлён компонент для перехвата буфера обмена: зловред отслеживает, когда пользователь копирует криптоадрес, и подменяет его на свой — в итоге переводы улетают напрямую злоумышленникам;
  • появились новые механизмы закрепления в системе: например, создание записей LaunchDaemon и подмена системных приложений (фейковая System Settings.app в /tmp).

Пока атаки носят точечный характер, но Microsoft уже поделилась находками с Apple и GitHub, чтобы те помогли ограничить распространение.

Что делать разработчикам и пользователям:

  • держать macOS и приложения в актуальном состоянии — ранее XCSSET уже использовал даже 0-day уязвимости;
  • всегда внимательно проверять Xcode-проекты перед сборкой, особенно если они пришли от коллег или сторонних источников.
AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru