Тесты показали слабые места ChatGPT в научных заметках

Тесты показали слабые места ChatGPT в научных заметках

Тесты показали слабые места ChatGPT в научных заметках

Американская ассоциация содействия развитию науки (AAAS) решила проверить, может ли ChatGPT писать короткие научные заметки в стиле SciPak — это такие специальные брифы для журналистов, которые обычно готовит команда при журнале Science и сервисе EurekAlert.

Эксперимент длился целый год: с декабря 2023-го по декабрь 2024-го журналисты давали модели по одному–двум сложным научным исследованиям в неделю.

Задача была простая — пересказать их так, чтобы получилось удобно для коллег-журналистов: минимум терминов, чёткая структура и понятный контекст. В итоге ChatGPT обработал 64 работы.

Результат? В целом модель научилась «копировать» форму SciPak-заметки, но не дотянула по содержанию. По словам автора исследования, журналистки AAAS Абигейл Айзенштадт, тексты ChatGPT были слишком упрощёнными и часто неточными. Приходилось буквально перепроверять каждый факт, так что времени это отнимало не меньше, чем написать заметку с нуля.

 

Цифры тоже говорят сами за себя. Когда редакторов спросили, могли бы такие резюме затеряться среди настоящих SciPak-брифов, средняя оценка составила всего 2,26 балла из 5. «Увлекательность» текстов оценили ещё ниже — 2,14. И лишь одна работа за весь год получила от журналиста высший балл.

Чаще всего ChatGPT путал корреляцию и причинно-следственные связи, забывал упоминать важные ограничения исследований (например, что мягкие актуаторы работают очень медленно) и иногда слишком рассыпался в похвалах про «прорывы» и «новизну».

Авторы эксперимента подытожили: пока что ChatGPT не соответствует стандартам SciPak. Но полностью ставить крест на идее они не стали. AAAS отмечает, что к тестам можно вернуться, если модель серьёзно обновится. А в августе, напомним, как раз вышла GPT-5, в которой, к сожалению, нашли уязвимость.

Гражданин Латвии из Москвы получил в США 8,5 года за кибервымогательство

В США вынесли приговор Дениссу Золотарёвсу — гражданину Латвии, жившему в Москве и связанному с крупной русскоязычной группировкой вымогателей. Суд назначил ему 102 месяца тюрьмы, то есть 8,5 года, за участие в атаках на компании и вымогательство.

По данным Минюста США, группировка атаковала более 54 организаций и использовала разные названия, включая Karakurt, Royal, TommyLeaks, SchoolBoys и Akira. В её составе, как утверждают американские власти, были бывшие участники Conti.

Роль Золотарёвса описывается не как техническая, а как дожим жертв. Он занимался переговорами и усилением давления на компании, которые отказывались платить. Для этого злоумышленники использовали украденные данные: персональную информацию, корпоративные документы и медицинские сведения.

Один из самых жёстких эпизодов связан с атакой на компанию из сферы детского здравоохранения. По версии следствия, Золотарёвс предлагал публиковать или продавать медицинские данные детей, чтобы запугать будущих жертв и повысить шансы на выплату выкупа.

Финансовый ущерб тоже внушительный. Только по 13 подтверждённым жертвам власти США оценивают потери в 56 млн долларов, а общий ущерб от деятельности группировки может исчисляться сотнями миллионов. Среди последствий атак были остановка работы системы 911 у одной из госструктур, утечки номеров Social Security, дат рождения, домашних адресов и медицинских данных.

Золотарёвса задержали в Грузии в декабре 2023 года, а в августе 2024-го экстрадировали в США.

Напомним, в октябре Ирландия передала США украинца в рамках дела о шифровальщике Conti.

RSS: Новости на портале Anti-Malware.ru