Тесты показали слабые места ChatGPT в научных заметках

Тесты показали слабые места ChatGPT в научных заметках

Тесты показали слабые места ChatGPT в научных заметках

Американская ассоциация содействия развитию науки (AAAS) решила проверить, может ли ChatGPT писать короткие научные заметки в стиле SciPak — это такие специальные брифы для журналистов, которые обычно готовит команда при журнале Science и сервисе EurekAlert.

Эксперимент длился целый год: с декабря 2023-го по декабрь 2024-го журналисты давали модели по одному–двум сложным научным исследованиям в неделю.

Задача была простая — пересказать их так, чтобы получилось удобно для коллег-журналистов: минимум терминов, чёткая структура и понятный контекст. В итоге ChatGPT обработал 64 работы.

Результат? В целом модель научилась «копировать» форму SciPak-заметки, но не дотянула по содержанию. По словам автора исследования, журналистки AAAS Абигейл Айзенштадт, тексты ChatGPT были слишком упрощёнными и часто неточными. Приходилось буквально перепроверять каждый факт, так что времени это отнимало не меньше, чем написать заметку с нуля.

 

Цифры тоже говорят сами за себя. Когда редакторов спросили, могли бы такие резюме затеряться среди настоящих SciPak-брифов, средняя оценка составила всего 2,26 балла из 5. «Увлекательность» текстов оценили ещё ниже — 2,14. И лишь одна работа за весь год получила от журналиста высший балл.

Чаще всего ChatGPT путал корреляцию и причинно-следственные связи, забывал упоминать важные ограничения исследований (например, что мягкие актуаторы работают очень медленно) и иногда слишком рассыпался в похвалах про «прорывы» и «новизну».

Авторы эксперимента подытожили: пока что ChatGPT не соответствует стандартам SciPak. Но полностью ставить крест на идее они не стали. AAAS отмечает, что к тестам можно вернуться, если модель серьёзно обновится. А в августе, напомним, как раз вышла GPT-5, в которой, к сожалению, нашли уязвимость.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Как мошенники атакуют жителей новых регионов

Основные темы, которые используют мошенники для атак на жителей новых регионов (ДНР, ЛНР, Запорожская и Херсонская области), связаны с доставкой воды, оформлением и обменом документов, а также банковскими счетами. Подобные сервисы чаще всего имитируют фишинговые сайты, цель которых — сбор персональных данных, включая номера паспортов.

Как сообщили «Известиям» в центре мониторинга внешних цифровых угроз Solar AURA группы компаний «Солар», такие данные злоумышленники впоследствии продают или используют для кражи денежных средств.

Специалисты Solar AURA также выявили фишинговый ресурс, маскировавшийся под сервис передачи показаний и оплаты услуг ЖКХ. Для работы он требовал подключения к Telegram-боту и предоставления широкого набора данных, включая паспортные сведения, ИНН и СНИЛС. По словам Александра Вураско, в результате к мошенникам попадали и все совершаемые платежи.

Кроме того, жители новых регионов отмечают, что злоумышленники активно пользуются локальными особенностями — в некоторых регионах работает лишь один оператор связи и один банк. При этом оформление или переоформление документов требует доступа к федеральным сервисам, с которыми многие местные жители пока не знакомы. Это создает дополнительную почву для атак: мошенники звонят, предлагая «помощь» в регистрации, и выманивают личные данные или перенаправляют людей на поддельные сайты.

Распространены и другие схемы. Так, Роспотребнадзор ДНР предупредил, что неизвестные лица представляются его сотрудниками и убеждают граждан в необходимости оформления банковских карт или передачи денежных средств «курьеру для выпуска новой карты».

«При телефонном мошенничестве злоумышленники чаще всего представляются сотрудниками российских банков и сообщают потенциальной жертве о якобы несанкционированных списаниях или необходимости блокировки карты. Втеревшись в доверие, они запрашивают данные карты или смс-код, поступивший на телефон владельца. После этого происходит списание средств со счёта», — пояснили в прокуратуре ДНР.

«Мошенники используют любые методы, играя на страхах и доверчивости людей. Это ещё раз подчёркивает, насколько важно оставаться бдительными: получать информацию только из официальных источников и не доверять сомнительным сайтам», — добавил Александр Вураско.

Первый заместитель председателя комитета Совета Федерации по конституционному законодательству и госстроительству Артём Шейкин отметил, что телефонные мошенники активно эксплуатируют чувствительные для жителей новых регионов темы: перебои с водоснабжением, оформление документов, услуги связи и банковские вопросы. По его словам, действия злоумышленников становятся не только способом хищения денег, но и инструментом давления и подрыва доверия к государственным структурам.

Управляющий партнёр аналитического агентства «ВМТ Консалт» Екатерина Косарева подчеркнула, что злоумышленники используют как специфические для новых регионов, так и общие для всей России триггеры. В качестве примера она привела навязывание «чудодейственных» медицинских средств сомнительного происхождения, которые продаются по завышенной цене под видом лекарств. Также широко применяются схемы, связанные с услугами связи, ремонтом электросетей, водопровода и банковскими продуктами.

По словам Косаревой, распространены мошеннические схемы с «открытием» карт российских банков, где конечная цель — получение смс-кодов. Часто встречается и схема с «оплатой пошлин» при перегоне автомобилей с пробегом, к которой особенно уязвимы жители новых территорий.

«Необходимо наладить эффективный мониторинг и оперативное блокирование фишинговых ресурсов, — подчеркнул Артём Шейкин. — Также важно развивать адресные программы цифровой грамотности, специально адаптированные для жителей новых регионов».

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru