Тесты показали слабые места ChatGPT в научных заметках

Тесты показали слабые места ChatGPT в научных заметках

Тесты показали слабые места ChatGPT в научных заметках

Американская ассоциация содействия развитию науки (AAAS) решила проверить, может ли ChatGPT писать короткие научные заметки в стиле SciPak — это такие специальные брифы для журналистов, которые обычно готовит команда при журнале Science и сервисе EurekAlert.

Эксперимент длился целый год: с декабря 2023-го по декабрь 2024-го журналисты давали модели по одному–двум сложным научным исследованиям в неделю.

Задача была простая — пересказать их так, чтобы получилось удобно для коллег-журналистов: минимум терминов, чёткая структура и понятный контекст. В итоге ChatGPT обработал 64 работы.

Результат? В целом модель научилась «копировать» форму SciPak-заметки, но не дотянула по содержанию. По словам автора исследования, журналистки AAAS Абигейл Айзенштадт, тексты ChatGPT были слишком упрощёнными и часто неточными. Приходилось буквально перепроверять каждый факт, так что времени это отнимало не меньше, чем написать заметку с нуля.

 

Цифры тоже говорят сами за себя. Когда редакторов спросили, могли бы такие резюме затеряться среди настоящих SciPak-брифов, средняя оценка составила всего 2,26 балла из 5. «Увлекательность» текстов оценили ещё ниже — 2,14. И лишь одна работа за весь год получила от журналиста высший балл.

Чаще всего ChatGPT путал корреляцию и причинно-следственные связи, забывал упоминать важные ограничения исследований (например, что мягкие актуаторы работают очень медленно) и иногда слишком рассыпался в похвалах про «прорывы» и «новизну».

Авторы эксперимента подытожили: пока что ChatGPT не соответствует стандартам SciPak. Но полностью ставить крест на идее они не стали. AAAS отмечает, что к тестам можно вернуться, если модель серьёзно обновится. А в августе, напомним, как раз вышла GPT-5, в которой, к сожалению, нашли уязвимость.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Мошенники начали использовать боты, имитирующие сервисы банков

Киберпреступники начали использовать ботов, маскирующихся под сервисы банков, для кражи средств со счетов. Такая схема позволяет злоумышленникам получать полный контроль над аккаунтом жертвы. Они создают бота, внешне имитирующего официальный сервис банка, и заманивают пользователей в диалог с ним.

О новой технике сообщил ТАСС член комитета Госдумы по информационной политике, информационным технологиям и связи, федеральный координатор проекта «Цифровая Россия» Антон Немкин.

Чаще всего жертв привлекают через рекламу или персонализированные сообщения в мессенджерах и соцсетях, преимущественно зарубежных. Знакомый логотип и привычный интерфейс снижают бдительность, и люди по привычке вводят свои учётные данные, включая коды для двухфакторной аутентификации (из СМС или push-уведомлений). После этого доступ к личному кабинету получает злоумышленник, который сразу же выводит средства со счёта.

По словам Антона Немкина, полученные данные преступники используют как для ручного входа в онлайн-банк, так и с помощью автоматизированных средств. Иногда боты перенаправляют пользователя на поддельные страницы подтверждения или применяют другие методы обхода двухфакторной защиты.

Чтобы не стать жертвой такой схемы, парламентарий советует никогда не вводить данные для входа в онлайн-банк в сторонних ботах или по ссылкам от незнакомых лиц. Все операции следует проводить только через официальные приложения и сервисы банков.

«Если вы уже ввели данные, действуйте немедленно: заблокируйте карту и доступ в приложение через официальный контакт-центр банка, смените пароли, отключите все сторонние привязки и авторизации, проверьте историю операций. Сохраните скриншоты переписки или рекламы как доказательства и обратитесь в полицию и службу безопасности банка», — порекомендовал Антон Немкин.

Для противодействия подобной практике, по его мнению, необходимо ужесточить контроль за рекламой мошеннических сервисов, усилить требования к верификации рекламодателей и расширить ответственность агрегаторов и мессенджеров за распространение фишинговых ботов.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru