Тесты показали слабые места ChatGPT в научных заметках

Тесты показали слабые места ChatGPT в научных заметках

Тесты показали слабые места ChatGPT в научных заметках

Американская ассоциация содействия развитию науки (AAAS) решила проверить, может ли ChatGPT писать короткие научные заметки в стиле SciPak — это такие специальные брифы для журналистов, которые обычно готовит команда при журнале Science и сервисе EurekAlert.

Эксперимент длился целый год: с декабря 2023-го по декабрь 2024-го журналисты давали модели по одному–двум сложным научным исследованиям в неделю.

Задача была простая — пересказать их так, чтобы получилось удобно для коллег-журналистов: минимум терминов, чёткая структура и понятный контекст. В итоге ChatGPT обработал 64 работы.

Результат? В целом модель научилась «копировать» форму SciPak-заметки, но не дотянула по содержанию. По словам автора исследования, журналистки AAAS Абигейл Айзенштадт, тексты ChatGPT были слишком упрощёнными и часто неточными. Приходилось буквально перепроверять каждый факт, так что времени это отнимало не меньше, чем написать заметку с нуля.

 

Цифры тоже говорят сами за себя. Когда редакторов спросили, могли бы такие резюме затеряться среди настоящих SciPak-брифов, средняя оценка составила всего 2,26 балла из 5. «Увлекательность» текстов оценили ещё ниже — 2,14. И лишь одна работа за весь год получила от журналиста высший балл.

Чаще всего ChatGPT путал корреляцию и причинно-следственные связи, забывал упоминать важные ограничения исследований (например, что мягкие актуаторы работают очень медленно) и иногда слишком рассыпался в похвалах про «прорывы» и «новизну».

Авторы эксперимента подытожили: пока что ChatGPT не соответствует стандартам SciPak. Но полностью ставить крест на идее они не стали. AAAS отмечает, что к тестам можно вернуться, если модель серьёзно обновится. А в августе, напомним, как раз вышла GPT-5, в которой, к сожалению, нашли уязвимость.

VK подала в суд на Apple и потребовала вернуть приложения в App Store

VK решила вернуть свои приложения в App Store не очередным письмом в поддержку, а через Арбитражный суд Москвы. Компания требует восстановить сервисы в магазине, снова включить доставку уведомлений пользователям и назначить Apple неустойку на случай неисполнения решения.

Иск ООО «ВК» зарегистрирован 19 августа, следует из картотеки арбитражных дел.

Ответчиками указаны сразу три структуры: американская Apple Inc., ирландская Apple Distribution International Ltd. и российское ООО «Эппл рус». Пока дело находится в первой инстанции, а подробное обоснование требований публично не раскрыто.

Поводом стало исчезновение сервисов VK из App Store. Apple удалила «ВКонтакте», «Одноклассники», «VK Музыку», «VK Видео», «VK Мессенджер», «Дзен», почту и «Облако Mail», Skillbox, «Юлу» и другие приложения.

Новые пользователи лишились возможности их скачивать, а уже установленные версии — нормально обновляться.

Согласно заявлению VK, Apple провела зачистку без предварительного предупреждения. Американская корпорация объяснила решение санкционными требованиями, однако VK утверждает, что сама компания под санкциями не находится и в соответствующих списках не фигурирует.

Претензии к Apple появились и у российских ведомств. Минцифры обвинило корпорацию в игнорировании социальных функций удалённых сервисов и обратилось в ФАС.

Позднее антимонопольная служба выдала Apple предупреждение из-за условий для российских поисковиков и требований о предустановке отечественных приложений.

Напомним, в этом месяце стало известно, что около половины россиян готовы вычеркнуть iPhone из списка покупок из-за удаления отечественных приложений из App Store.

RSS: Новости на портале Anti-Malware.ru