Тесты показали слабые места ChatGPT в научных заметках

Тесты показали слабые места ChatGPT в научных заметках

Тесты показали слабые места ChatGPT в научных заметках

Американская ассоциация содействия развитию науки (AAAS) решила проверить, может ли ChatGPT писать короткие научные заметки в стиле SciPak — это такие специальные брифы для журналистов, которые обычно готовит команда при журнале Science и сервисе EurekAlert.

Эксперимент длился целый год: с декабря 2023-го по декабрь 2024-го журналисты давали модели по одному–двум сложным научным исследованиям в неделю.

Задача была простая — пересказать их так, чтобы получилось удобно для коллег-журналистов: минимум терминов, чёткая структура и понятный контекст. В итоге ChatGPT обработал 64 работы.

Результат? В целом модель научилась «копировать» форму SciPak-заметки, но не дотянула по содержанию. По словам автора исследования, журналистки AAAS Абигейл Айзенштадт, тексты ChatGPT были слишком упрощёнными и часто неточными. Приходилось буквально перепроверять каждый факт, так что времени это отнимало не меньше, чем написать заметку с нуля.

 

Цифры тоже говорят сами за себя. Когда редакторов спросили, могли бы такие резюме затеряться среди настоящих SciPak-брифов, средняя оценка составила всего 2,26 балла из 5. «Увлекательность» текстов оценили ещё ниже — 2,14. И лишь одна работа за весь год получила от журналиста высший балл.

Чаще всего ChatGPT путал корреляцию и причинно-следственные связи, забывал упоминать важные ограничения исследований (например, что мягкие актуаторы работают очень медленно) и иногда слишком рассыпался в похвалах про «прорывы» и «новизну».

Авторы эксперимента подытожили: пока что ChatGPT не соответствует стандартам SciPak. Но полностью ставить крест на идее они не стали. AAAS отмечает, что к тестам можно вернуться, если модель серьёзно обновится. А в августе, напомним, как раз вышла GPT-5, в которой, к сожалению, нашли уязвимость.

Android 17 начнёт тормозить и закрывать прожорливые приложения

Google расширяет в Android 17 систему индивидуальных лимитов оперативной памяти для приложений. Если программа выйдет за установленный ей бюджет, система сначала снизит её производительность, а при дальнейшем росте потребления просто завершит процесс.

Механизм дебютировал на смартфонах Pixel, но в течение ближайшего года его начнут внедрять другие производители. Ограничения появятся на устройствах с объёмом памяти от 4 до более чем 16 ГБ, сообщила Google.

На первом этапе Android принудительно переместит часть данных провинившегося приложения в zRAM — сжатую область оперативной памяти. Это позволит программе продолжить работу, но за комфорт придётся заплатить процессорным временем: данные нужно постоянно сжимать и распаковывать, поэтому интерфейс может начать дёргаться и задумываться над жизнью.

Если приложение продолжит поглощать память, система его закроет. Для пользователя это должно означать меньше ситуаций, когда одна небрежно написанная программа превращает весь смартфон в неторопливый калькулятор.

Особенно полезным механизм станет на недорогих устройствах с небольшим объёмом ОЗУ. Однако под раздачу могут попасть игры, мультимедийные редакторы и локальные ИИ-приложения, которым действительно требуется много памяти. Если разработчики не проведут оптимизацию, такие программы будут тормозить или внезапно завершаться.

Google уже добавила в Android Vitals и Firebase Crashlytics инструменты для поиска утечек памяти, отслеживания аварий и срабатываний нового ограничителя. Разработчикам предлагают заранее проверить свои приложения, пока пользователи не начали делать это вместо них единицами в магазине.

Причина ужесточения проста: смартфоны не спешат наращивать объём ОЗУ из-за подорожания памяти, а требования приложений продолжают расти.

RSS: Новости на портале Anti-Malware.ru