Microsoft открыла программу раннего доступа к ИИ-помощнику Security Copilot

Microsoft открыла программу раннего доступа к ИИ-помощнику Security Copilot

Microsoft открыла программу раннего доступа к ИИ-помощнику Security Copilot

Корпорация Microsoft объявила, что ее ИИ-бот Security Copilot можно опробовать в рамках EAP-программы (Early Access Program, программа раннего доступа). Продукт позволяет ускорить выявление киберугроз и повысить эффективность работы ИБ-служб.

Новый чат-бот, созданный на основе GPT-4, был представлен в марте этого года. Умный помощник обучен на большом массиве данных и терминологии, относящихся к сфере ИБ. Он поддерживает запросы на естественном языке, проводит анализ потенциальных угроз в режиме реального времени и мгновенно составляет отчеты и рекомендации.

В ходе подготовки EAP в инструмент были добавлены новые возможности:

  • интеграция с XDR-платформой Microsoft 365 Defender;
  • привязка к сервису Defender Threat Intelligence, открывающая бесплатный доступ к обработанным и обновляемым данным киберразведки.

В анонсе также сказано, что участники EAP, работающие с MSSP-провайдерами, смогут распространить доступ к среде Security Copilot на своего аутсорсера.

По данным Microsoft, ознакомительная версия ее ИИ-помощника хорошо зарекомендовала себя: экономия времени при выполнении основных операций ИБ-службы может составить до 40%.

Как присоединиться к Security Copilot EAP, можно узнать у торгового представителя Microsoft. Руководство по использованию EAP-версии чат-бота и инструкции по созданию отчетов с помощью ИИ-ассистента, встроенного в Microsoft 365 Defender, опубликованы на сайте компании.

Claude помог хакерам пробраться во внутренний репозиторий OpenAI

Команда белых хакеров превратила загрузку одной картинки на официальном форуме OpenAI в пропуск к корпоративным аккаунтам ChatGPT, Codex и закрытому репозиторию компании. Взлом занял менее трёх суток, а значительную часть работы помог выполнить ИИ.

Как рассказали исследователи HackTron AI, точкой входа стал форум community.openai.com на платформе Discourse.

При загрузке изображений он использовал ImageMagick и библиотеку libheif, в которой обнаружилось переполнение буфера. Специально подготовленный HEIC-файл позволил удалённо выполнить код и получить административный доступ к форуму.

На этом цепочка только разогрелась. Исследователи воспользовались отдельной ошибкой в системе единого входа OpenAI: токены аутентификации форума подходили для ChatGPT и Codex. Среди них оказались токены сотрудников компании.

Через скомпрометированный аккаунт разработчика команда добралась до внутреннего монорепозитория OpenAI на GitHub. Чтобы доказать доступ и не устраивать экскурсию по чужому коду, специалисты создали безопасный тестовый pull request, после чего остановили проверку и сообщили о проблеме.

В роли помощников выступили модели Claude Opus 4.8 и Opus 5. Первая исследовала уязвимость, но споткнулась о защитные механизмы. Более новая версия, по данным HackTron, помогла собрать рабочий эксплойт за несколько часов.

OpenAI устранила уязвимость в своей инфраструктуре примерно через 14 часов после отчёта, ограничила права токенов Community и отозвала затронутые сессии. Discourse отдельно исправила проблему обработки изображений.

За находку OpenAI выплатила исследователям $6500. Скромная сумма для цепочки, которая началась с картинки на форуме, а закончилась pull request во внутреннем репозитории.

RSS: Новости на портале Anti-Malware.ru