На The Standoff расскажут об уязвимостях машинного обучения

На The Standoff расскажут об уязвимостях машинного обучения

На The Standoff расскажут об уязвимостях машинного обучения

Все меньше времени остается до The Standoff — уникального глобального события в мире информационной безопасности. Мы вносим последние штрихи в инфраструктуру киберполигона, заканчиваем формирование red и blue teams и готовим программу конференции, которая станет важной частью мероприятия. Сегодня мы представляем первых докладчиков, чьи выступления уже включены в дискуссионную часть The Standoff. Итак, вот о чем они расскажут аудитории.

Уязвимости инфраструктуры машинного обучения

Бум искусственного интеллекта (ИИ) привел к появлению на рынке впечатляющих аппаратных и программных решений. В то же время массовое применение ИИ создает проблемы в разных областях, особенно в ИБ.

Сергей Гордейчик, признанный эксперт по информационной безопасности, расскажет о результатах практического исследования уязвимостей различных компонентов инфраструктуры ИИ, включая серверы NVIDIA DGX GPU, фреймворки машинного обучения PyTorch, Keras и TensorFlow, конвейеры потоковой обработки данных и специальные приложения, в частности медицинскую визуализацию и скрытые камеры с функцией распознавания лиц. Также будет представлен обновленный инструмент Grinder Framework для проведения масштабных исследований интернет-угроз.

Red teaming: уникальные способы перемещения внутри периметра

Лоуренс Эмер, исследователь уязвимостей компании DarkLab (PwC), за свою карьеру находил уязвимости среднего и высокого уровня опасности в продуктах Adobe, Carbon Black, CrowdStrike, eBay, Facebook, Microsoft, Sony, Yahoo. В ходе The Standoff Лоуренс расскажет о способах перемещения внутри периметра, о том, как злоумышленник достигает цели до того, как его обнаружат радары. Слушатели также узнают о фреймворках и инструментах «красных команд».

Как взломать приложение медицинской визуализации с помощью уязвимостей DICOM

Разработчик из компании BI.ZONE Мария Недяк познакомит слушателей с DICOM — это одна из ключевых технологий медицинской визуализации наряду с машинным обучением.

Мария проанализировала безопасность популярных серверов, протоколов и библиотек DICOM, используемых в системах медицинской визуализации. В ходе выступления она расскажет о наиболее интересных уязвимостях в экосистеме DICOM, продемонстрирует, как просто на самом деле можно обнаружить критически опасные уязвимости, и объяснит, как их быстро устранить.

SailfishOS: цифровые артефакты

Красимир Цветанов, эксперт по информационной безопасности, научный ассистент Университета Пёрдью, расскажет о SailfishOS — операционной системе для устройств на базе ядра Linux, которая используется в основном в мобильных телефонах. SailfishOS стремительно набирает популярность в России, Индии и Китае, где ее используют государственные органы и крупнейшие компании, например Huawei. Несмотря на это, защищенность операционной системы пока недостаточно исследована, и, судя по всему, с проблемами безопасности специалистам придется столкнуться в полевых условиях.

Докладчик продемонстрирует цифровые артефакты, которые могут быть использованы при расследовании инцидентов и которые находятся в файловой системе телефона под управлением SailfishOS версии 3.2. К важным артефактам в том числе относятся журналы вызовов, текстовые сообщения, службы определения местоположения, адресные книги.

Безопасность режима чтения в браузере Safari

Многим наверняка знакомо чувство раздражения, которое возникает при попытках прочитать увлекательную статью в интернете, сопровождающихся отключением рекламных баннеров и закрытием пикантных картинок. Чтобы покончить с этой досадной проблемой, производители добавили в браузер режим чтения.

Никхил Миттал, консультант по информационной безопасности из Payatu Software Labs в докладе «Как я испытывал на прочность режим чтения в браузере Safari» расскажет об основных недостатках этого режима, нарушающих политику безопасности.

Для участия в The StandOff достаточно подключиться к платформе, а также подать доклад в программу или зарегистрировать blue или red team.

Каждая пятая утечка уже связана с теневым использованием ИИ

Сотрудники всё чаще отправляют рабочие данные в нейросети быстрее, чем службы ИБ успевают понять, что вообще происходит. По данным «Информзащиты», в июле 2026 года уже 20% организаций, столкнувшихся с утечками, хотя бы частично связали инциденты с несанкционированным использованием ИИ. Годом ранее таких случаев было около 12%.

И это не безобидное попросил чат-бота поправить письмо. В публичные ИИ-сервисы загружают договоры, исходный код, внутреннюю переписку, клиентские обращения и техническую документацию.

На веб-интерфейсы нейросетей приходится около 42% подобных инцидентов. Ещё 24% утечек связаны с браузерными расширениями и ИИ-помощниками.

Они получают доступ к вкладкам, истории сессий и cookie, а потом тихо делают то, на что им когда-то нажали «Разрешить». Самостоятельно подключённые API и библиотеки дают ещё 19%, инструменты для программирования — 15%.

Проблема в том, что классические средства защиты часто не видят ничего подозрительного. Домен легитимный, TLS работает, вредоносной сигнатуры нет. Только конфиденциальный документ уже уехал во внешний сервис.

Почти у трети компаний, использующих ИИ, находят хотя бы один API-ключ или секрет в небезопасном месте: конфигурациях, тестовых скриптах, рабочих станциях и Git-репозиториях. Получив такой ключ, атакующий может не только потратить чужой бюджет, но и добраться до подключённых баз данных и RAG-хранилищ.

Дороже всего здесь обходится позднее обнаружение. Инциденты с теневым ИИ в среднем увеличивают ущерб примерно на $670 тыс.

Эксперты советуют начинать не с тотальных запретов, а с инвентаризации сервисов, поиска ключей, контроля расширений и классификации данных. Потому что запретить ChatGPT приказом легко. Гораздо сложнее заметить, что сотрудник уже загрузил туда половину проекта.

RSS: Новости на портале Anti-Malware.ru