Group-IB и РНТ объявляют о партнерстве

Group-IB и РНТ объявляют о партнерстве

Group-IB и РНТ объявляют о партнерстве

Компании РНТ (Российские наукоемкие технологии) один из ведущих поставщиков решений для обеспечения информационной безопасности государственного сектора, и Group-IB, лидер российского рынка исследования киберугроз, подписали соглашение о намерении разработать принципиально новую технологическую платформу для детектирования, анализа и предотвращения компьютерных атак.

Решение будет предназначено для ведомственных и корпоративных центров Государственной системы обнаружения, предупреждения и ликвидации последствий компьютерных атак на информационные ресурсы Российской Федерации (ГосСОПКА), а также службам информационной безопасности компаний и предприятий отраслей с критической информационной инфраструктурой (ФЗ №47571-7).

Эффективное выявление и предотвращение инцидентов будут обеспечивать три программно-аппаратных комплекса. Его сигнатуры, правила и настройки будет ежедневно обновляться с использованием актуальных сведений об активности проправительственных и частных киберпреступных группировок, киберподразделений террористических организаций и хактивистов.

В состав комплекса входит:

  1. Межсетевой экран, предотвращающий и блокирующий опасные сетевые взаимодействия с использованием индикаторов компрометации, адресов центров управления бот-сетями, подозрительных IP-адресах, доменах и других тактических сведениях об угрозах.
  2. Система детектирования вторжений, выявляющая активность вредоносного кода, удаленное подключение и другие сетевые аномалии.
  3. Система анализа поведения подозрительных объектов в безопасной среде, позволяющая предотвратить проникновение в сеть вредоносного кода в результате фишинговых рассылок, атак на браузер, атак с использованием уязвимостей «нулевого дня» и ранее неизвестного вредоносного ПО. 

Данное решение предназначено для сбора и фиксации широкого спектра сведений об инцидентах, необходимых для оперативного реагирования, для последующего анализа и корреляции внутри сегмента и передачи в главный центр ГосСОПКА.

«Передача индикаторов компрометации и иных сведений о ранее неизвестных угрозах позволит оперативно информировать о новых типах атак все отраслевые сегменты и обогащать силы и средства обнаружения ГосСОПКА. Исследование и корреляция этих данных позволит отслеживать эволюцию тактик и инструментов проправительственных хакерских группировок и технологически развитых киберпреступных групп. Таким образом, партнерство РНТ и Group-IB поможет сделать важный шаг от безопасности отдельных ведомств, предприятий и корпораций к безопасности государства», – сказал Андрей Новиков, генеральный директор АО «РНТ».

«Обладая одной из самых обширных баз знаний о киберпреступности, Group-IB уже на протяжении многих лет поддерживает государственные и частные организации в области предоставления данных Threat Intelligence, позволяя им быть на шаг впереди преступников и предпринимать эффективные превентивные меры, – комментирует Илья Сачков, генеральный директор и основатель Group-IB. – Сотрудничество с РНТ – это важный шаг на пути нашего развития. Он показывает потребность общества в том, что мы делаем, и зрелось наших технологий для работы на государственном уровне».

Комплексное решение дает удобные инструменты для работы сотрудников центра, значительно повышая их эффективность:

  • низкий уровень ложных срабатываний и предотвращение части инцидентов на уровне межсетевого экрана снижает время на обработку событий;
  • наглядное ранжирование событий помогает не пропустить критичный инцидент;
  • система обработки заявок (тикет-система) позволяет организовать централизованный обмен информацией об инциденте и координацию между участниками процесса реагирования.

Для повышения компетенций специалистов по обнаружению атак, установлению причин инцидентов и технических экспертов будут организованы специализированные образовательные курсы и тренинговые программы.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Red Teaming в применении к ИИ требует переосмысления

Учения Generative Red Team, проведенные в рамках DEF CON 32, показали, что подобный способ оценки защищенности ИИ не дает адекватной картины. Эксперты предлагают создать систему, подобную CVE и учитывающую целевое назначение объектов анализа.

В мероприятии приняли участие (PDF) около 500 добровольцев с разным опытом аудита больших языковых моделей (БЯМ, LLM). В 48 случаях за выявленные недочеты были выплачены премии — суммарно $7850.

Тем не менее организаторы пришли к выводу, что метод Red Teaming в применении к ИИ необходимо усовершенствовать. Большой проблемой оказалось фрагментарность документации по LLM, которые к тому же разнятся по предусмотренному применению.

Без учета назначения ИИ-модели и сообразных встроенных ограничений результаты таких проверок на прочность могут ввести в заблуждение. Более того, отсутствие единых критериев оценки может привести к противоречивым заключениям.

Бурный рост и развитие ИИ-технологий создали новые риски, однако ни у кого пока нет четкого представления о том, как тестировать такие продукты и выстраивать их защиту.

Обеспечение безопасности LLM, по словам экспертов, — нескончаемый процесс. Умные помощники могут ошибаться, им свойственны галлюцинации, предвзятость (из-за неправильного обучения), уязвимость к инъекции стимула. Подобные системы бесперспективно защищать от взлома, однако его можно сделать более затратным, а последствия — краткосрочными.

Организаторы Generative Red Team призывают ИИ- и ИБ-сообщества совместными усилиями решить настоятельные проблемы. В противном случае техническая революция приведет к появлению ИИ-инструментов, на которые невозможно положиться; живой пример тому — скороспелка DeepSeek.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru