«Ростех» в 2017 году выделила 800 млн руб. на киберзащиту своих оборонных предприятий. Об этом сообщили в пресс-службе госкорпорации. Деньги предназначены в том числе для подключения к единой «антихакерской системе» (корпоративный центр обнаружения, предупреждения и ликвидации последствий компьютерных атак — КЦОПЛ; разработка «Ростеха») предприятий холдинга «Вертолеты России».
За 2017 год к системе уже подключили такие предприятия холдингов, как «Росэлектроника» (производство изделий электронной и СВЧ-техники), «Высокоточные комплексы» (производство вооружений, военной и специальной техники), «Техмаш» (производство боеприпасов) и Объединенной двигателестроительной корпорации (производство газотурбинных двигателей), рассказали в «Ростехе». До 2018 года в госкорпорации планируется подключить к системе до 100 предприятий, пишет rbc.ru.
Специалисты, работающие в рамках «антихакерской системы», отслеживают аномалии в работе компьютеров оборонных предприятий и сообщают им об этом, отсекают взломщиков от важной информации, передавая их координаты Федеральной службе безопасности (ФСБ), пояснили в «Ростехе». Центр был создан осенью 2016 года на базе «РТ-Информ» (100% акций компании принадлежат «Ростеху») , он взаимодействует с Государственной системой обнаружения, предупреждения и ликвидации последствий компьютерных атак («ГосСОПКА»).
В 2016 году «Ростех» потратила на обеспечение информационной безопасности своих оборонных предприятий при помощи новой системы более 690 млн руб.
Основной этап подключений к системе кибербезопасности госкорпорация планирует завершить к 2020 году, отметили в «Ростехе», не уточнив объем планируемых затрат на кибербезопасность в 2018–2020 годах, так как «эти суммы формируют предприятия в рамках бюджетов компаний, которые в настоящий момент не утверждены». В госкорпорации отметили, что «затраты на обеспечение информбезопасности с каждым годом будут только расти». «Такой тренд есть и по стране, и по рынку в целом», — сказали в «Ростехе».
Наибольшую опасность для госкорпорации представляет промышленный шпионаж, отметил генеральный директор «РТ-Информ» Камиль Газизов.
«Распознать и оперативно пресечь такие вмешательства проблематично. Злоумышленник может долгое время находиться в системе, считывая необходимую информацию, и при этом никак себя не проявлять», — рассказал специалист.
Другая угроза — остановка производства из-за кибератак. Это срыв сроков, в том числе и по гособоронзаказу, невыполнение обязательств, финансовые потери, перечислил Газизов.
Финансовое мошенничество — попытки вывода денег со счетов предприятия — еще один вид хакерской атаки, с которой наиболее часто сталкиваются в «Ростехе».
До 2016 года на компьютерах оборонных предприятий «Ростеха» стояли только антивирусы, криптографическая защита и средства межсетевого экранирования. КЦОПЛ стал «дополнительным эшелоном защиты», объяснил Газизов.
За 2017 год специалисты центра смогли выявить более 200 компьютерных атак, подчеркнул собеседник РБК.
Каждое предприятие может заниматься обнаружением угроз самостоятельно, отметил эксперт по информационной безопасности Cisco Алексей Лукацкий. Но это дорого: нужно держать большой штат программистов, объяснил Лукацкий.
«Для эффективной антихакерской работы необходимо заключать множество контрактов с мониторинговыми центрами. КЦОПЛ же позволяет координировать всю эту деятельность и экономить ресурсы», — подвел итог специалист.
Учения Generative Red Team, проведенные в рамках DEF CON 32, показали, что подобный способ оценки защищенности ИИ не дает адекватной картины. Эксперты предлагают создать систему, подобную CVE и учитывающую целевое назначение объектов анализа.
В мероприятии приняли участие (PDF) около 500 добровольцев с разным опытом аудита больших языковых моделей (БЯМ, LLM). В 48 случаях за выявленные недочеты были выплачены премии — суммарно $7850.
Тем не менее организаторы пришли к выводу, что метод Red Teaming в применении к ИИ необходимо усовершенствовать. Большой проблемой оказалось фрагментарность документации по LLM, которые к тому же разнятся по предусмотренному применению.
Без учета назначения ИИ-модели и сообразных встроенных ограничений результаты таких проверок на прочность могут ввести в заблуждение. Более того, отсутствие единых критериев оценки может привести к противоречивым заключениям.
Бурный рост и развитие ИИ-технологий создали новые риски, однако ни у кого пока нет четкого представления о том, как тестировать такие продукты и выстраивать их защиту.
Обеспечение безопасности LLM, по словам экспертов, — нескончаемый процесс. Умные помощники могут ошибаться, им свойственны галлюцинации, предвзятость (из-за неправильного обучения), уязвимость к инъекции стимула. Подобные системы бесперспективно защищать от взлома, однако его можно сделать более затратным, а последствия — краткосрочными.
Организаторы Generative Red Team призывают ИИ- и ИБ-сообщества совместными усилиями решить настоятельные проблемы. В противном случае техническая революция приведет к появлению ИИ-инструментов, на которые невозможно положиться; живой пример тому — скороспелка DeepSeek.
Подписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.
Свидетельство о регистрации СМИ ЭЛ № ФС 77 - 68398, выдано федеральной службой по надзору в сфере связи, информационных технологий и массовых коммуникаций (Роскомнадзор) 27.01.2017 Разрешается частичное использование материалов на других сайтах при наличии ссылки на источник. Использование материалов сайта с полной копией оригинала допускается только с письменного разрешения администрации.