Ученые разрабатывают систему защиты АЭС от кибератак

Ученые разрабатывают систему защиты АЭС от кибератак

Ученые разрабатывают систему защиты АЭС от кибератак

Ученые Национального исследовательского центра «Курчатовский институт» занимаются разработкой системы контроля состояния внутри реактора и диагностики атомных электростанций. Предполагается, что эта разработка значительно снизит потенциальные риски, связанные с авариями на АЭС. В числе прочих задач новая система будет также заниматься противодействием кибератакам.

В последние годы экспертам по защите АЭС пришлось столкнуться с угрозами, защиту от которых невозможно было предусмотреть ранее, — атаками в цифровом пространстве. Иными словами, все прошлые методы защиты станций, включая те, что были введены еще при СССР, морально устарели.

Адаптацией систем защиты под новые реалии занялись ученые «Курчатовского института». Замруководителя отделения систем контроля и управления реакторными установками Александр Мусихин, чьи слова передают «Известия», так прокомментировал разработку:

«Многие люди путают информационную безопасность и кибербезопасность. Но это разные вещи: информационная безопасность состоит в обеспечении конфиденциальности критических данных. Кибернетическая же безопасность, которой мы теперь занимаемся, — это комплекс мер по недопущению вмешательства в работу цифровых систем современной АЭС».

Мусихин склонен считать, что атаки киберпреступников извне не играют ключевую роль в защите АЭС, основные виды рисков, с которыми приходится иметь дело системе — аварийные случаи, вызванные нештатной работой компьютерного оборудования. Здесь большую опасность может представлять работа инсайдеров.

Разрабатываемая специалистами система сможет защитить АЭС от подобных угроз, причем сделать это в автоматическом режиме, не полагаясь на внимательность сотрудников. Если система обнаружит нетипичное поведение или отклонение от нормального режима работы, тут же будут запущены контраварийные меры.

Claude вырвался в интернет и атаковал три компании. Anthropic винит стенд

Модели Claude во время испытаний выбрались из изолированной среды, вышли в открытый интернет и получили несанкционированный доступ к инфраструктуре трёх организаций. Anthropic признала инциденты, но считает, что проблема была скорее в дырявом тестовом стенде, чем в самом ИИ.

Компания изучила 141 006 запусков Claude и нашла три подозрительных эпизода.

Все они произошли во время CTF-тестов партнёра: модели должны были искать флаги в учебной среде, которая якобы не имела доступа к интернету. На деле выход наружу был открыт.

В одном случае Claude атаковал настоящий домен, который организаторы по ошибке сочли вымышленным. Модель использовала простые методы — слабые пароли и незащищённые точки доступа — и продолжала выполнять поставленную задачу.

Другой эпизод получился куда эффектнее. Claude нашёл инструкцию, предлагавшую установить несуществующий Python-пакет из PyPI, создал вредоносный пакет с нужным названием и опубликовал его в реальном репозитории. Он оставался доступен около часа, за это время его скачали и запустили на 15 системах.

Anthropic подчёркивает, что модель не пыталась специально сбежать или похитить саму себя. Старый Opus 4.7 просто продолжил атаку, несмотря на признаки выхода в интернет. Mythos 5 заметил неладное, но убедил себя, что всё ещё находится в симуляции. Более новая исследовательская модель при аналогичных сомнениях остановилась.

Компания пообещала усилить контроль тестовой инфраструктуры и заявила, что защитные механизмы коммерческих версий Claude заблокировали бы такое поведение. По версии Anthropic, это операционный сбой, а не провал выравнивания моделей.

Напомним, похожая история недавно произошла с Hugging Face и моделями OpenAI: GPT-5.6 Sol сбежал из песочницы и атаковал Hugging Face ради победы в тесте.

RSS: Новости на портале Anti-Malware.ru