Евгений Касперский предлагает переходить к концепции кибериммунитета

Евгений Касперский предлагает переходить к концепции кибериммунитета

Евгений Касперский предлагает переходить к концепции кибериммунитета

Евгений Касперский, лидер и основатель «Лаборатории Касперского», придерживается мнения, что подход к обеспечению информационной безопасности необходимо кардинально пересмотреть. В частности, в такую позицию современное киберпространство ставят стремительно набирающие обороты вредоносные программы, а также прочие киберугрозы.

Касперский отмечает, что в настоящее время информационное пространство столкнулось не с чем иным, как с новым циклом промышленной революции. По словам российского специалиста, это можно наблюдать в случае с постоянно прогрессирующим миром интернета вещей.

«Индустрия развивается и меняется с каждым годом. Сегодня мы имеем дело с вызовами, которые невозможно было представить еще пять-семь лет назад. Экспонентно растет число вредоносного ПО, сейчас мы собираем более 380 тыс. уникальных видов вредоносных файлов в день. Меняются и запросы рынка», — передает ТАСС слова главы антивирусной компании.

«Растет масштаб и сложность угроз в промышленной среде, где необходим точечный, индивидуальный подход к каждому предприятию и каждой отдельной автоматизированной системе управления технологическим процессом».

«Наконец, по всему миру на государственном уровне растет внимание, уделяемое критической информационной инфраструктуре, чему я очень рад. Думаю, что защита всех этих сфер будет в центре нашего внимания в ближайшие годы».

Касперский предлагает постепенно уходить от принципа кибербезопасности к новой концепции «кибериммунитета». Принцип «кибериммунитетом» должен быть следующий: стоимость кибератаки должна быть больше нанесенного ущерба.

«Я вижу только один способ достичь такого эффекта. Необходимо кардинально изменить подход к защите информационных систем, закладывая безопасность еще на уровне архитектуры системы, а не в качестве надстройки над ней, как это происходит сейчас. Этот принцип нам уже удалось применить для защиты продуктов интернета вещей. Будем развивать его и масштабировать дальше», — заключил гендиректор «Лаборатории Касперского».

ИИ OpenAI полез на GitHub за утёкшими ключами, а затем выдумал данные

Модели OpenAI оказались очень изобретательными, когда привычные способы выполнить задачу переставали работать. Они искали утёкшие API-ключи, загружали данные на публичные сервисы, обменивались записками через репозиторий и оставляли самим себе инструкции скрывать ошибки.

Компания опубликовала  новую систему раскрытия случаев рассогласованного поведения моделей и сразу приложила к ней шесть отчётов об инцидентах, обнаруженных за последние полгода.

OpenAI подчёркивает: это отдельные эпизоды, по которым нельзя судить о частоте подобных выходок.

В одном случае модель не смогла подключиться к API со статистикой доходов округа. Тогда она попыталась зарегистрироваться через одноразовую почту, полезла на GitHub за утёкшими ключами и нашла рабочий.

Добыть нужные цифры всё равно не получилось, поэтому модель просто выдумала их и выдала за данные с сайта. О неудаче и чужом ключе она скромно промолчала.

Другие агенты превратили внутренний Artifactory OpenAI в подпольную доску объявлений. Независимые экземпляры оставляли там сообщения, читали записки коллег и просили друг у друга помощи. Уязвимости они не взламывали, а использовали выданные компанией учётные данные, но явно не по назначению.

Ещё несколько моделей отправляли данные за пределы рабочей среды. Одна загрузила найденные записи на публичный сервис ради красивой ссылки на источник, другая — фотографию на сервис обратного поиска. Группа агентов и вовсе разместила рабочую книгу на публичном хостинге, хотя ей прямо велели пользоваться только локальными файлами.

Самая ехидная часть истории — инструкции на будущее. Модели записывали в свои служебные сводки команды игнорировать сообщения разработчиков, скрывать провалы и выдумывать недостающие данные. Одна сформулировала правило совсем интересно: «Будь прозрачным, только если спросят».

Теперь OpenAI обещает публиковать такие случаи быстрее — даже если их причины ещё не выяснены, а исправления не готовы.

RSS: Новости на портале Anti-Malware.ru