Ситуация на Кипре используется для распространения вирусов

Ситуация на Кипре используется для распространения вирусов

Комментарий ведущего вирусного аналитика ESET Артема Баранова: «20 марта специалисты из антивирусной лаборатории ESET обнаружили замаскированные под новостную рассылку спам-письма, в которых рассказывалось о ситуации с налогом на депозиты в банках Кипра. Известно, что эта тема буквально взорвала медийное пространство и дала обильную почву для различных спекуляций. Тем более, что на тот момент парламент Кипра еще не проголосовал за введение данного налога (позднее стало известно, что этот законопроект был отклонен).

В это же время мы зафиксировали активность со стороны киберпреступников, которые также решили воспользоваться ситуацией на Кипре и шумихой вокруг нее в своих целях. Злоумышленники рассылали письма от имени телекомпании BBC с новостными заголовками, призванными запугать пользователя и убедить его в том, что введение налога было одобрено в парламенте.

В письме содержалась ссылка, при клике на которой пользователь перенаправлялся на страницу с набором эксплойтов BlackHole Exploits Kit, с последующей установкой троянской программы Cridex (Win32/Cridex.AA). Эта программа обычно используется для кражи различных паролей и другой конфиденциальной информации пользователя.

После заражения пользователь перенаправлялся на главную страницу новостей BBC, на которой мог увидеть, что ситуация не так драматична, как хотели показать киберпреступники.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Исследователи показали, как управлять «мыслями» ИИ на лету

Команда из T-Bank AI Research предложила новый подход к интерпретации и управлению большими языковыми моделями — вроде тех, что лежат в основе современных чат-ботов. Разработку представили на международной конференции ICML в Ванкувере, одном из крупнейших событий в области машинного обучения.

Речь идёт о модифицированном методе SAE Match, который позволяет не просто наблюдать за тем, как модель обрабатывает информацию, но и влиять на это поведение без переобучения или вмешательства в архитектуру.

Что нового?

Вместо того чтобы просто смотреть, какие признаки активируются в слоях модели, исследователи научились строить граф потока признаков. Он показывает, как определённые смысловые элементы (например, тема или стиль ответа) зарождаются и проходят через внутренние механизмы модели — от attention до feedforward.

Самое интересное — теперь можно точечно усиливать или подавлять эти элементы. Например, изменить тональность текста или убрать нежелательную тему. Причём это делается не путём настройки модели заново, а с помощью управления внутренними активностями на нужных этапах.

Почему это важно?

  • Можно контролировать поведение модели более точно, если воздействовать сразу на несколько уровней обработки.
  • Не нужны дополнительные данные или переобучение, метод работает с уже обученными моделями.
  • Прозрачность — можно проследить, откуда берётся тот или иной фрагмент текста: из контекста или из внутренних «знаний» модели.
  • Безопасность — если модель сгенерировала что-то нежелательное, теперь можно понять, почему так вышло, и в будущем избежать повторения.

В чём уникальность?

Раньше интерпретация ИИ сводилась к тому, чтобы просто наблюдать, как он работает. Теперь же появляется возможность вмешиваться в процесс генерации — причём быстро и точечно. Это может быть полезно не только в научных задачах, но и в реальных продуктах, где важно избегать неожиданных или опасных ответов от ИИ.

Так что теперь исследователи могут не просто догадываться, что происходит внутри модели, а действительно видеть и управлять этими процессами. И это, по сути, шаг к более контролируемому и предсказуемому искусственному интеллекту.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru