Исследователи показали, как управлять «мыслями» ИИ на лету

Исследователи показали, как управлять «мыслями» ИИ на лету

Исследователи показали, как управлять «мыслями» ИИ на лету

Команда из T-Bank AI Research предложила новый подход к интерпретации и управлению большими языковыми моделями — вроде тех, что лежат в основе современных чат-ботов. Разработку представили на международной конференции ICML в Ванкувере, одном из крупнейших событий в области машинного обучения.

Речь идёт о модифицированном методе SAE Match, который позволяет не просто наблюдать за тем, как модель обрабатывает информацию, но и влиять на это поведение без переобучения или вмешательства в архитектуру.

Что нового?

Вместо того чтобы просто смотреть, какие признаки активируются в слоях модели, исследователи научились строить граф потока признаков. Он показывает, как определённые смысловые элементы (например, тема или стиль ответа) зарождаются и проходят через внутренние механизмы модели — от attention до feedforward.

Самое интересное — теперь можно точечно усиливать или подавлять эти элементы. Например, изменить тональность текста или убрать нежелательную тему. Причём это делается не путём настройки модели заново, а с помощью управления внутренними активностями на нужных этапах.

Почему это важно?

  • Можно контролировать поведение модели более точно, если воздействовать сразу на несколько уровней обработки.
  • Не нужны дополнительные данные или переобучение, метод работает с уже обученными моделями.
  • Прозрачность — можно проследить, откуда берётся тот или иной фрагмент текста: из контекста или из внутренних «знаний» модели.
  • Безопасность — если модель сгенерировала что-то нежелательное, теперь можно понять, почему так вышло, и в будущем избежать повторения.

В чём уникальность?

Раньше интерпретация ИИ сводилась к тому, чтобы просто наблюдать, как он работает. Теперь же появляется возможность вмешиваться в процесс генерации — причём быстро и точечно. Это может быть полезно не только в научных задачах, но и в реальных продуктах, где важно избегать неожиданных или опасных ответов от ИИ.

Так что теперь исследователи могут не просто догадываться, что происходит внутри модели, а действительно видеть и управлять этими процессами. И это, по сути, шаг к более контролируемому и предсказуемому искусственному интеллекту.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Ideco выходит на рынок облигаций для развития NGFW

С сентября 2025 года компания Ideco начнёт размещение облигаций. Привлечённые средства планируется направить на расширение разработки и производства своего основного продукта — межсетевого экрана нового поколения (NGFW), а также на его продвижение.

Российский рынок NGFW продолжает расти: по итогам 2025 года сегмент увеличился на 30 % и превысил 52 млрд рублей.

При этом доля иностранных решений снизилась, но по-прежнему составляет около 40 %. Спрос на отечественные продукты вырос из-за роста числа кибератак и более жёстких регуляторных требований.

Выпуск облигаций связан с планами ускоренного развития компании в условиях благоприятной конъюнктуры, которая, по оценкам Ideco, сохранится в ближайшие 2–3 года. Средства предполагается направить не только на развитие продукта, но и на поддержку партнёрской сети — обучение, мероприятия и расширение каналов продаж.

«Мы уверены, что отечественные решения должны стать фундаментом безопасности российских компаний, — говорит Дмитрий Хомутов, директор Ideco. — За годы работы мы накопили уникальный опыт и технологии, которые готовы предложить рынку. Выход на инвестиционный рынок поможет нам реализовать амбициозные планы и обеспечить клиентов передовыми продуктами».

В ближайшие годы компания рассчитывает укрепить свои позиции на рынке NGFW и войти в число его лидеров.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru