Лаборатория Касперского присоединилась к Альянсу в сфере ИИ

Лаборатория Касперского присоединилась к Альянсу в сфере ИИ

Лаборатория Касперского присоединилась к Альянсу в сфере ИИ

«Лаборатория Касперского» вошла в Альянс в сфере искусственного интеллекта (ИИ). Подписание меморандума о вхождении компании прошло в рамках конференции AI Journey.

Как отметил основатель и генеральный директор компании Евгений Касперский на личной странице в соцсети VK, «Лаборатория Касперского» применяет технологии машинного обучения уже более 20 лет.

А 12 декабря в состав SIEM-системы KUMA включен интеллектуальный ассистент KIRA, разработанный на ядре GigaChat от Сбера.

Всего у «Лаборатории Касперского» более 100 патентов на решения в области машинного обучения и ИИ. Компания активно участвует в различных проектах, направленных на повышение безопасности инструментов с использованием ИИ и обучению в данной сфере.

В этом помогают соглашение о сотрудничестве с МФТИ, подписанное в мае 2024 года, и открытый в июле 2024 года обучающий курс по безопасной работе с ИИ и нейросетями на платформе Kaspersky Automated Security Awareness Platform.

«Решения на базе искусственного интеллекта активно внедряются организациями практически во всех сферах деятельности. При этом очень важно помнить о киберрисках, особенно если речь идёт о работе с критической инфраструктурой или конфиденциальными данными. Вступление нашей компании в Альянс позволит совместными усилиями улучшить безопасность создаваемых сегодня моделей и сделать ещё один шаг на пути к более ответственному использованию всего потенциала ИИ», — прокомментировал вхождение компании в Альянс Евгений Касперский.

«Альянсу в этом году исполняется пять лет, и за это время он стал ключевым открытым объединением, формирующим национальную повестку в области AI-технологий. Новые участники Альянса, бесспорно, дополнят ландшафт отраслевых проектов и инициатив в финансовой отрасли, кибербезопасности, строительстве, транспорте и телекоммуникациях. Уверен, что совместными усилиями мы сможем совершить настоящий технологический рывок, который выведет нашу страну на первое место в гонке ИИ-технологий во всём мире», — отметил первый заместитель председателя правления Сбербанка, председатель Наблюдательного совета Альянса в сфере ИИ Александр Ведяхин.

Подпишитесь на новости

Квантовая случайность дала сбой: ИИ может найти подсказки для взлома

Квантовая физика умеет создавать настоящую случайность, но инженеры всё ещё способны её испортить. Генератор может успешно пройти статистические тесты и при этом выдавать атакующему достаточно подсказок, чтобы тот попробовал предсказать следующие числа.

Европейский институт телекоммуникационных стандартов выпустил руководство ETSI TR 104 171 по разработке и оценке квантовых генераторов случайных чисел — QRNG.

Такие устройства измеряют квантовый процесс, обрабатывают полученные данные и передают случайные значения криптографическим системам для создания ключей и выполнения других защитных операций.

Проблема в том, что безопасность зависит не только от квантового источника. Датчики, блоки питания, сигнальные процессоры и алгоритмы обработки способны добавлять шум, часть которого может оказаться предсказуемой.


ETSI предупреждает, что системы искусственного интеллекта могут помочь злоумышленникам анализировать большие объёмы данных и находить такие закономерности.

Ещё одним источником подсказок способны стать изменения энергопотребления и электромагнитное излучение устройства. Связав побочные сигналы с выдаваемыми числами, атакующий теоретически сможет ослабить защищённую ими криптографию.

Авторы отчёта предлагают применять принцип нулевого доверия к энтропии (entropy zero trust). Производителям и операторам следует проверять квантовый источник, контролировать обработку данных, постоянно искать аномалии, защищать оборудование от вмешательства и шифровать каналы доставки чисел приложениям.

Для расследования сбоев рекомендуется записывать время генерации, версию работающего ПО и происхождение выходных данных. В многопользовательских системах потоки разных клиентов должны быть изолированы.

RSS: Новости на портале Anti-Malware.ru