Лаборатория Касперского присоединилась к Альянсу в сфере ИИ

Лаборатория Касперского присоединилась к Альянсу в сфере ИИ

Лаборатория Касперского присоединилась к Альянсу в сфере ИИ

«Лаборатория Касперского» вошла в Альянс в сфере искусственного интеллекта (ИИ). Подписание меморандума о вхождении компании прошло в рамках конференции AI Journey.

Как отметил основатель и генеральный директор компании Евгений Касперский на личной странице в соцсети VK, «Лаборатория Касперского» применяет технологии машинного обучения уже более 20 лет.

А 12 декабря в состав SIEM-системы KUMA включен интеллектуальный ассистент KIRA, разработанный на ядре GigaChat от Сбера.

Всего у «Лаборатории Касперского» более 100 патентов на решения в области машинного обучения и ИИ. Компания активно участвует в различных проектах, направленных на повышение безопасности инструментов с использованием ИИ и обучению в данной сфере.

В этом помогают соглашение о сотрудничестве с МФТИ, подписанное в мае 2024 года, и открытый в июле 2024 года обучающий курс по безопасной работе с ИИ и нейросетями на платформе Kaspersky Automated Security Awareness Platform.

«Решения на базе искусственного интеллекта активно внедряются организациями практически во всех сферах деятельности. При этом очень важно помнить о киберрисках, особенно если речь идёт о работе с критической инфраструктурой или конфиденциальными данными. Вступление нашей компании в Альянс позволит совместными усилиями улучшить безопасность создаваемых сегодня моделей и сделать ещё один шаг на пути к более ответственному использованию всего потенциала ИИ», — прокомментировал вхождение компании в Альянс Евгений Касперский.

«Альянсу в этом году исполняется пять лет, и за это время он стал ключевым открытым объединением, формирующим национальную повестку в области AI-технологий. Новые участники Альянса, бесспорно, дополнят ландшафт отраслевых проектов и инициатив в финансовой отрасли, кибербезопасности, строительстве, транспорте и телекоммуникациях. Уверен, что совместными усилиями мы сможем совершить настоящий технологический рывок, который выведет нашу страну на первое место в гонке ИИ-технологий во всём мире», — отметил первый заместитель председателя правления Сбербанка, председатель Наблюдательного совета Альянса в сфере ИИ Александр Ведяхин.

Claude освободил 700 ГБ, удалив домашнюю папку разработчика

Разработчик Себастьен Гиймо поручил ИИ-агенту Claude написать скрипт для очистки временных файлов. Бот справился слишком эффективно: удалил домашний каталог пользователя вместе с 700 ГБ данных и результатами недельной работы, но предусмотрительно оставил папку /tmp, ради которой всё и затевалось.

Гиймо регулярно запускает ИИ-агентов, которые оставляют после себя множество временных файлов.

Он попросил модель Claude Fable создать отдельную песочницу для каждого агента в /tmp и очищать её после завершения работы, не затрагивая используемые данные.

Первая версия скрипта показалась разработчику слишком сложной. Из-за наличия команд безвозвратного удаления Claude запустил дополнительную проверку безопасности. Система Anthropic сочла задачу рискованной и автоматически понизила модель сначала до Opus 5, а затем до Opus 4.8.


Новая модель написала тест, который сравнивал цели удаления с /tmp и домашним каталогом пользователя. Обе директории были правильно признаны опасными. А затем начался этап очистки тестовых данных, и Claude повторно использовал ту же переменную, в которой находился путь к домашней папке.

Гиймо остановил процесс, но слишком поздно: агент успел удалить 700 ГБ. Большую часть информации разработчик восстановил из Git, конфигурации Nix, журналов сессий и других источников. Однако недельная работа всё же пострадала.

Разработчик предполагает, что автоматический переход на менее сильную модель мог повысить риск ошибки. Более производительная Fable 5, возможно, заметила бы конфликт переменных.

RSS: Новости на портале Anti-Malware.ru