Хакеры за 10 минут превратили домашнего робота в машину для убийства

Хакеры за 10 минут превратили домашнего робота в машину для убийства

Хакеры за 10 минут превратили домашнего робота в машину для убийства

Еще весной 2017 года специалисты компании IOActive представили интересный отчет, посвященный проблемам безопасности современных промышленных и «домашних» роботов. Тогда исследователи почти без подробностей предупреждали, что взломать устройства компаний SoftBank Robotics, UBTECH Robotics, ROBOTIS, Universal Robots, Rethink Robotics и Asratec Corp слишком легко.

Это может привести к самым печальным последствиям. Сообщалось, что весной специалисты обнаружили более 50 всевозможных уязвимостей, проанализировав работу мобильных приложений, ПО и прошивок роботов.

Теперь, спустя полгода, когда большинство производителей уже выпустили патчи для найденных багов, исследователи наконец обнародовали подробности проделанной ими работы, пишет xakep.ru.

Аналитики IOActive пишут, что серьезные проблемы своим владельцам могут создать взломанные КоБоты (cobot, сокращение от collaborative robot), то есть роботы предназначенные для физического взаимодействия с людьми в совместной рабочей среде.

Такое устройство обладает немалым весом, силой и скоростью, так что в теории «взбунтовавшийся» промышленный робот может представлять угрозу для работающих рядом с ним людей. Но в реальности хакеры вряд ли станут атаковать персонал фабрик. Скорее злоумышленники перепрограммируют устройство, к примеру, чтобы оно умышленно портило продукты, с которыми работает. В теории, повредив роботов, атакующие могут попросту парализовать работу отдельного конвейера или всего производства, что повлечет за собой огромные убытки для предприятия.

К примеру, проникнув в сеть предприятия, злоумышленники без труда смогут взломать устройства компании Universal Robots, которые подвержены таким простейшим проблемам, как переполнения буфера в стеке. Для доступа к системе, контролирующей движения робота, не требуется аутентификация, а SSH ключи используются статические, что резко повышает риск атак типа man-in-the-middle.

Не меньше проблем было обнаружено и среди «домашних» роботов, к примеру, Alpha 2 производства компании UBTech. Хотя в отличие от тяжелых индустриальных решений такой малыш скорее рассмешит, чем напугает свою жертву, эксперты IOActive предупреждают, что даже эта неуклюжая «игрушка» может причинить физический вред детям или животным.

Плюс ко всему, Alpha 2 и подобные ему роботы SoftBank Robotics Pepper и NAO оснащаются микрофонами и камерами, так что атакующий может превратить устройство в своего верного шпиона. 

Подпишитесь на новости

PT Application Firewall получил защиту от атак на LLM

Корпоративному ИИ-ассистенту доверили документы, клиентские данные и доступ к системам. Теперь осталось проследить, чтобы командовать им не начал первый встречный. Positive Technologies разработала LLM Firewall — модуль защиты ИИ-сервисов в составе PT Application Firewall.

По словам компании, он проверяет запросы к языковым моделям и их ответы: ищет попытки обойти ограничения, вытащить системные инструкции, раскрыть конфиденциальную информацию или использовать возможности агента в интересах атакующего.

Одна из целей — противодействие инъекциям в промпт. Вредоносную инструкцию можно отправить боту напрямую или спрятать в документе, который тот обрабатывает. Внешне это обычный текст, а по замыслу — попытка назначить нейросети нового начальника.

Подозрительные обращения модуль позволяет блокировать либо фиксировать для последующего разбора. Отдельно заявлено обнаружение персональных данных, паролей, ключей доступа, а также токсичного и запрещённого контента.

Проверка работает в обе стороны: контролируется и то, что отправляют модели, и то, что она выдаёт пользователю. Секреты могут утечь не только из-за хитрого атакующего, но и благодаря очень старательному сотруднику.

LLM Firewall уже интегрирован в PT AF Cloud. Он подключается к обмену между приложением и моделью через API, совместимый с OpenAI Chat Completions и Responses. Отдельная консоль управления не требуется. В PT AF PRO для развёртывания внутри инфраструктуры заказчика модуль обещают добавить позднее.

Для разных ИИ-сервисов можно задавать свои политики, выбирать мониторинг или блокировку, отдельно настраивать проверку запросов и ответов. События поступают в PT AF для анализа и расследования.

RSS: Новости на портале Anti-Malware.ru