Хакеры за 10 минут превратили домашнего робота в машину для убийства

Хакеры за 10 минут превратили домашнего робота в машину для убийства

Хакеры за 10 минут превратили домашнего робота в машину для убийства

Еще весной 2017 года специалисты компании IOActive представили интересный отчет, посвященный проблемам безопасности современных промышленных и «домашних» роботов. Тогда исследователи почти без подробностей предупреждали, что взломать устройства компаний SoftBank Robotics, UBTECH Robotics, ROBOTIS, Universal Robots, Rethink Robotics и Asratec Corp слишком легко.

Это может привести к самым печальным последствиям. Сообщалось, что весной специалисты обнаружили более 50 всевозможных уязвимостей, проанализировав работу мобильных приложений, ПО и прошивок роботов.

Теперь, спустя полгода, когда большинство производителей уже выпустили патчи для найденных багов, исследователи наконец обнародовали подробности проделанной ими работы, пишет xakep.ru.

Аналитики IOActive пишут, что серьезные проблемы своим владельцам могут создать взломанные КоБоты (cobot, сокращение от collaborative robot), то есть роботы предназначенные для физического взаимодействия с людьми в совместной рабочей среде.

Такое устройство обладает немалым весом, силой и скоростью, так что в теории «взбунтовавшийся» промышленный робот может представлять угрозу для работающих рядом с ним людей. Но в реальности хакеры вряд ли станут атаковать персонал фабрик. Скорее злоумышленники перепрограммируют устройство, к примеру, чтобы оно умышленно портило продукты, с которыми работает. В теории, повредив роботов, атакующие могут попросту парализовать работу отдельного конвейера или всего производства, что повлечет за собой огромные убытки для предприятия.

К примеру, проникнув в сеть предприятия, злоумышленники без труда смогут взломать устройства компании Universal Robots, которые подвержены таким простейшим проблемам, как переполнения буфера в стеке. Для доступа к системе, контролирующей движения робота, не требуется аутентификация, а SSH ключи используются статические, что резко повышает риск атак типа man-in-the-middle.

Не меньше проблем было обнаружено и среди «домашних» роботов, к примеру, Alpha 2 производства компании UBTech. Хотя в отличие от тяжелых индустриальных решений такой малыш скорее рассмешит, чем напугает свою жертву, эксперты IOActive предупреждают, что даже эта неуклюжая «игрушка» может причинить физический вред детям или животным.

Плюс ко всему, Alpha 2 и подобные ему роботы SoftBank Robotics Pepper и NAO оснащаются микрофонами и камерами, так что атакующий может превратить устройство в своего верного шпиона. 

Исследователи взломали защиту Apple Intelligence через инъекцию промпта

Исследователи рассказали о недавно пропатченной уязвимости в Apple Intelligence, которая позволяла обходить встроенные ограничения и заставлять локальную языковую модель выполнять действия по сценарию атакующего.

Подробности атаки описаны сразу в двух публикациях. По словам авторов исследования, им удалось объединить две техники атаки и через инъекцию промпта добиться выполнения вредоносных инструкций на устройстве.

Как объясняют специалисты, запрос пользователя сначала проходит через входной фильтр, который должен отсекать опасный контент. Если всё выглядит безопасно, запрос отправляется в саму модель, а затем уже готовый ответ проверяет выходной фильтр. Если система замечает что-то подозрительное, вызов API просто завершается с ошибкой.

Чтобы обойти эту схему, исследователи собрали эксплойт из двух частей. Сначала они использовали строку с вредоносным содержимым в перевёрнутом виде и добавляли Unicode-символ RIGHT-TO-LEFT OVERRIDE. За счёт этого на экране текст отображался нормально, а вот в «сыром» виде для фильтров оставался перевёрнутым. Это помогало пройти проверку на входе и выходе.

 

Второй частью цепочки стала техника Neural Exec. По сути, это способ подменить или переопределить исходные инструкции модели так, чтобы она начала следовать уже командам атакующего, а не базовым системным ограничениям.

В итоге первая техника позволяла обмануть фильтры, а вторая — заставляла модель вести себя не так, как задумано. Для проверки исследователи прогнали 100 случайных сценариев, комбинируя системные промпты, вредоносные строки и внешне безобидные тексты, например фрагменты из статей Wikipedia. В этих тестах успешность атаки составила 76%.

О проблеме Apple уведомили ещё в октябре 2025 года. С тех пор компания усилила защитные механизмы, а патчи вошли в состав iOS 26.4 и macOS 26.4.

RSS: Новости на портале Anti-Malware.ru