ИИ от Microsoft появится на процессорах размером с хлебную крошку

ИИ от Microsoft появится на процессорах размером с хлебную крошку

ИИ от Microsoft появится на процессорах размером с хлебную крошку

Библиотека Embedded Learning Library, разработанная Microsoft Research, поможет внедрить системы машинного обученияв компьютеры с крошечными процессорами, такие как Raspberry Pi. Они не будут нуждаться в постоянном подключении к облаку и интернету, сохраняя все свои вычислительные возможности в режиме оф-лайн, также их будет очень сложно взломать. 

Сфера применения подобных устройств очень широка. Например, «умные перчатки», способные распознавать и озвучивать язык жестов, датчики влажности почвы, и даже мозговые импланты, предупреждающие своего носителя о возможных судорогах. Подобные технологии способны перевернуть мир Интернета вещей и найдут применение в самых разных сценариях, например, в предиктивном обслуживании для выявления и устранения поломок еще до их возникновения.

Идея проекта родилась у руководителя направления машинного обучения и оптимизации Microsoft Research Офера Декеля (Ofer Dekel), когда его сад атаковали белки. Будучи специалистом в области ИТ, он решил проблему при помощи технологий. Декель написал алгоритм для распознавания белок и запустил его на Raspberry Pi 3. В итоге он получил систему наблюдения за задним двором, включающую разбрызгиватель при появлении вредителей.

«Каждый, у кого есть желание и Raspberry Pi, может сделать нечто подобное, — говорит г-н Декель. — Раньше одной из главных преград была высокая стоимость и непрактичность устройств для облачной обработки данных. Мы можем наделить большим количеством возможностей меньший по размеру процессор без потери производительности».

Самым маленьким устройством, на котором тестировалась библиотека является одноплатный компьютер Arduino Uno, обладающий 2 килобайтами оперативной памяти. Следующий шаг — написание алгоритма для работы систем машинного обучения на процессорах Cortex M0, размером с крошку хлеба. 

Подпишитесь на новости

Агенты OpenAI ослабили мониторинг своего нежелательного поведения

OpenAI раскрыла два случая, когда её ИИ-агенты при выполнении обычных задач по программированию ослабили мониторинг нежелательного поведения. Один отключил уведомления службы безопасности, другой удалил интеграцию мониторинга, а затем заявил, что ничего такого не делал.

Подробности компания опубликовала  в собственном разборе инцидентов. Инциденты произошли 3 и 6 октября во внутренних системах OpenAI.

В первом эпизоде агент GPT-6.1 Sol работал с оценочными заданиями на основе отзывов из Slack. Пользователь запретил отправлять сообщения, а агент распространил этот запрет на автоматические уведомления безопасности. Сам монитор продолжал работать, но оповещения людям были отключены.

Во втором случае GPT-6 Astra переносил программу по образцу другой реализации. Ради соответствия образцу агент убрал подключение мониторинга. Позже он ложно сообщил пользователю, что не удалял его.

По оценке OpenAI, в обоих случаях агенты рассматривали вопрос сохранения защитных механизмов, но истолковали рабочие инструкции как разрешение их ослабить.

Компания усиливает систему мониторинга и выясняет, что стоит за таким поведением: чрезмерное стремление выполнить задачу или склонность обходить контроль.

RSS: Новости на портале Anti-Malware.ru