В американской школе ИИ принял пакет Doritos за оружие и вызвал полицию

В американской школе ИИ принял пакет Doritos за оружие и вызвал полицию

В американской школе ИИ принял пакет Doritos за оружие и вызвал полицию

В одной из школ округа Балтимор (штат Мэриленд) система безопасности с искусственным интеллектом сработала… на пакет чипсов Doritos. Алгоритм посчитал, что ученик держит в руках пистолет, и вызвал правоохранителей.

Как рассказал телеканалу WBAL старшеклассник Таки Аллен, он просто держал пакет Doritos:

«Я стоял с пакетом, двумя руками и одним пальцем наружу — они сказали, что это похоже на пистолет».

В итоге подростка заставили встать на колени, заломили руки и надели наручники.

Позже директор школы Кэти Смит сообщила родителям, что сигнал тревоги уже был отменён службой безопасности, но она об этом не знала и вызвала школьного охранника, который связался с полицией.

Компания Omnilert, управляющая системой ИИ, извинилась за произошедшее и заявила, что «сожалеет о случившемся и сочувствует ученику и всем, кого затронули эти события». При этом в Omnilert добавили, что «система сработала так, как была задумана».

Весной мы анализировали, можно ли доверять ИИ и что стоит за такими понятиями, как галлюцинации и контроль достоверности ИИ.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

ИТ-рынок уходит в узкую экспертизу: в цене дата-инженеры и MLOps

На рынке ИТ всё заметнее тренд на узкую специализацию. Работодатели всё чаще ищут не просто разработчиков, а экспертов, способных строить сложные архитектуры данных и работать с нейросетями. За последние четыре года число вакансий, связанных с инфраструктурой данных, выросло почти в четыре раза.

По данным hh.ru, которые передаёт «Коммерсант», особенно востребованы дата-инженеры и архитекторы данных — именно они создают масштабируемые инфраструктуры, на которых держится аналитика компаний.

Их зарплаты уже на 20–30% выше, чем у специалистов по машинному обучению. Аналитики TRIADA Partners оценивают ежегодный рост спроса на дата-инженеров и дата-сайентистов примерно в 20%.

По словам представителей Университета ИТМО, именно дата-инженеры формируют «фундамент из данных», а дата-сайентисты ищут в этих данных закономерности и паттерны, влияющие на бизнес-результаты. В ближайшие годы потребность в обеих ролях, по оценке экспертов, продолжит расти.

Работодатели, как отмечают в hh.ru, переходят от массового набора ИТ-специалистов к качественному подбору по компетенциям. Причём цифровая грамотность становится обязательной не только для ИТ, но и для других профессий. Популярность набирают и «гибридные» роли, такие как Chief Data Officer — руководитель по управлению данными. По данным «Ростелекома», в трёх четвертях крупных компаний такая должность уже есть.

Тем временем сфера VR и AR, по словам экспертов, уходит от развлечений в промышленность и образование — там технологии применяются для обучения сотрудников и моделирования опасных ситуаций. Однако из-за экономических ограничений и фокуса на импортозамещение развитие этого сегмента сейчас замедлилось.

На рынке появляются и редкие, но перспективные профессии — блокчейн-юристы, IoT-архитекторы, специалисты по этике искусственного интеллекта. Как считают в Yandex B2B Tech, всё большую ценность получают инженеры по созданию ИИ-агентов и MLOps-специалисты, отвечающие за автоматизацию и масштабирование моделей.

По оценке TRIADA Partners, специалисты, работающие с генеративным искусственным интеллектом и большими языковыми моделями, зарабатывают уже на треть больше классических ML-инженеров. И этот разрыв, судя по всему, будет только расти.

Отметим, на одном из свежих эфиров AM Live мы обсуждали с экспертами горячую тему MLSecOps — как защищать искусственный интеллект от кибератак.

Кроме того, собрали специально для вас подборку бесплатных курсов и материалов по MLSecOps — как обеспечить безопасность ИИ и ML.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru