В американской школе ИИ принял пакет Doritos за оружие и вызвал полицию

В американской школе ИИ принял пакет Doritos за оружие и вызвал полицию

В американской школе ИИ принял пакет Doritos за оружие и вызвал полицию

В одной из школ округа Балтимор (штат Мэриленд) система безопасности с искусственным интеллектом сработала… на пакет чипсов Doritos. Алгоритм посчитал, что ученик держит в руках пистолет, и вызвал правоохранителей.

Как рассказал телеканалу WBAL старшеклассник Таки Аллен, он просто держал пакет Doritos:

«Я стоял с пакетом, двумя руками и одним пальцем наружу — они сказали, что это похоже на пистолет».

В итоге подростка заставили встать на колени, заломили руки и надели наручники.

Позже директор школы Кэти Смит сообщила родителям, что сигнал тревоги уже был отменён службой безопасности, но она об этом не знала и вызвала школьного охранника, который связался с полицией.

Компания Omnilert, управляющая системой ИИ, извинилась за произошедшее и заявила, что «сожалеет о случившемся и сочувствует ученику и всем, кого затронули эти события». При этом в Omnilert добавили, что «система сработала так, как была задумана».

Весной мы анализировали, можно ли доверять ИИ и что стоит за такими понятиями, как галлюцинации и контроль достоверности ИИ.

Алиса AI может получить расширенный доступ к приложениям и данным россиян

Минцифры обсуждает обновление правил предустановки отечественного ПО на ввозимую в Россию электронику. Одним из главных кандидатов на повышение стала Алиса AI. Помощник от Яндекса может получить статус системного сервиса и расширенный доступ к функциям устройства.

По данным источников «Коммерсанта», речь идёт не только о праве на предустановку.

ИИ-помощник потенциально сможет взаимодействовать с приложениями, уведомлениями, средствами аутентификации и аппаратными возможностями. Собеседники издания допускают даже доступ к банковским и другим программам, обрабатывающим конфиденциальную информацию, а также хранение полученных данных на инфраструктуре разработчика.

Пока это обсуждаемая инициатива, а не утверждённое правило. В начале августа Минцифры опубликовало проект постановления, предлагавший показывать выбор системного помощника при первом включении устройства. Позже документ исчез с портала нормативных актов и теперь, по данным издания, дорабатывается.

Мера может затронуть смартфоны, планшеты и умные колонки. Под требования предлагается подвести помощников, созданных на базе российских суверенных или национальных фундаментальных моделей. Источники считают, что одновременно это может ограничить позиции Siri, Alexa, Google Assistant и зарубежных ИИ-моделей.

На официально поставляемых Android-смартфонах выбор помощника можно встроить на уровне прошивки. С Apple всё сложнее: компания ранее выполняла требования через предложение скачать российские приложения, а после их удаления из App Store получила предупреждение и дело от ФАС.

Эксперты видят в инициативе способ обеспечить доступность российских ИИ-сервисов, но предупреждают о риске монополизации. Для честной конкуренции всем разработчикам потребуется одинаковый доступ к системным API.

RSS: Новости на портале Anti-Malware.ru