В американской школе ИИ принял пакет Doritos за оружие и вызвал полицию

В американской школе ИИ принял пакет Doritos за оружие и вызвал полицию

В американской школе ИИ принял пакет Doritos за оружие и вызвал полицию

В одной из школ округа Балтимор (штат Мэриленд) система безопасности с искусственным интеллектом сработала… на пакет чипсов Doritos. Алгоритм посчитал, что ученик держит в руках пистолет, и вызвал правоохранителей.

Как рассказал телеканалу WBAL старшеклассник Таки Аллен, он просто держал пакет Doritos:

«Я стоял с пакетом, двумя руками и одним пальцем наружу — они сказали, что это похоже на пистолет».

В итоге подростка заставили встать на колени, заломили руки и надели наручники.

Позже директор школы Кэти Смит сообщила родителям, что сигнал тревоги уже был отменён службой безопасности, но она об этом не знала и вызвала школьного охранника, который связался с полицией.

Компания Omnilert, управляющая системой ИИ, извинилась за произошедшее и заявила, что «сожалеет о случившемся и сочувствует ученику и всем, кого затронули эти события». При этом в Omnilert добавили, что «система сработала так, как была задумана».

Весной мы анализировали, можно ли доверять ИИ и что стоит за такими понятиями, как галлюцинации и контроль достоверности ИИ.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Альфа-Банк повысил выплаты баг-хантерам до миллиона рублей за уязвимость

Альфа-Банк увеличил максимальное вознаграждение по программе поиска уязвимостей до 1 миллиона рублей. Соответствующая программа действует на платформе BI.ZONE Bug Bounty и охватывает мобильные и веб-приложения, публичные API и инфраструктуру банка.

Это уже второе повышение суммы выплат за время существования программы. По словам представителей банка, шаг направлен на развитие взаимодействия с исследовательским сообществом и повышение уровня защиты цифровых сервисов.

Сергей Крамаренко, руководитель департамента кибербезопасности Альфа-Банка, отметил, что за три года работы программа помогла значительно укрепить безопасность и выстроить доверительное сотрудничество с исследователями.

Руководитель продукта BI.ZONE Bug Bounty Андрей Лёвкин добавил, что финансовый сектор остаётся одной из ключевых целей злоумышленников, поэтому участие независимых экспертов в поиске уязвимостей особенно важно.

Теперь за найденные критические уязвимости исследователи смогут получить до миллиона рублей, а за менее значительные ошибки — меньшие, но также ощутимые суммы.

Напомним, в июле Сбер открыл новую программу баг-баунти на платформе BI.ZONE Bug Bounty — теперь баг-хантеры могут проверить защищённость сервисов СберБизнеса, интернет-банка для предпринимателей и юрлиц.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru