В американской школе ИИ принял пакет Doritos за оружие и вызвал полицию

В американской школе ИИ принял пакет Doritos за оружие и вызвал полицию

В американской школе ИИ принял пакет Doritos за оружие и вызвал полицию

В одной из школ округа Балтимор (штат Мэриленд) система безопасности с искусственным интеллектом сработала… на пакет чипсов Doritos. Алгоритм посчитал, что ученик держит в руках пистолет, и вызвал правоохранителей.

Как рассказал телеканалу WBAL старшеклассник Таки Аллен, он просто держал пакет Doritos:

«Я стоял с пакетом, двумя руками и одним пальцем наружу — они сказали, что это похоже на пистолет».

В итоге подростка заставили встать на колени, заломили руки и надели наручники.

Позже директор школы Кэти Смит сообщила родителям, что сигнал тревоги уже был отменён службой безопасности, но она об этом не знала и вызвала школьного охранника, который связался с полицией.

Компания Omnilert, управляющая системой ИИ, извинилась за произошедшее и заявила, что «сожалеет о случившемся и сочувствует ученику и всем, кого затронули эти события». При этом в Omnilert добавили, что «система сработала так, как была задумана».

Весной мы анализировали, можно ли доверять ИИ и что стоит за такими понятиями, как галлюцинации и контроль достоверности ИИ.

Windows 11 начнёт автоматически включать усиленную защиту ядра с октября

Microsoft с октября 2026 года начнёт включать функцию «Целостность памяти» по умолчанию на совместимых устройствах с Windows 11. Сейчас этот механизм уже присутствует в системе, но часто требует ручной активации. Скоро Windows Update сделает всё сам — редкий случай, когда внезапная смена настройки должна повысить безопасность.

«Целостность памяти», также известная как Hypervisor-protected Code Integrity (HVCI), работает на базе защиты с использованием виртуализации (VBS).

Система создаёт изолированную среду и разрешает запускать в режиме ядра только доверенный код и драйверы. Это осложняет атаки, при которых вредоносные программы используют уязвимые или подменённые драйверы для захвата компьютера на низком уровне.

Изменение будут распространять вместе с ежемесячными обновлениями качества Windows. Ожидается, что первая волна начнётся с октябрьского Patch Tuesday, запланированного на 13 октября. При активации HVCI операционная система также включит VBS.

Перед изменением настроек Windows проведёт проверку готовности устройства. Это должно снизить риск проблем с несовместимыми драйверами или оборудованием.

ИТ-администраторы сохранят контроль над функцией. Если организация намеренно отключила «Целостность памяти» с помощью политик или существующей конфигурации безопасности, Windows Update не станет включать её обратно. Остальные совместимые компьютеры постепенно получат новый базовый уровень защиты автоматически.

Microsoft объясняет решение желанием сократить объём ручной настройки и подготовить Windows к следующему поколению защитных механизмов.

RSS: Новости на портале Anti-Malware.ru