В американской школе ИИ принял пакет Doritos за оружие и вызвал полицию

В американской школе ИИ принял пакет Doritos за оружие и вызвал полицию

В американской школе ИИ принял пакет Doritos за оружие и вызвал полицию

В одной из школ округа Балтимор (штат Мэриленд) система безопасности с искусственным интеллектом сработала… на пакет чипсов Doritos. Алгоритм посчитал, что ученик держит в руках пистолет, и вызвал правоохранителей.

Как рассказал телеканалу WBAL старшеклассник Таки Аллен, он просто держал пакет Doritos:

«Я стоял с пакетом, двумя руками и одним пальцем наружу — они сказали, что это похоже на пистолет».

В итоге подростка заставили встать на колени, заломили руки и надели наручники.

Позже директор школы Кэти Смит сообщила родителям, что сигнал тревоги уже был отменён службой безопасности, но она об этом не знала и вызвала школьного охранника, который связался с полицией.

Компания Omnilert, управляющая системой ИИ, извинилась за произошедшее и заявила, что «сожалеет о случившемся и сочувствует ученику и всем, кого затронули эти события». При этом в Omnilert добавили, что «система сработала так, как была задумана».

Весной мы анализировали, можно ли доверять ИИ и что стоит за такими понятиями, как галлюцинации и контроль достоверности ИИ.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Cloud Atlas маскирует атаки под программу форума «Зерно и масличные 2025»

Компания F6 сообщила о новой волне атак кибергруппы Cloud Atlas, нацеленной на российские и белорусские организации. На этот раз злоумышленники маскируют фишинговые письма под рассылку с программой отраслевого форума «Зерно и масличные 2025», который пройдет 30 октября в Москве.

Как уточняют специалисты F6, вредоносное письмо было отправлено на адрес одного из агропромышленных предприятий.

Во вложении находился документ формата .doc, оформленный как приглашение на форум. При открытии файла происходила загрузка вредоносного кода, обеспечивающего атакующим доступ к внутренней сети компании.

В октябре Cloud Atlas также атаковали предприятия оборонно-промышленного комплекса, используя аналогичный приём — рассылку писем под видом официальных запросов демографических данных.

Cloud Atlas действует с 2014 года и известна своими шпионскими кампаниями. Это прогосударственная APT-группировка, специализирующаяся на кибершпионаже и краже конфиденциальной информации. Она применяет многоэтапные атаки, собственные загрузчики и зашифрованные каналы связи, что затрудняет обнаружение.

В конце 2023 года участники Cloud Atlas предлагали россиянам поддержать участников СВО. Год спустя группировка опять атаковала госсектор России и Белоруссии. А в апреле этого года Positive Technologies выявила и пресекла новую кампанию APT-группировки Cloud Atlas, нацеленную на предприятия российского оборонного комплекса.

По данным F6, в 2025 году активность Cloud Atlas заметно выросла. Группа регулярно меняет доменные зоны и тип вредоносных вложений, но сохраняет общую схему заражения.

«Мы наблюдаем системную активность Cloud Atlas, которая активно подбирает тематические приманки под конкретные отрасли — от сельского хозяйства до оборонки. Это указывает на разведывательный характер атак и высокий уровень подготовки группы», — отметили в F6.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru