В американской школе ИИ принял пакет Doritos за оружие и вызвал полицию

В американской школе ИИ принял пакет Doritos за оружие и вызвал полицию

В американской школе ИИ принял пакет Doritos за оружие и вызвал полицию

В одной из школ округа Балтимор (штат Мэриленд) система безопасности с искусственным интеллектом сработала… на пакет чипсов Doritos. Алгоритм посчитал, что ученик держит в руках пистолет, и вызвал правоохранителей.

Как рассказал телеканалу WBAL старшеклассник Таки Аллен, он просто держал пакет Doritos:

«Я стоял с пакетом, двумя руками и одним пальцем наружу — они сказали, что это похоже на пистолет».

В итоге подростка заставили встать на колени, заломили руки и надели наручники.

Позже директор школы Кэти Смит сообщила родителям, что сигнал тревоги уже был отменён службой безопасности, но она об этом не знала и вызвала школьного охранника, который связался с полицией.

Компания Omnilert, управляющая системой ИИ, извинилась за произошедшее и заявила, что «сожалеет о случившемся и сочувствует ученику и всем, кого затронули эти события». При этом в Omnilert добавили, что «система сработала так, как была задумана».

Весной мы анализировали, можно ли доверять ИИ и что стоит за такими понятиями, как галлюцинации и контроль достоверности ИИ.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Функция семейного доступа на iPhone используется бывшими для абьюза

Гражданка США рассказала, как функция семейного доступа (Apple Family Sharing), созданная для удобного управления устройствами внутри семьи, может использоваться бывшими партнёрами для контроля и психологического давления.

По словам женщины (в публикации Wired её называют Кейт), после развода её бывший муж, который создал семейную группу Apple, использовал сервис, чтобы отслеживать местоположение детей, контролировать их экранное время и вводить ограничения — даже в те дни, когда дети находились с матерью по решению суда.

Проблема в том, что Family Sharing даёт полные права только одному пользователю — «организатору». Остальные члены семьи, включая второго родителя, не могут изменить настройки или вывести детей из группы без его согласия.

Даже при наличии судебного решения о передаче опеки Apple не может вмешаться: сотрудники поддержки лишь сочувствуют, но признают, что технически ничего сделать нельзя.

Совет, который обычно дают в таких случаях, — создать новые Apple ID и начать всё заново. Но это означает потерю не только покупок, но и личных фотографий и видео, накопленных за годы.

Эксперты и пользователи уже давно критикуют отсутствие в системе роли второго администратора, что делает сервис уязвимым в ситуациях развода или конфликта. Как отмечает Wired, история Кейт — не единичный случай. Apple на запрос журналистов комментировать проблему отказалась.

Даже при наличии судебного решения о передаче опеки Apple не может вмешаться: сотрудники поддержки лишь сочувствуют, но признают, что технически ничего сделать нельзя.

Совет, который обычно дают в таких случаях, — создать новые Apple ID и начать всё заново. Но это означает потерю не только покупок, но и личных фотографий и видео, накопленных за годы.

Эксперты и пользователи уже давно критикуют отсутствие в системе роли второго администратора, что делает сервис уязвимым в ситуациях развода или конфликта. Как отмечает Wired, история Кейт — не единичный случай. Apple на запрос журналистов комментировать проблему отказалась.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru