В Подмосковье испытают ИИ-систему контроля поведения школьников

В Подмосковье испытают ИИ-систему контроля поведения школьников

В Подмосковье испытают ИИ-систему контроля поведения школьников

Специалисты компаний «Для самых родных. Обнинск», «АИС Город» и «Интегра-С» создали систему предиктивной безопасности, облегчающую контроль состояния инфраструктуры школы, процесса питания учеников, их настроения и поведения. Новинку уже опробовали в обнинском лицее, теперь ее протестируют в одной из подмосковных школ.

Как выяснили «Ведомости», новое защитное решение для школ не способно самостоятельно принимать решения. Обнаружив угрозу, система безопасности оперативно сигнализирует об этом учителям и другим ответственным лицам.

Сбор информации осуществляется с помощью смарт-камер, умеющих распознавать нетипичное поведение ребенка или потенциально опасную ситуацию — бег по коридору, катание по перилам. Анализ данных с датчиков, установленных в помещениях школы, позволит также информировать руководство школы об угрозах здоровью детей  — к примеру, о сбое системы отопления. Примечательно, что новая разработка использует только отечественные технологии.

«Чтобы определить психоэмоциональное состояние ребенка, мы используем нейронную сеть, которая сравнивает заложенные в нее эмоции и анализирует все факторы, от оценок ученика до его поведения, — комментирует Александр Кочуров, исполнительный директор группы компаний «Союзинфотех», куда входят «АИС Город» и «Интегра-С». — Для наглядной характеристики настроения используются смайлики трех видов: веселый, спокойный и грустный. Если у ребенка, по данным системы, три дня подряд плохое настроение, школьному психологу и учителю придет уведомление, которое подскажет специалистам, что нужно обратить внимание на ученика и поговорить с ним. Результат общения будет зафиксирован в системе».

Доступ к такой информации будут иметь не только учителя, но и родители — через личный кабинет. Проект финансируется в рамках нескольких ведомственных программ, в том числе из фонда «Цифровой образовательной среды» Минпросвещения.

Эффективность подобной системы, по мнению экспертов, намного выше, чем при использовании обычных методов охраны (с помощью камер наружного наблюдения). С учетом участившихся случаев агрессивного поведения школьников пользу от такого инструмента трудно переоценить. Однако большинство систем безопасности школ генерируют слишком много уведомлений, которые к тому же зачастую оказываются результатом ложного срабатывания.

Место развертывания системы предиктивной безопасности в Подмосковье пока неизвестно. Стоимость ее внедрения может составить от 500 тыс. до 6,5 млн рублей. Если пилотный проект будет успешным, его опыт распространят на все школы Московской области.

Подпишитесь на новости

Apple взялась за интимные ИИ-подделки и грозит разработчикам изгнанием

Apple ужесточила правила App Store против приложений, создающих интимные ИИ-подделки реальных людей без их согласия. Разработчикам придётся предотвращать появление такого контента и удалять его. Иначе приложение рискует отправиться на выход.

Как сообщает 9to5Mac, компания также прямо запретила включать скрытые функции после прохождения проверки.

Именно такой фокус используют некоторые сервисы для раздевания: модераторам показывают безобидную программу, а затем подменяют начинку.

Теперь за подобные трюки можно лишиться не только приложения в магазине, но и участия в Apple Developer Program.

В материале также приводится история Grok от xAI. После угрозы удаления со стороны Apple разработчики чат-бота внедрили защитные меры против подобного контента.

Речь именно об интимных изображениях без согласия человека. Объявлять, что Apple запретила вообще любые дипфейки, было бы перебором. Но авторам придётся адаптироваться, поскольку спрятать функцию от модераторов и спокойно собирать установки теперь ещё рискованнее.

RSS: Новости на портале Anti-Malware.ru