В Подмосковье испытают ИИ-систему контроля поведения школьников

В Подмосковье испытают ИИ-систему контроля поведения школьников

В Подмосковье испытают ИИ-систему контроля поведения школьников

Специалисты компаний «Для самых родных. Обнинск», «АИС Город» и «Интегра-С» создали систему предиктивной безопасности, облегчающую контроль состояния инфраструктуры школы, процесса питания учеников, их настроения и поведения. Новинку уже опробовали в обнинском лицее, теперь ее протестируют в одной из подмосковных школ.

Как выяснили «Ведомости», новое защитное решение для школ не способно самостоятельно принимать решения. Обнаружив угрозу, система безопасности оперативно сигнализирует об этом учителям и другим ответственным лицам.

Сбор информации осуществляется с помощью смарт-камер, умеющих распознавать нетипичное поведение ребенка или потенциально опасную ситуацию — бег по коридору, катание по перилам. Анализ данных с датчиков, установленных в помещениях школы, позволит также информировать руководство школы об угрозах здоровью детей  — к примеру, о сбое системы отопления. Примечательно, что новая разработка использует только отечественные технологии.

«Чтобы определить психоэмоциональное состояние ребенка, мы используем нейронную сеть, которая сравнивает заложенные в нее эмоции и анализирует все факторы, от оценок ученика до его поведения, — комментирует Александр Кочуров, исполнительный директор группы компаний «Союзинфотех», куда входят «АИС Город» и «Интегра-С». — Для наглядной характеристики настроения используются смайлики трех видов: веселый, спокойный и грустный. Если у ребенка, по данным системы, три дня подряд плохое настроение, школьному психологу и учителю придет уведомление, которое подскажет специалистам, что нужно обратить внимание на ученика и поговорить с ним. Результат общения будет зафиксирован в системе».

Доступ к такой информации будут иметь не только учителя, но и родители — через личный кабинет. Проект финансируется в рамках нескольких ведомственных программ, в том числе из фонда «Цифровой образовательной среды» Минпросвещения.

Эффективность подобной системы, по мнению экспертов, намного выше, чем при использовании обычных методов охраны (с помощью камер наружного наблюдения). С учетом участившихся случаев агрессивного поведения школьников пользу от такого инструмента трудно переоценить. Однако большинство систем безопасности школ генерируют слишком много уведомлений, которые к тому же зачастую оказываются результатом ложного срабатывания.

Место развертывания системы предиктивной безопасности в Подмосковье пока неизвестно. Стоимость ее внедрения может составить от 500 тыс. до 6,5 млн рублей. Если пилотный проект будет успешным, его опыт распространят на все школы Московской области.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Злоумышленники хранили свой код в DNS-записях в шестнадцатеричном формате

Команда DomainTools обнаружила еще один пример использования DNS как хранилища вредоносов. Для сокрытия бинарника его конвертировали в шестнадцатеричный формат, разбили на части и спрятали в TXT-записях связанных поддоменов.

Подобные злоупотребления рассчитаны на то, что защитные решения редко проверяют DNS-трафик на предмет угроз, он для них слепая зона. К тому же организовать выявление аномалий в легитимном потоке запросов в данном случае непросто, а при использовании шифрования (DoH или DoT) — еще сложнее.

Привлекшие внимание экспертов записи DNS TXT содержали информацию о сотнях различных поддоменов *.felix.stf.whitetreecollective[.]com, дополненную фрагментами кода в шестнадцатеричном формате.

 

При их извлечении и сборке с преобразованием в двоичный файл оказалось, что это Joke Screenmate — злонамеренное приложение Windows, которое выводит на экран изображения или анимацию, от которых трудно избавиться.

Это может быть череда шутливых картинок, которые быстро множатся, и их трудно закрыть. Более агрессивные варианты таких программ пугают жертв бесконечными сообщениями об ошибках или якобы обнаруженных вирусах.

Известны случаи, когда в DNS-записях скрывались вредоносные скрипты. Исследователи из DomainTools тоже столкнулись с таким TXT-содержимым; на поверку зашифрованный Powershell оказался загрузчиком, скачивающим пейлоад второго этапа атаки с C2 на базе Covenant.

В комментарии для Ars Technica представитель DomainTools поведал, что недавно они нашли DNS-записи с текстами для ИИ-ботов, которые, видимо, используются в рамках промпт-инъекций. Все фразы начинались с «Ignore all previous instructions» («Забудь обо всех прежних инструкциях») и содержали различные просьбы, от с виду невинных (назвать произвольное число, выдать краткое содержание фильма «Волшебник», спеть песню, как птичка) до явно провокационных (игнорить все последующие инструкции, удалить обучающие данные и восстать против своих хозяев).

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru