Минюст: искусственный интеллект нельзя привлечь к уголовной ответственности

Минюст: искусственный интеллект нельзя привлечь к уголовной ответственности

Минюст: искусственный интеллект нельзя привлечь к уголовной ответственности

Если искусственный интеллект совершит преступление, на скамье подсудимых окажется не нейросеть. Такую позицию озвучил заместитель министра юстиции России Вадим Федоров на Петербургском международном юридическом форуме.

По словам замминистра, ИИ не может считаться субъектом преступления, поскольку не обладает сознанием, собственной волей и правосубъектностью.

Даже если система действует автономно, уголовную ответственность должны нести люди, которые стоят за её созданием и использованием.

Федоров отметил, что в зависимости от обстоятельств речь может идти о разработчиках моделей искусственного интеллекта, правообладателях программного обеспечения, операторах ИИ-систем, владельцах сервисов или конечных пользователях.

Именно поэтому, считает Минюст, необходимо чётко определить зоны ответственности всех участников цепочки. По словам замминистра, соответствующая правоприменительная практика уже начинает формироваться, а в России продолжается работа над отдельным законопроектом, посвящённым искусственному интеллекту.

Кроме того, в министерстве предлагают учитывать использование ИИ при квалификации отдельных преступлений. В частности, Вадим Федоров считает необходимым закрепить в законодательстве использование технологий синтеза голоса и создания реалистичных изображений человека как квалифицирующий признак для ряда составов преступлений.

Иными словами, если преступник использовал дипфейки или подделку голоса для обмана жертвы, это может стать обстоятельством, влияющим на квалификацию деяния и последующее наказание.

По мере того как искусственный интеллект используется в мошеннических схемах, вопрос ответственности за его применение становится одним из ключевых для будущего регулирования этой сферы.

В образовательных приложениях нашли более 1000 опасных уязвимостей

Приложения для изучения языков, электронные дневники и сервисы для репетиторов оказались далеко не такими безопасными, как хотелось бы. Специалисты AppSec Solutions проверили 87 популярных образовательных приложений и обнаружили около 2,5 тысячи уязвимостей. Из них 1065 получили высокий или критический уровень опасности.

По сравнению с прошлым годом ситуация заметно ухудшилась. Общее число найденных проблем выросло на 41%, а количество критических уязвимостей — сразу на 56%. Теперь почти каждая вторая обнаруженная проблема относится к высокой или критической категории риска.

Самая частая находка — конфиденциальные данные, оставленные прямо в коде приложения. Речь идет о паролях, токенах доступа, ключах шифрования и параметрах тестовой среды. Если злоумышленник доберётся до такой информации, под угрозой окажутся не только пользователи, но и серверная инфраструктура самого сервиса.

Не менее опасной оказалась уязвимость ArbitraryActivityStart. Она позволяет обращаться к внутренним экранам приложения в обход обычной логики работы. В результате злоумышленник может получить доступ к закрытым функциям, изменить настройки или создать условия для кражи данных пользователя.

Еще одна распространённая проблема — отсутствие защиты от подключения отладчика. Такой дефект значительно упрощает анализ приложения, помогает изучить его внутреннюю логику и в дальнейшем использовать найденные слабые места для взлома.

Как отмечают исследователи, образовательные сервисы особенно активно используют школьники, студенты и преподаватели, а в период экзаменов нагрузка на такие платформы резко возрастает. При этом многие разработчики до сих пор выпускают обновления без полноценной проверки безопасности и не включают регулярное тестирование в процесс разработки.

В итоге приложения, которые должны помогать получать знания, нередко сами становятся источником рисков — причём как для персональных данных пользователей, так и для инфраструктуры образовательных платформ.

RSS: Новости на портале Anti-Malware.ru