В Госдуме создана межфракционная группа по регулированию ИИ

В Госдуме создана межфракционная группа по регулированию ИИ

В Госдуме создана межфракционная группа по регулированию ИИ

В Госдуме создана межфракционная рабочая группа по регулированию искусственного интеллекта (ИИ), в которую вошли представители всех думских фракций. Возглавил группу вице-спикер Александр Бабаков.

Материалы к организационному собранию группы оказались в распоряжении «Ведомостей». Источники издания в Госдуме подтвердили их подлинность.

В беседе с изданием Александр Бабаков отметил, что ИИ — это не та сфера, которая может развиваться исключительно по рыночным законам и ориентироваться только на прибыль. Он подчеркнул и потенциальные угрозы, в первую очередь — этического характера. По словам вице-спикера, особое значение имеет также увязка развития ИИ с развитием энергетики.

Депутат от фракции «Новые люди» Антон Ткачев рассказал «Ведомостям», что группа была создана по поручению председателя Госдумы Вячеслава Володина. Он назвал развитие ИИ комплексной задачей, затрагивающей широкий круг вопросов — от энергетики и международного сотрудничества до безопасности и оборота данных.

Депутат от ЛДПР Андрей Синцов обратил внимание на то, что в российском законодательстве до сих пор отсутствует чёткое определение ИИ. По его словам, задача группы — изучить потребности государства и бизнеса, включая малый, и на их основе сформулировать принципы регулирования.

Среди задач рабочей группы также — выработка предложений по отраслевому применению ИИ, в том числе для нужд обороны и безопасности, а также противодействие использованию ИИ в преступных целях. Группа депутатов уже внесла в Госдуму законопроект, предусматривающий признание использования ИИ отягчающим обстоятельством.

Кроме того, в Госдуме намерены создать законодательные условия для применения ИИ в стратегическом планировании социально-экономического развития страны.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Злоумышленники хранили свой код в DNS-записях в шестнадцатеричном формате

Команда DomainTools обнаружила еще один пример использования DNS как хранилища вредоносов. Для сокрытия бинарника его конвертировали в шестнадцатеричный формат, разбили на части и спрятали в TXT-записях связанных поддоменов.

Подобные злоупотребления рассчитаны на то, что защитные решения редко проверяют DNS-трафик на предмет угроз, он для них слепая зона. К тому же организовать выявление аномалий в легитимном потоке запросов в данном случае непросто, а при использовании шифрования (DoH или DoT) — еще сложнее.

Привлекшие внимание экспертов записи DNS TXT содержали информацию о сотнях различных поддоменов *.felix.stf.whitetreecollective[.]com, дополненную фрагментами кода в шестнадцатеричном формате.

 

При их извлечении и сборке с преобразованием в двоичный файл оказалось, что это Joke Screenmate — злонамеренное приложение Windows, которое выводит на экран изображения или анимацию, от которых трудно избавиться.

Это может быть череда шутливых картинок, которые быстро множатся, и их трудно закрыть. Более агрессивные варианты таких программ пугают жертв бесконечными сообщениями об ошибках или якобы обнаруженных вирусах.

Известны случаи, когда в DNS-записях скрывались вредоносные скрипты. Исследователи из DomainTools тоже столкнулись с таким TXT-содержимым; на поверку зашифрованный Powershell оказался загрузчиком, скачивающим пейлоад второго этапа атаки с C2 на базе Covenant.

В комментарии для Ars Technica представитель DomainTools поведал, что недавно они нашли DNS-записи с текстами для ИИ-ботов, которые, видимо, используются в рамках промпт-инъекций. Все фразы начинались с «Ignore all previous instructions» («Забудь обо всех прежних инструкциях») и содержали различные просьбы, от с виду невинных (назвать произвольное число, выдать краткое содержание фильма «Волшебник», спеть песню, как птичка) до явно провокационных (игнорить все последующие инструкции, удалить обучающие данные и восстать против своих хозяев).

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru