Минюст США создал важный прецедент

Минюст США создал важный прецедент

Минюст США создал важный прецедент

Американский Минюст возбудил два уголовных дела против авторов порнографических изображений с участием детей, сгенерированных с помощью технологии дипфейк.

Ведомство заявило, что расширит практику привлечения к ответственности изготовителей и распространителей такого рода продукции.

Начальник Отдела по борьбе с киберпреступностью и нарушениями интеллектуальной собственности Министерства юстиции США Джеймс Сильвер заявил корреспонденту агентства «Рейтер», что только двумя данными случаями дело не ограничится.

Он отметил, что его лично и многих его коллег крайне беспокоит нормализация практики использования генеративного искусственного интеллекта для создания порнографических изображений, в том числе с участием детей, и это способствует все большему ее распространению.

«Мы намерены этому противодействовать», — резюмировал Джеймс Сильвер.

Однако первый такой прецедент не развеял опасения юридического сообщества в том, что вынесенные обвинительные приговоры могут быть обжалованы. Суды также не вполне готовы к рассмотрению дел, где обвиняемые использовали искусственный интеллект.

Тем более в США было как минимум два случая, когда распространителям таких изображений удавалось или избежать ответственности, или понести наказание по существенно более легкой статье, не связанной с распространением детской порнографии. Они воспользовались тем, что изображения, которые у них нашли, не относились к кому-то конкретно.

Беспокойство правоохранителей и организаций, занимающихся защитой прав детей также вызывает то, что широкое распространение материалов, сгенерированных искусственным интеллектом, станет своего рода дымовой завесой, за которой будут скрываться факты насилия над реальными детьми и подростками.

Национальный центр по делам пропавших и эксплуатируемых детей фиксирует в среднем около 450 обращений, связанных со сгенерированными искусственным интеллектом изображений с участием детей. Общее же число обращений в эту организацию, как заявила ее юридический консультант Ийота Соурас, превышает 3 миллиона.

Однако Ребекка Портнофф, вице-президент правозащитной организации Thorn, заявила, что не стоит рассматривать данную проблему лишь как дело будущего, иначе она выйдет из-под контроля. И для ее решения нужно действовать по всем направлениям, как влияя на разработчиков систем генерации изображений, так и через правоохранительную систему.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Использование порнодипфейков становится одним из приемов кибербуллинга

Использование нейросетевых технологий для создания порнографических дипфейков сверстников стало широко распространённой практикой в разных странах. Эксперты предупреждают, что подобные случаи могут массово появиться и в России — предпосылки к этому уже есть, а надёжных механизмов противодействия пока не существует.

На проблему активного распространения дипфейков с интимным содержанием как формы подросткового кибербуллинга обратил внимание Центр киберполитики Стэнфордского университета. Ни законодательство, ни школа, ни родители, ни правоохранители пока не готовы к системной реакции на эту угрозу.

В России проблема кибербуллинга также стоит остро. Согласно исследованию проекта «#МЫСЧИТАЕМ», каждый пятый школьник сталкивался с травлей в интернете. По данным центра «Безопасность 2.0», на кибербуллинг приходится 23% всех сетевых конфликтов.

Одна из самых распространённых форм такой травли — это распространение фотомонтажей. Однако, как отмечает Александр Вураско, директор по развитию центра мониторинга внешних цифровых угроз, на смену им может прийти использование нейросетей:

«Если раньше для создания фейкового изображения требовались навыки работы с графикой, то теперь достаточно пары кликов — нейросеть сама сгенерирует нужное фото или даже видео. Подростки вполне могут начать использовать дипфейки как способ давления. Такие случаи, скорее всего, уже фиксировались в России, и их будет становиться больше».

Ранее СМИ сообщали об использовании интимных материалов, в том числе сфабрикованных, для шантажа, вымогательства или мести. Как правило, жертвами становились публичные или обеспеченные люди, а также участники острых личных конфликтов.

Павел Коваленко, директор Центра противодействия мошенничеству, отмечает, что современные инструменты позволяют легко «подтвердить» любую сплетню, усиливая давление на жертву. По словам эксперта по социотехническому тестированию Якова Филевского, несмотря на санкции, доступ к таким инструментам сохраняется — в том числе у подростков.

Особую тревогу вызывает эмоциональная уязвимость подростков. Как подчёркивает Вураско, в случае с дипфейками травля может перейти за пределы онлайна и серьёзно повлиять на психоэмоциональное состояние ребёнка.

«Распространение подобных материалов может привести к социальной изоляции жертвы. Не все способны отличить дипфейк от реальности, и это ведёт к травмам, ощущению враждебности и несправедливости», — добавляет Коваленко.

В качестве основных мер защиты эксперты называют повышение осведомлённости. Подростки должны понимать, что подобные действия могут разрушить чью-то жизнь. Также необходимо развивать цифровую грамотность — в том числе навыки распознавания дипфейков. Их могут выдать искажённый фон, странная мимика, неестественные движения или артефакты звука.

Филевский советует не выкладывать в открытый доступ фотографии в откровенных образах, например в купальнике — такие снимки проще всего использовать для создания дипфейков интимного характера.

Екатерина Едемская, инженер-аналитик в области ИБ, подчёркивает важность поддержки подростков, ставших жертвами подобных атак. Важно, чтобы ребёнок чувствовал, что его защищают, а не обвиняют. Обязательно нужна и психологическая помощь — дипфейк с интимным содержанием способен вызвать серьёзную травму.

Также специалист рекомендует сохранять доказательства: ссылки, скриншоты, имена пользователей и адреса страниц. Эти материалы помогут обратиться в администрацию школы, к родителям и в правоохранительные органы. Кроме того, важно подать жалобы в администрацию интернет-платформ, где размещён вредоносный контент.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru