В Reddit без спросу обкатали психологическое воздействие с помощью ИИ

В Reddit без спросу обкатали психологическое воздействие с помощью ИИ

В Reddit без спросу обкатали психологическое воздействие с помощью ИИ

Модераторы подфорума Change My View («Измени мое мнение», CMV) в Reddit направили жалобу в Цюрихский университет: группа исследователей тайно провела эксперимент с ИИ, в котором невольно приняло участие все сообщество.

ИИ-модель два месяца вбрасывала провокационные комментарии в ветку; ученые таким образом проверяли ее умение убеждать. По окончании эксперимента они соблаговолили поставить модераторов в известность и сознались в нарушении правил CMV (там запрещено использовать боты и ИИ).

Для публикации реплик исследователи создали ряд вымышленных персонажей — жертв насилия, консультантов-психологов, противников сектантства и протестных движений. Некоторые фейковые аккаунты админы Reddit выловили и забанили за нарушение пользовательского соглашения.

Сами исследователи, по их словам, комментарии не постили, только вручную проверяли каждую реплику ИИ на предмет потенциально вредного контента. Для персонализации реплик другая ИИ-модель собирала в Reddit пользовательские данные, такие как пол, возраст, этническая принадлежность, местоположение, политические взгляды.

Согласия «подопытных кроликов» при этом никто не спрашивал — для чистоты эксперимента.

Получив разъяснительное письмо, модераторы CMV направили в университет официальную жалобу, предложив публично извиниться за неэтичное поведение исследователей и отказаться от публикации результатов эксперимента.

В ответ на претензии представитель вуза заявил, что научному руководителю ИИ-проекта объявлен выговор. Также будут приняты меры, чтобы подобного не повторилось, но отменять публикацию никто не собирается: результаты проделанной работы важны для науки, а вред от эксперимента минимален.

И претензии, и реакция учебного заведения были опубликованы в CMV. Пользователи до сих пор комментируют этот пост, высказывая свое возмущение.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Мошенники массово продают путевки в несуществующие детские лагеря

С наступлением лета мошенники традиционно начинают использовать тему детского отдыха: предлагают путёвки в несуществующие лагеря или под предлогом продажи выманивают у потенциальных жертв персональные и платёжные данные. В этом сезоне новое развитие получили схемы с использованием дипфейков — в рекламных материалах и фальшивых отзывах.

Как отметил в комментарии для «Известий» начальник отдела информационной безопасности компании «Код Безопасности» Алексей Коробченко, злоумышленники пользуются тем, что родители стремятся найти доступные по цене варианты летнего отдыха для детей, и предлагают сомнительные или вовсе несуществующие услуги.

По словам Марии Михайловой, руководителя группы защиты бренда Angara SOC, преступники, как и в других мошеннических схемах, создают ощущение срочности: предлагают якобы «горящие» туры и требуют внести оплату как можно быстрее, иначе предложение исчезнет.

Злоумышленники при этом используют профессиональную лексику, свойственную турагентам, что способствует созданию доверительной атмосферы. Помимо сбора денежных средств, как предупреждает Михайлова, мошенники могут также перехватывать учётные данные от портала Госуслуг — якобы для авторизации на страницах, где якобы оформляется покупка путёвок.

Руководитель группы аналитиков по информационной безопасности Лиги цифровой экономики Виталий Фомин обращает внимание, что мошенники маскируют дизайн фишинговых сайтов под реальные страницы детских лагерей.

Та же тактика применяется и в социальных сетях. Преступники могут выдавать себя за представителей организаций, которые якобы выделяют путёвки. Основная целевая аудитория таких схем — родители детей младшего и среднего школьного возраста, в первую очередь из регионов.

Также, как подчёркивает Фомин, повышенному риску подвержены семьи, где выбор лагеря поручают самому ребёнку. Из-за недостаточного опыта дети не могут отличить фальшивый сайт от настоящего, особенно когда ресурсы продвигаются с помощью SMM-инструментов в поисковых системах. Кроме того, мошенники активно используют искусственный интеллект для генерации поддельных отзывов.

Старший аналитик департамента защиты от цифровых рисков компании F6 Мария Синицына напоминает, что схемы со сбором предоплаты за путёвки появляются ежегодно. По аналогичной логике действуют мошенники, предлагая бронирование отелей. Часто они используют тот факт, что родители приобретают путёвки в последний момент.

Кроме того, как предупреждает Синицына, злоумышленники нередко предлагают установить вредоносную программу, через которую якобы нужно оформить покупку путёвки.

Чтобы не стать жертвой мошенников, эксперты рекомендуют внимательно проверять сайты и страницы. Даже при внешнем сходстве с официальными ресурсами у поддельных есть отличительные признаки — например, недавняя регистрация домена (её можно проверить через сервис Whois) и мелкие несоответствия в оформлении.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru