В Reddit без спросу обкатали психологическое воздействие с помощью ИИ

В Reddit без спросу обкатали психологическое воздействие с помощью ИИ

В Reddit без спросу обкатали психологическое воздействие с помощью ИИ

Модераторы подфорума Change My View («Измени мое мнение», CMV) в Reddit направили жалобу в Цюрихский университет: группа исследователей тайно провела эксперимент с ИИ, в котором невольно приняло участие все сообщество.

ИИ-модель два месяца вбрасывала провокационные комментарии в ветку; ученые таким образом проверяли ее умение убеждать. По окончании эксперимента они соблаговолили поставить модераторов в известность и сознались в нарушении правил CMV (там запрещено использовать боты и ИИ).

Для публикации реплик исследователи создали ряд вымышленных персонажей — жертв насилия, консультантов-психологов, противников сектантства и протестных движений. Некоторые фейковые аккаунты админы Reddit выловили и забанили за нарушение пользовательского соглашения.

Сами исследователи, по их словам, комментарии не постили, только вручную проверяли каждую реплику ИИ на предмет потенциально вредного контента. Для персонализации реплик другая ИИ-модель собирала в Reddit пользовательские данные, такие как пол, возраст, этническая принадлежность, местоположение, политические взгляды.

Согласия «подопытных кроликов» при этом никто не спрашивал — для чистоты эксперимента.

Получив разъяснительное письмо, модераторы CMV направили в университет официальную жалобу, предложив публично извиниться за неэтичное поведение исследователей и отказаться от публикации результатов эксперимента.

В ответ на претензии представитель вуза заявил, что научному руководителю ИИ-проекта объявлен выговор. Также будут приняты меры, чтобы подобного не повторилось, но отменять публикацию никто не собирается: результаты проделанной работы важны для науки, а вред от эксперимента минимален.

И претензии, и реакция учебного заведения были опубликованы в CMV. Пользователи до сих пор комментируют этот пост, высказывая свое возмущение.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

С 1 июля усилен контроль за переводами между картами в России

С 1 июля вступили в силу поправки в Налоговый кодекс, ужесточающие контроль за операциями с банковскими картами. Под особое внимание могут попасть переводы крупных сумм — например, при покупке автомобиля или оплате дорогостоящих услуг вроде туристических поездок.

Как отметила в комментарии «Российской газете» председатель Ассоциации бухгалтеров Северной столицы Светлана Лебедева, теперь банки обязаны передавать в Росфинмониторинг информацию о движении средств и закрытии счетов не только юридических лиц и ИП, но и всех клиентов — включая физлиц.

Также, по словам Лебедевой, в поле зрения контролирующих органов могут попасть регулярные поступления на банковскую карту. Речь может идти об неофициальной зарплате, арендных платежах или оплате товаров и услуг без регистрации в качестве самозанятого.

Заведующий лабораторией доверенного искусственного интеллекта РТУ МИРЭА Юрий Силаев в беседе с RT порекомендовал избегать переводов на суммы, существенно превышающие среднемесячный доход:

«Регулярные переводы разным людям, особенно малознакомым, могут быть расценены как незаконная предпринимательская деятельность. Также не стоит напрямую переводить деньги за дорогостоящие покупки — автомобили, недвижимость, туры. В таких случаях безопаснее использовать безналичный расчёт с оформлением договора».

Силаев добавил, что настороженность, как правило, вызывают только те операции, которые выбиваются из привычной финансовой активности. К числу «безопасных» относятся покупки товаров, оплата услуг и переводы на небольшие суммы в адрес близких через ограниченное число банков и официальные платёжные системы.

По словам Лебедевой, новые меры — часть более широкой стратегии по борьбе с финансовыми преступлениями, включая мошенничество и дроппинг (помощь в обналичивании чужих средств), который недавно стал уголовно наказуем. Ещё одна цель изменений — повышение налоговой дисциплины.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru