Сбербанк рассказал о применении ИИ в сфере кибербезопасности

Сбербанк рассказал о применении ИИ в сфере кибербезопасности

Сбербанк рассказал о применении ИИ в сфере кибербезопасности

Сбербанк применяет искусственный интеллект в сфере кибербезопасности, сообщил глава банка Герман Греф в ходе пленарного заседания форума «Открытые инновации» в Сколково. Машинное обучение применяется для борьбы с социальной инженерией, которую активно используют мошенники.

"Сегодня фактически нет ни одной области нашего бизнеса, в которой мы бы не применяли искусственный интеллект. В финансовом бизнесе это пять ключевых направлений", - сказал топ-менеджер.

Он сообщил, что первое направление - это финансовый эдвайзинг, его компоненты - персональные финансовые менеджеры, боты, отвечающие на типовые вопросы, использование такого эдвайзинга в колл-центре, передает rns.online.

"За этим огромное будущее. Я думаю, что буквально через 3-5 лет у нас не останется на этой должности людей, потому что каждый день искусственный интеллект учится и становится все более и более точным в своих ответах и прогнозах", - отметил Греф.

Он пояснил, что второе направление - анализ big data, третье - кибербезопасность, четвертое - анализ клиентов, пятое - автоматизация деятельности банка.

«Третье направление — это, конечно, кибербезопасность. Мы, наверное, самая большая транзакционная организация в стране. У нас на пике примерно 7-8 тыс. транзакций...И анализировать эти транзакции можно только с использованием искусственного интеллекта, что мы сейчас и делаем. По опросам, 74% клиентов предпочитают безопасность транзакций по кредитным картам такой приятной вещи, как, например, кэшбэк. И безопасность входит в число самых главных приоритетов наших клиентов. Все, что связано с кибербезопаснотью, это то, где мы каждый день используем искусственный интеллект. Машины каждый день учатся с тем, чтобы бороться с хакерами, с тем, что мы называем социальной инженерией, когда человек сам вовлечён в процесс списания собственных денег», — сказал он.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

В Reddit без спросу обкатали психологическое воздействие с помощью ИИ

Модераторы подфорума Change My View («Измени мое мнение», CMV) в Reddit направили жалобу в Цюрихский университет: группа исследователей тайно провела эксперимент с ИИ, в котором невольно приняло участие все сообщество.

ИИ-модель два месяца вбрасывала провокационные комментарии в ветку; ученые таким образом проверяли ее умение убеждать. По окончании эксперимента они соблаговолили поставить модераторов в известность и сознались в нарушении правил CMV (там запрещено использовать боты и ИИ).

Для публикации реплик исследователи создали ряд вымышленных персонажей — жертв насилия, консультантов-психологов, противников сектантства и протестных движений. Некоторые фейковые аккаунты админы Reddit выловили и забанили за нарушение пользовательского соглашения.

Сами исследователи, по их словам, комментарии не постили, только вручную проверяли каждую реплику ИИ на предмет потенциально вредного контента. Для персонализации реплик другая ИИ-модель собирала в Reddit пользовательские данные, такие как пол, возраст, этническая принадлежность, местоположение, политические взгляды.

Согласия «подопытных кроликов» при этом никто не спрашивал — для чистоты эксперимента.

Получив разъяснительное письмо, модераторы CMV направили в университет официальную жалобу, предложив публично извиниться за неэтичное поведение исследователей и отказаться от публикации результатов эксперимента.

В ответ на претензии представитель вуза заявил, что научному руководителю ИИ-проекта объявлен выговор. Также будут приняты меры, чтобы подобного не повторилось, но отменять публикацию никто не собирается: результаты проделанной работы важны для науки, а вред от эксперимента минимален.

И претензии, и реакция учебного заведения были опубликованы в CMV. Пользователи до сих пор комментируют этот пост, высказывая свое возмущение.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru