ИИ написал более эффективные фишинговые письма, чем человек

ИИ написал более эффективные фишинговые письма, чем человек

ИИ написал более эффективные фишинговые письма, чем человек

Небольшое исследование показало, что третье поколение алгоритма обработки естественного языка GPT-3 можно использовать вместе с платформами «ИИ как сервис» для массовых рассылок целевого фишинга. Более того, специалисты пришли к выводу, что искусственный интеллект способен составлять лучшие фишинговые письма, чем человек.

На самом деле, исследователи уже давно спорят, выгодно ли злоумышленникам будет натренировать алгоритмы машинного обучения таким образом, чтобы они генерировали качественные фишинговые письма.

Уже сейчас массовый фишинг весьма эффективен, при этом достаточно прост в исполнении и подготовке. Тем не менее организовать нечто вроде целевого фишинга уже гораздо сложнее, поскольку там должны учитываться индивидуальные особенности и потребности жертвы.

Именно эту тему обсудили эксперты на конференциях Black Hat и Defcon. В частности, специалисты представили результаты своего эксперимента, в котором они сравнивали эффективность собственных фишинговых писем с тем, что создал искусственный интеллект.

Оба типа электронных писем содержали ссылки, которые не являлись вредоносными в прямом смысле этого слова. Однако такие URL фиксировали каждый клик и каждый переход, давая исследователям подробную картину эффективности.

В результате специалистов удивил тот факт, что люди куда охотнее кликали на ссылки в тех письмах, которые составил ИИ. Причём отрыв от подготовленных людьми сообщений был действительно значительный.

«Как отметили исследователи, натренировать по-настоящему качественную модель довольно трудно — на это уйдут миллионы долларов. Тем не менее можно прибегать к платформам, предоставляющим подобные возможности по модели "ИИ как услуга"», — передаёт Wired объяснения специалиста Юджина Лима.

Roblox может вернуться в Россию после договорённостей с Минцифры

Похоже, Roblox получил шанс официально вернуться в российскую повестку. Минцифры сообщило, что достигло договорённостей с компанией по вопросам защиты несовершеннолетних пользователей и соблюдения требований российского законодательства.

Как заявили в министерстве, переговоры с оператором популярной игровой платформы завершились в начале июня.

Российская сторона указала на проблемы с действующими механизмами модерации и защиты детей. По данным Минцифры, существующие меры не всегда эффективно препятствовали распространению материалов, связанных с пропагандой суицидального поведения, употребления наркотиков и вовлечением несовершеннолетних в противоправную деятельность.

После консультаций Roblox предоставила гарантии внедрения дополнительных мер защиты пользователей.

Одним из ключевых изменений станет запуск возрастного разделения контента. Уже в июне на платформе должны появиться режимы Roblox Kids и Roblox Select, которые позволят ограничивать доступ к играм в зависимости от возраста пользователя.

Кроме того, компания подтвердила обязательства по борьбе с вредоносным и нежелательным контентом, который может негативно влиять на здоровье и развитие детей.

В Минцифры подчеркнули, что поддерживают работу зарубежных цифровых платформ в России при условии соблюдения требований законодательства. По словам представителей ведомства, аналогичный диалог ведётся и с другими иностранными сервисами.

На фоне достигнутых договорённостей Минцифры и Роскомнадзор уже обратились в соответствующие правоохранительные органы с просьбой поддержать снятие ограничений на доступ к Roblox на территории России.

Фактически речь идёт о своеобразной сделке: платформа усиливает контроль за детским контентом и вводит новые возрастные ограничения, а российская сторона готова рассмотреть смягчение действующих ограничительных мер.

Если процесс пойдёт по заявленному сценарию, то миллионы российских игроков могут получить более стабильный доступ к одной из крупнейших игровых платформ мира. А сама история станет редким примером того, как зарубежный цифровой сервис и российские регуляторы смогли договориться без громких конфликтов и многолетних судебных разбирательств.

RSS: Новости на портале Anti-Malware.ru