Кибермошенники использовали ИИ, чтобы подделать голос гендира компании

Кибермошенники использовали ИИ, чтобы подделать голос гендира компании

Кибермошенники использовали ИИ, чтобы подделать голос гендира компании

Интересный способ мошенничества был отмечен в Британии — киберпреступники использовали искусственный интеллект, чтобы подделать голос генерального директора и заставить служащего перевести $230 000. Инцидент произошёл в марте.

Как пишет The Wall Street Journal, занимающий руководящую должность сотрудник британской энергетической компании думал, что разговаривает со своим начальником — генеральным директором материнской компании, расположенной в Германии.

Представившийся гендиректором человек попросил перевести средства венгерскому поставщику. При этом звонящий отметил, что перевод необходимо осуществить как можно скорее, так как ситуация не терпит отлагательства.

На проведение данной операции управляющему британской «дочкой» сотруднику дали всего час.

Правоохранительные органы совместно с экспертами в области ИИ-технологий пришли к выводу, что мошенники использовали искусственный интеллект для создания максимально точной иллюзии звонка от генерального директора.

Личности преступников на сегодняшний день не установлены. Известно лишь, что злоумышленники задействовали специальное программное обеспечение, позволившее достаточно точно передать немецкий акцент и «мелодию» голоса гендиректора.

Частое общение с ИИ-ботами не проходит бесследно: из людей посыпался слоп

ИИ настолько стремительно вторгся в нашу жизнь, охватив многие ее аспекты, что начал даже оказывать влияние на манеру изъясняться. Люди, сами того не замечая, все чаще употребляют замысловатые словечки и фразы из репертуара ChatGPT.

Как оказалось, расширение использования больших языковых моделей (БЯМ, LLM) не только пошло им на пользу, но также записало на подкорку живых собеседников странный диалект, выработанный ИИ в ходе генерации текстов.

В июле прошлого года институт Макса Планка опубликовал результаты исследования влияния LLM на речевые коммуникации homo sapiens. Как оказалось, за 18 месяцев с момента запуска ChatGPT словарь пользователей YouTube сильно изменился, обогатившись такими выпадающими из стиля и контекста словами, как underscore (сделать акцент на…), comprehend (осмыслить, объять), bolster (консолидировать), inquiry (изыскание), meticulous (скрупулезный, доскональный, филигранный).

Недавно были выявлены похожие, но более анекдотичные случаи. Так, модераторы Reddit-веток, в которых участники сообществ со смаком обсуждают дерзкие проступки, никак не могут избавиться от слопа — постов, переписанных с помощью ИИ, а также участников дискуссий, разговаривающих в том же духе, которых невозможно отличить от чат-ботов.

Писатель Сэм Крисс (Sam Kriss) изучил последние публикации в New York Times Magazine и обнаружил, что их авторы явно злоупотребляют словом «delve» (штудировать), позаимствованным у ИИ.

Исследователь также отметил, что даже британские парламентарии не брезгуют советоваться с ChatGPT, подготавливая свою речь. Об этом свидетельствует фраза «I rise to speak», однажды озвученная за день 26 раз, — характерная для американского английского, но совершенно неуместная при выступлении в Вестминстерском дворце.

Еще один курьез, подмеченный Киссом: в сентябрьских объявлениях о закрытии Starbucks кофейни были названы «неотъемлемой частью вашего суточного режима, пробуждающей воспоминания», а также «местом, где наше конструктивное общение с партнерами с годами только крепло». Текст был явно навеян общением с ИИ, если только не создан с его непосредственным участием.

RSS: Новости на портале Anti-Malware.ru