Кибермошенники использовали ИИ, чтобы подделать голос гендира компании

Кибермошенники использовали ИИ, чтобы подделать голос гендира компании

Кибермошенники использовали ИИ, чтобы подделать голос гендира компании

Интересный способ мошенничества был отмечен в Британии — киберпреступники использовали искусственный интеллект, чтобы подделать голос генерального директора и заставить служащего перевести $230 000. Инцидент произошёл в марте.

Как пишет The Wall Street Journal, занимающий руководящую должность сотрудник британской энергетической компании думал, что разговаривает со своим начальником — генеральным директором материнской компании, расположенной в Германии.

Представившийся гендиректором человек попросил перевести средства венгерскому поставщику. При этом звонящий отметил, что перевод необходимо осуществить как можно скорее, так как ситуация не терпит отлагательства.

На проведение данной операции управляющему британской «дочкой» сотруднику дали всего час.

Правоохранительные органы совместно с экспертами в области ИИ-технологий пришли к выводу, что мошенники использовали искусственный интеллект для создания максимально точной иллюзии звонка от генерального директора.

Личности преступников на сегодняшний день не установлены. Известно лишь, что злоумышленники задействовали специальное программное обеспечение, позволившее достаточно точно передать немецкий акцент и «мелодию» голоса гендиректора.

Здесь был ИИ: журналистам предложили маркировать нейросетевые материалы

Союз журналистов России выступил за обязательную маркировку материалов, созданных с применением искусственного интеллекта. Причём редакциям предлагают не ограничиваться лаконичным «сделано с помощью ИИ», а подробно объяснять, что именно он делал с текстом.

Согласно рекомендациям СЖР, дисклеймер следует размещать в начале или конце публикации.

В нём нужно указывать конкретную роль технологии: нейросеть могла подготовить черновик, перевести материал, отредактировать его или выполнить другую задачу.

Отдельно предлагается сообщать, участвовал ли человек в проверке результата. Таким образом, читатель сможет понять не только происхождение текста, но и выяснить, посмотрел ли на него живой редактор перед публикацией.

При этом СЖР рекомендует не маркировать как сгенерированный аутентичный контент, если ИИ не участвовал непосредственно в его создании. Это должно предотвратить путаницу.

Инициатива пока оформлена как рекомендации для прессы. Не определены также единая формулировка дисклеймера, критерии значимого участия ИИ и ответственность редакций за отсутствие маркировки.

RSS: Новости на портале Anti-Malware.ru