Отравление ИИ привело к реальному отравлению целой семьи

Отравление ИИ привело к реальному отравлению целой семьи

Отравление ИИ привело к реальному отравлению целой семьи

В Британии целая семья отравилась грибами, воспользовавшись рекомендацией из книги-определителя, сгенерированной искусственным интеллектом. Издание было куплено на неназванной онлайн-платформе и подарено главе семейства незадолго до инцидента.

«Вся моя семья оказалась в больнице из-за случайного отравления грибами. Мы пользовались данными из книги, которую купила моя супруга и подарила мне на день рождения», — такой пост был размещен в социальной сети Reddit.

«Она использовала оформление, схожее с известным справочником Mushrooms UK: A Guide to Harvesting Safe and Edible Mushrooms («Грибы Великобритании: Руководство по сбору съедобных грибов», переиздается уже много лет, — прим. Anti-Malware.ru). К сожалению, книга полна неточностей. Многие иллюстрации в ней сгенерированы нейросетью и не имеют никакого отношения к реальным грибам».

Автор поста нашел много неточностей и в тексте книги. Например, в ней говорилось, что сморчки начинают появляться в августе, хотя их сезон приходится на апрель-май.

При обсуждении обнаружилось, что данная проблема имеет место не первый год. Так, в 2023 г. газета The Guardian писала о том, что на маркетплейсах появились книги, посвященные сбору дикорастущих грибов, сгенерированные искусственным интеллектом, и следование их рекомендациям может быть потенциально опасным. После этой публикации Amazon снял такие книги с продажи. Однако на других платформах они могут оставаться в продаже.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Почти каждый россиянин сталкивался с онлайн-мошенничеством

Сбер и Rambler&Co опубликовали результаты масштабного опроса, в котором приняли участие 156 тыс. россиян. Согласно данным исследования, с онлайн-мошенничеством сталкивались 96% респондентов. Чаще всего участники упоминали телефонное мошенничество (51%), попытки атак через мессенджеры (25%) и электронную почту (15%).

Опрос был приурочен к конференции AI Journey («Путешествие в мир искусственного интеллекта»), которая традиционно проходит в конце ноября. Исследование проводилось в онлайн-формате на ресурсах Rambler&Co.

По данным опроса, 96% участников сталкивались с теми или иными проявлениями онлайн-мошенничества. Помимо звонков и сообщений с вредоносными ссылками, 3% респондентов сообщали о встречах с поддельными приложениями.

Каждый пятый опрошенный (21%) отмечает, что сталкивался с атаками на компании, где он работает или работал ранее. Ещё 6% говорили о кибератаках на организации, услугами которых они пользуются. Треть респондентов узнавала о подобных инцидентах из СМИ и социальных сетей. Среди наиболее серьёзных последствий россияне называют утечки данных (25%) и остановку ключевых бизнес-процессов (19%).

При этом участники опроса слабо осведомлены о том, какие средства защиты применяются в их компаниях. Половина респондентов призналась, что не знает, какие технологии киберзащиты используются работодателем.

Непосредственно пострадали от мошенничества сравнительно немногие. По словам 85% опрошенных, злоумышленникам не удалось похитить у них деньги или имущество. Однако 3% признались, что переводили средства мошенникам онлайн, ещё 1% — передавали наличные через курьеров. Кроме того, 3% загружали вредоносные файлы, 2% вводили платёжные данные на фишинговых сайтах, а 6% потеряли деньги другими способами.

Среди наиболее распространённых средств защиты участники выделяют определители номера (38%) и антивирусные программы (24%). Треть респондентов возлагает большие надежды на новые инструменты на базе искусственного интеллекта. Ещё треть видит основное преимущество ИИ в автоматическом предотвращении мошеннических действий.

Около 30% ожидают появления новых защитных технологий, прежде всего направленных на выявление фишинга. 22% рассчитывают, что интеллектуальные алгоритмы ускорят обнаружение мошеннических схем, а 12% верят, что ИИ поможет эффективнее расследовать такие преступления.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru