Отравление ИИ привело к реальному отравлению целой семьи

Отравление ИИ привело к реальному отравлению целой семьи

Отравление ИИ привело к реальному отравлению целой семьи

В Британии целая семья отравилась грибами, воспользовавшись рекомендацией из книги-определителя, сгенерированной искусственным интеллектом. Издание было куплено на неназванной онлайн-платформе и подарено главе семейства незадолго до инцидента.

«Вся моя семья оказалась в больнице из-за случайного отравления грибами. Мы пользовались данными из книги, которую купила моя супруга и подарила мне на день рождения», — такой пост был размещен в социальной сети Reddit.

«Она использовала оформление, схожее с известным справочником Mushrooms UK: A Guide to Harvesting Safe and Edible Mushrooms («Грибы Великобритании: Руководство по сбору съедобных грибов», переиздается уже много лет, — прим. Anti-Malware.ru). К сожалению, книга полна неточностей. Многие иллюстрации в ней сгенерированы нейросетью и не имеют никакого отношения к реальным грибам».

Автор поста нашел много неточностей и в тексте книги. Например, в ней говорилось, что сморчки начинают появляться в августе, хотя их сезон приходится на апрель-май.

При обсуждении обнаружилось, что данная проблема имеет место не первый год. Так, в 2023 г. газета The Guardian писала о том, что на маркетплейсах появились книги, посвященные сбору дикорастущих грибов, сгенерированные искусственным интеллектом, и следование их рекомендациям может быть потенциально опасным. После этой публикации Amazon снял такие книги с продажи. Однако на других платформах они могут оставаться в продаже.

В 6 из 10 случаев цифровой агрессор — знакомый человек

Цифровое насилие — это не только мутные анонимы из интернета и токсичные комментарии от людей с аватаркой кота. По данным глобального отчёта «Лаборатории Касперского», почти 60% жертв сталкивались с цифровым насилием со стороны людей из своего окружения.

Чаще всего агрессорами оказывались друзья — на них пришлось 15% случаев. Дальше идут нынешние партнёры — 10%, коллеги — 8%, члены семьи — 7% и бывшие партнёры — 6%.

То есть проблема часто сидит не где-то «в интернете вообще», а в переписках, семейных чатах, отношениях, работе и других местах, где вроде бы должно быть безопаснее.

Отдельно исследователи отмечают неприятную закономерность: люди, которые сталкивались с цифровым насилием со стороны друзей, партнёров или родственников, чаще признавались, что сами допускали похожее поведение по отношению к близким.

Это может говорить о том, что цифровая агрессия иногда превращается в привычный стиль общения: контроль, давление, слежка, обиды и месть переезжают в смартфон и становятся частью повседневности.

В Нижегородском женском кризисном центре отмечают, что цифровое насилие нередко используется как инструмент контроля, преследования и психологического давления со стороны близких людей. По данным центра, 72% обращений связаны с насилием со стороны супруга или партнёра, ещё 10% — со стороны родителей или родственников.

Поколенческий разрыв тоже заметен. Среди зумеров 81% знают термин «цифровое насилие», а почти 60% заявили, что за последний год сталкивались хотя бы с одной его формой. Среди беби-бумеров термин знаком 64% респондентов.

Женщины чаще говорят о чувстве уязвимости в цифровой среде. Небезопасно в интернете себя чувствуют 62,5% респонденток против 54% мужчин.

Психологи подчёркивают: когда агрессором становится знакомый человек, вред ощущается сильнее. К страху и потере контроля добавляется предательство, особенно если речь идёт о партнёре, друге, бывшем партнёре или коллеге. А технологии превращаются в инструмент кибермести: доступ к аккаунтам, переписки, фотографии, геолокация и старые пароли внезапно становятся оружием.

С точки зрения кибербезопасности эта история тоже сложнее обычной атаки. Угроза может идти не от неизвестного хакера, а от человека, у которого когда-то был доступ к устройству, аккаунту, семейной подписке, общему облаку или паролю на всякий случай.

RSS: Новости на портале Anti-Malware.ru