Отравление ИИ привело к реальному отравлению целой семьи

Отравление ИИ привело к реальному отравлению целой семьи

Отравление ИИ привело к реальному отравлению целой семьи

В Британии целая семья отравилась грибами, воспользовавшись рекомендацией из книги-определителя, сгенерированной искусственным интеллектом. Издание было куплено на неназванной онлайн-платформе и подарено главе семейства незадолго до инцидента.

«Вся моя семья оказалась в больнице из-за случайного отравления грибами. Мы пользовались данными из книги, которую купила моя супруга и подарила мне на день рождения», — такой пост был размещен в социальной сети Reddit.

«Она использовала оформление, схожее с известным справочником Mushrooms UK: A Guide to Harvesting Safe and Edible Mushrooms («Грибы Великобритании: Руководство по сбору съедобных грибов», переиздается уже много лет, — прим. Anti-Malware.ru). К сожалению, книга полна неточностей. Многие иллюстрации в ней сгенерированы нейросетью и не имеют никакого отношения к реальным грибам».

Автор поста нашел много неточностей и в тексте книги. Например, в ней говорилось, что сморчки начинают появляться в августе, хотя их сезон приходится на апрель-май.

При обсуждении обнаружилось, что данная проблема имеет место не первый год. Так, в 2023 г. газета The Guardian писала о том, что на маркетплейсах появились книги, посвященные сбору дикорастущих грибов, сгенерированные искусственным интеллектом, и следование их рекомендациям может быть потенциально опасным. После этой публикации Amazon снял такие книги с продажи. Однако на других платформах они могут оставаться в продаже.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Спрос на ИИ-расшифровку медицинских анализов в России вырос в 8 раз

Сервис «СберЗдоровье» отмечает значительный рост обращений пользователей, связанных с расшифровкой результатов анализов и медицинских исследований. При этом пользователи всё чаще ожидают не только интерпретации показателей, но и составления персонализированного плана дальнейших обследований.

По данным сервиса за период с мая по октябрь 2025 года, количество запросов на интерпретацию анализов выросло в восемь раз в годовом выражении. Число обращений с просьбой сформировать план действий на основе результатов увеличилось на 41%.

Чаще всего пользователи просят объяснить результаты следующих исследований:

  • гормоны щитовидной железы (ТТГ, Т3, Т4, АТ-ТПО);
  • показатели обмена железа (ферритин, гемоглобин, железо);
  • липидный профиль / холестерин;
  • витамины D и B12;
  • показатели функции печени (АЛТ, АСТ, ГГТ, билирубин).

«Рост спроса связан с удобством и скоростью получения информации о состоянии здоровья. Сервис расшифровки анализов на базе искусственного интеллекта позволяет пациентам быстро получить предварительную оценку еще до консультации с врачом», — рассказал «Коммерсанту» управляющий директор «СберЗдоровья» Иван Виноградов.

Однако медицинское сообщество выражает обеспокоенность. Основатель сети Grand Clinic Ольга Шуппо отметила, что решения ИИ могут основываться на усреднённых референсных значениях, не учитывающих индивидуальные особенности пациента, его анамнез и клиническую картину.

По её словам, это может привести к хронизации заболеваний, появлению новых проблем из-за ошибочных рекомендаций и в целом к ухудшению качества здоровья населения.

Совладелец сети клиник доктора Омарова Зарема Омарова подчеркнула, что без контекста — данных о возрасте, жалобах, истории болезни — любые числовые отклонения в анализах малоинформативны.

Научный сотрудник НМИЦ терапии и профилактической медицины Минздрава Евгения Грицаева напомнила, что, например, слегка повышенный ТТГ можно ошибочно принять за гипотиреоз и назначить ненужное лечение. Опасность могут представлять и рекомендации принимать высокие дозы витамина D. В то же время ИИ может пропустить серьёзное отклонение, решив, что оно несущественно.

Руководитель качества нейросети Алисы AI Никита Рыжиков отметил, что алгоритмы не способны давать полностью точные рекомендации, и все советы сопровождаются напоминанием: окончательный диагноз и назначение терапии — зона ответственности квалифицированного врача.

Ранее вице-спикер Госдумы Борис Чернышов предложил маркировать все медицинские рекомендации нейросетей и запретить им назначать лекарственные препараты. Основание — отсутствие какой-либо ответственности ИИ за последствия для пользователей.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru