Отравление ИИ привело к реальному отравлению целой семьи

Отравление ИИ привело к реальному отравлению целой семьи

Отравление ИИ привело к реальному отравлению целой семьи

В Британии целая семья отравилась грибами, воспользовавшись рекомендацией из книги-определителя, сгенерированной искусственным интеллектом. Издание было куплено на неназванной онлайн-платформе и подарено главе семейства незадолго до инцидента.

«Вся моя семья оказалась в больнице из-за случайного отравления грибами. Мы пользовались данными из книги, которую купила моя супруга и подарила мне на день рождения», — такой пост был размещен в социальной сети Reddit.

«Она использовала оформление, схожее с известным справочником Mushrooms UK: A Guide to Harvesting Safe and Edible Mushrooms («Грибы Великобритании: Руководство по сбору съедобных грибов», переиздается уже много лет, — прим. Anti-Malware.ru). К сожалению, книга полна неточностей. Многие иллюстрации в ней сгенерированы нейросетью и не имеют никакого отношения к реальным грибам».

Автор поста нашел много неточностей и в тексте книги. Например, в ней говорилось, что сморчки начинают появляться в августе, хотя их сезон приходится на апрель-май.

При обсуждении обнаружилось, что данная проблема имеет место не первый год. Так, в 2023 г. газета The Guardian писала о том, что на маркетплейсах появились книги, посвященные сбору дикорастущих грибов, сгенерированные искусственным интеллектом, и следование их рекомендациям может быть потенциально опасным. После этой публикации Amazon снял такие книги с продажи. Однако на других платформах они могут оставаться в продаже.

Израильская Clear Gate проверила безопасность мессенджера МАКС

Израильская компания Clear Gate провела аудит безопасности российского мессенджера МАКС. Проверяли мобильную, десктопную и веб-версии сервиса, причём с использованием black box и gray box. По итогам проверки компания отметила защищённую архитектуру МАКС, ролевую модель и встроенные механизмы защиты.

В Clear Gate заявили, что имитировали действия злоумышленников с повышенным уровнем подготовки и частичным пониманием внутреннего устройства платформы.

В МАКС пояснили, что решили привлекать иностранных специалистов в рамках масштабирования проекта: мол, внешний взгляд на безопасность лишним не бывает, особенно когда сервис выходит на новые рынки.

Сам отчёт Clear Gate закрытый и для публичного изучения не предоставляется. Так что пользователям остаётся верить пересказам сторон: аудит был, выводы хорошие, но деталей, извините, не покажем.

 

История особенно любопытна на фоне недавнего шума вокруг публикации на Хабре, где пользователь zarazaexe заявил, что нашёл в APK МАКС функции скрытой записи звука, сбора списка приложений, отслеживания VPN, анализа адресной книги, Mobile ID по открытому HTTP и другие неприятные механизмы.

В МАКС эти обвинения назвали фейком. В компании утверждают, что мессенджер не следит за пользователями, не собирает их персональные данные и не имеет технической возможности прослушивать звонки. Там также пояснили, что NFC нужен для работы Цифрового ID, данные об IP-адресах используются для корректной работы звонков, а Mobile ID — для доставки кодов подтверждения и уведомлений.

RSS: Новости на портале Anti-Malware.ru