Отравление ИИ привело к реальному отравлению целой семьи

Отравление ИИ привело к реальному отравлению целой семьи

Отравление ИИ привело к реальному отравлению целой семьи

В Британии целая семья отравилась грибами, воспользовавшись рекомендацией из книги-определителя, сгенерированной искусственным интеллектом. Издание было куплено на неназванной онлайн-платформе и подарено главе семейства незадолго до инцидента.

«Вся моя семья оказалась в больнице из-за случайного отравления грибами. Мы пользовались данными из книги, которую купила моя супруга и подарила мне на день рождения», — такой пост был размещен в социальной сети Reddit.

«Она использовала оформление, схожее с известным справочником Mushrooms UK: A Guide to Harvesting Safe and Edible Mushrooms («Грибы Великобритании: Руководство по сбору съедобных грибов», переиздается уже много лет, — прим. Anti-Malware.ru). К сожалению, книга полна неточностей. Многие иллюстрации в ней сгенерированы нейросетью и не имеют никакого отношения к реальным грибам».

Автор поста нашел много неточностей и в тексте книги. Например, в ней говорилось, что сморчки начинают появляться в августе, хотя их сезон приходится на апрель-май.

При обсуждении обнаружилось, что данная проблема имеет место не первый год. Так, в 2023 г. газета The Guardian писала о том, что на маркетплейсах появились книги, посвященные сбору дикорастущих грибов, сгенерированные искусственным интеллектом, и следование их рекомендациям может быть потенциально опасным. После этой публикации Amazon снял такие книги с продажи. Однако на других платформах они могут оставаться в продаже.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Сайт ЦИК и Госуслуги упали 14 сентября из-за аварии в сети Ростелекома

14 сентября сайт Центральной избирательной комиссии (ЦИК) оказался недоступен на протяжении как минимум 4,5 часов. Проблемы затронули и Портал Госуслуг, который также периодически «падал». Как сообщили в Роскомнадзоре и Ростелекоме, основной причиной стала авария на ключевом магистральном маршрутизаторе в сети оператора, что привело к сбоям в работе государственных сервисов в день голосования.

Сообщения о недоступности сайта ЦИК начали поступать около полудня 14 сентября.

Роскомнадзор чуть позже подтвердил технические неполадки, указав, что их вызвала авария на магистральном маршрутизаторе М10. Ведомство признало возможность деградации качества связи.

Дополнительно Роскомнадзор в дни голосования зафиксировал 99 DDoS-атак на ресурсы Центральной избирательной комиссии (ЦИК), департамента информационных технологий (ДИТ) Москвы и системы дистанционного электронного голосования (ДЭГ). Их мощность достигала 45,16 Гбит/с и 9,97 млн пакетов в секунду, а продолжительность превышала три часа.

Заместитель начальника управления разрешительной работы, контроля и надзора в сфере массовых коммуникаций Роскомнадзора Александр Ижко также сообщил об обнаружении фишинговых ресурсов, эксплуатирующих тему выборов:

«Национальным координационным центром по компьютерным инцидентам выявлено 18 фишинговых атак на ресурсы единого дня голосования-2025. Со стороны Центра мониторинга и управления сетью связи общего пользования в отношении указанных ресурсов применено ограничение в рамках регламента противодействия компьютерным атакам».

Заместитель министра цифрового развития, связи и массовых коммуникаций Олег Качанов заявил, что «вредоносная активность» вызвала перебои не только в работе сайта ЦИК, но и Портала Госуслуг. Однако на функционирование системы дистанционного электронного голосования это не повлияло. К 18 часам сервисы начали восстанавливаться.

Президент Ростелекома Михаил Осеевский также сообщил об устранении аварии в сети:

«У нас сегодня перегрузились некоторые маршрутизаторы нашей инфраструктуры, мы были вынуждены их перезагрузить, поэтому в середине дня сайт работал нестабильно. Сейчас все проблемы устранены».

Минцифры подтвердило полное восстановление работы госсервисов около 21 часа:

«Портал Госуслуг функционирует в обычном режиме. На данный момент ИБ-специалисты не фиксируют нарушений в его работе».

Напомним, в конце августа Госуслуги подверглись масштабной DDoS-атаке из-за рубежа. Тогда в Минцифры подчеркнули, что атаки отражаются успешно, а сам портал продолжает работать в штатном режиме.

Интересны в этом контексте и результаты недавнего исследования общественного движения «Информация для всех»: средний уровень защищённости сайтов федеральных органов законодательной, исполнительной и судебной власти, а также ведомств с особым статусом (Генеральная прокуратура, Соцфонд, Счётная палата, ФФОМС, Центробанк и ЦИК) составил 35 баллов при минимально допустимом уровне в 29.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru