В Госдуме предложили маркировать медицинские рекомендации нейросетей

В Госдуме предложили маркировать медицинские рекомендации нейросетей

В Госдуме предложили маркировать медицинские рекомендации нейросетей

Вице-спикер Госдумы Борис Чернышов предложил ввести обязательную маркировку ответов нейросетей, содержащих медицинские рекомендации, а также запретить российским сервисам назначать лекарственные препараты. Эти предложения изложены в письме, направленном им министру цифрового развития Максуту Шадаеву и главе Роскомнадзора Андрею Липову.

Как сообщает РИА Новости, Чернышов указал на отсутствие какой-либо ответственности за последствия, к которым могут привести ответы ИИ на запросы медицинского характера, несмотря на то что пользователи нередко воспринимают такие рекомендации как замену профессиональной медицинской помощи.

«Предлагаемая инициатива основывается на трёх ключевых принципах. Первый — обязательная маркировка. Любой ответ нейросети, содержащий медицинские рекомендации, симптомы, методы лечения или диагностики, должен сопровождаться четкой, заметной и неизменно присутствующей надписью: “Данный совет сгенерирован искусственным интеллектом и не является медицинской консультацией. Для диагностики и лечения обратитесь к врачу”», — говорится в документе.

Кроме того, Чернышов предложил ввести механизм получения явного согласия перед предоставлением информации медицинского характера. Без такого согласия сервис не должен выдавать рекомендации.

Ещё одной мерой инициативы является полный запрет на рекламу и рекомендации любых лекарственных препаратов — такой запрет, по мнению автора, должен быть реализован средствами самих нейросетевых систем.

Специалисты раскрыли фабрику фейков из 45 сайтов и 74 телеграм-каналов

Исследователи из Positive Technologies обнаружили целую фабрику дезинформации, которая рассылала поддельные письма российским организациям, публиковала фейковые новости и разгоняла их через соцсети. Одной площадкой злоумышленники не ограничились: специалисты связали между собой 45 доменов и не менее 74 телеграм-каналов.

Схема начиналась с писем от имени государственных структур и крупных компаний.

Домены вроде minpromtorg.digital, gosuslugi.digital и rosstat.live отличались от настоящих адресов зонами .digital, .live или .work. Получателей просили прислать списки сотрудников, сведения о зарплатах и другие данные — вероятно, для подготовки точечных фишинговых атак.

 

Вложения в изученных письмах не содержали вредоносного кода и служили декорацией. Однако ответ на такую рассылку мог подтвердить, что адрес активен, а сотрудник готов продолжить общение.

 

Параллельно работала сеть псевдоновостных ресурсов. Они смешивали настоящие публикации с выдумками, ссылались на несуществующие источники и прикрывались региональной повесткой. Среди обнаруженных сайтов — rulenta.live, crime24.live, daganews.ru и pressklub.az. Некоторые фейки затем цитировали другие площадки уже как достоверную информацию. Конвейер сам себя кормил и сам же назначал источником.

Для раскрутки использовались «ВКонтакте», «Одноклассники», YouTube, Instagram (принадлежит корпорации Meta, признанной экстремисткой и запрещённой в России), TikTok и Telegram. Каналы маскировались под региональные или патриотические сообщества, а десятки площадок синхронно публиковали одинаковые материалы и ссылки на связанные сайты. У отдельных каналов насчитывались тысячи подписчиков.

Исследователи также заметили возможный след киберпреступной группировки Rare Werewolf. На одном из доменов ранее находился архив bk.rar — такой путь уже встречался в её инфраструктуре. Однако прямых доказательств недостаточно, поэтому Positive Technologies говорит лишь о вероятной связи.

Получилась не россыпь случайных фейков, а единая информационная сеть: письмо вытягивает данные, сайт придаёт выдумке солидный вид, а соцсети разносят её по аудитории.

RSS: Новости на портале Anti-Malware.ru