Мессенджер MAX добавил Безопасный режим и кнопку Пожаловаться

Мессенджер MAX добавил Безопасный режим и кнопку Пожаловаться

Мессенджер MAX добавил Безопасный режим и кнопку Пожаловаться

Мессенджер MAX усилил защиту пользователей, добавив новые функции Центра безопасности. Теперь в приложении появилась удобная кнопка «Пожаловаться» — она позволяет моментально передать жалобу на подозрительный контакт или контент. Достаточно открыть чат, нажать и удерживать сообщение с вредоносной информацией, выбрать «Пожаловаться», указать причину и отправить обращение.

Как сообщают разработчики, специалисты и модераторы MAX фиксируют не только спам, но и оскорбления, фишинг, попытки социальной инженерии.

Жалобы обрабатываются круглосуточно с использованием автоматизированных систем. В июле Центр безопасности заблокировал более 10 тысяч номеров, связанных с мошеннической активностью.

Ещё одно нововведение — «Безопасный режим», который позволяет быстро ограничить взаимодействие с незнакомцами: скрыть профиль от поиска по номеру, заблокировать входящие звонки от неизвестных и отключить приглашения в чаты. Доступ к настройкам защищён отдельным пин-кодом, а эффективность повышают нейросетевые фильтры и постоянный мониторинг модераторов.

Тем временем Госжилинспекция начала рассылку писем в управляющие компании ЖКХ с требованием перевести домовые чаты в мессенджер MAX. Известно, что такие уведомления получили организации как минимум в шести регионах, включая Московскую и Тульскую области, Краснодарский край и Башкортостан.

При этом у сервиса остаются и нерешённые вопросы: ранее ФСБ России направила претензии к MAX из-за отсутствия криптозащиты необходимого класса и других обязательных мер по защите персональных данных. На этом фоне в стране готовится к запуску новый отечественный мессенджер «Молния», который планируют позиционировать как конкурента не только зарубежным приложениям, но и самому MAX.

Подпишитесь на новости

В России сформулировали главную проблему ИИ — у него нет страха

Искусственному интеллекту не хватает страха перед ошибкой. Такую мысль высказал заместитель главы Минцифры России Александр Шойтов на конференции BIS Summit, посвящённой информационной безопасности бизнеса и ИТ.

«В ИИ нужно встроить систему страха, чтобы он боялся совершить ошибку, как человек», — заявил Шойтов в ходе дискуссии.

Речь, конечно, не о дрожащей нейросети, которая перед каждым ответом вспоминает ипотеку и разговор с начальником. Под страхом можно понимать встроенный механизм сомнения: способность модели оценивать последствия своих действий, признавать нехватку данных и останавливаться, если цена ошибки слишком высока.

Сейчас генеративный ИИ способен уверенно выдавать неверные ответы, придумывать факты и выполнять опасные команды без человеческого ощущения риска.

Для обычного чат-бота это заканчивается галлюцинацией, а для ИИ-агента с доступом к корпоративным системам — удалёнными файлами, утечкой данных или нарушением работы инфраструктуры.

На BIS Summit прозвучала и ещё более амбициозная идея — встроить в ИИ-модели совесть. Её озвучил Николай Лишин, заместитель руководителя ФМБА России. Если страх должен удерживать систему от ошибки, то совесть, по такой логике, должна помогать оценивать допустимость самого действия.

Получается своеобразный технический портрет идеального ИИ: достаточно умный, чтобы решить задачу, достаточно напуганный, чтобы всё перепроверить, и достаточно совестливый, чтобы вовремя отказаться. Осталось только написать для этого техническое задание.

RSS: Новости на портале Anti-Malware.ru