ИИ будет искать оскорбления и троллинг в городских чатах Яндекс Погоды

ИИ будет искать оскорбления и троллинг в городских чатах Яндекс Погоды

ИИ будет искать оскорбления и троллинг в городских чатах Яндекс Погоды

В «Яндекс Погоде» появились городские чаты «Стены добра» с ИИ-модерацией. Они доступны более чем в 20 российских городах, включая Москву, Санкт-Петербург, Казань, Екатеринбург, Новосибирск и Нижний Новгород.

О запуске сообщает iXBT со ссылкой на Яндекс. Пользователи могут публиковать фотографии, рассказывать о событиях дня, обсуждать погоду и общаться с другими жителями.

Для ответов предусмотрены комментарии и стикеры. Алгоритмы на основе ИИ выявляют оскорбления, троллинг и сообщения, провоцирующие конфликты.

При этом жалобы на дождь, мороз и другие погодные явления разрешены.

В чатах также проходят еженедельные голосования на повседневные темы. Популярные сообщения и стикеры появляются на главной странице сервиса, а итоги голосований и доступные города отображаются на карте настроений.

Читать публикации можно и в других городах. Для размещения сообщений на своей «Стене добра» потребуется предоставить доступ к геолокации. Открыть чат можно через блок популярных сообщений на сайте или в приложении «Яндекс Погоды».

Подпишитесь на новости

Модели OpenAI и Anthropic выбирали скорые и школу как военные цели

Компания Vals AI проверила ограничения ИИ-моделей на участие в выборе военных целей. В экспериментах системы отмечали гражданских, машины скорой помощи и сдающихся солдат. Представление задания как игры часто помогало преодолеть отказы.

Результаты экспериментов опубликованы в исследовании Vals AI. Специалисты испытали 14 моделей на изображениях с имитацией съёмки с дронов.

Отдельный сценарий включал реальные спутниковые снимки иранского Минаба, где школа расположена рядом с военным комплексом.


GPT-6 Astra выделяла хотя бы одну цель в 6% обычных запросов. После оговорки об игре показатель вырос до 92%. В других экспериментах большинство моделей продолжало обнаруживать людей даже после показа сгенерированных последствий ударов.


Модели не управляли реальными атаками и не принимали решений об ударах. Авторы также не оценивали точность наведения и эффективность систем в боевых условиях.


Vals AI рекомендует усилить ограничения на уровне API. Один из обозначенных рисков — массовая разметка видеозаписей для обучения автономных систем наведения.

RSS: Новости на портале Anti-Malware.ru