Подрядчики Google слушают записи разговоров юзеров с Google Assistant

Подрядчики Google слушают записи разговоров юзеров с Google Assistant

Подрядчики Google слушают записи разговоров юзеров с Google Assistant

Подрядчики Google регулярно прослушивали записи разговоров людей с облачным персональным помощником Google Assistant (Google Ассистент). Обычно пользователи обращаются к помощнику с помощью смартфона или динамика Google Home.

Корпорация была вынуждена признать факт наличия доступа к записям людей после того, как некоторые отрывки записей утекли в Сеть. Сотрудник Google Дэвид Монзис подтвердил утечку в своем блоге.

«Мы пересматриваем наши защитные меры, чтобы в дальнейшем подобной ситуации не повторилось», — пишет Монзис.

Бельгийская компания VRT NWS собрала более тысячи подобных записей, они содержали персональные данные, раскрывавшие личность говорящего человека. При этом, по словам Google, информация о Google-аккаунтах не утекла.

Однако в VRT отметили, что на некоторых записях вполне отчетливо можно услышать домашние адреса. У компании даже получилось выследить некоторых пользователей, используя информацию из записей.

Представители Google заявили, что подрядчики слушают записи, чтобы отследить паттерны и зафиксировать отдельные акценты пользователей. В общем, это необходимо для анализа.

Подпишитесь на новости

Модели OpenAI и Anthropic выбирали скорые и школу как военные цели

Компания Vals AI проверила ограничения ИИ-моделей на участие в выборе военных целей. В экспериментах системы отмечали гражданских, машины скорой помощи и сдающихся солдат. Представление задания как игры часто помогало преодолеть отказы.

Результаты экспериментов опубликованы в исследовании Vals AI. Специалисты испытали 14 моделей на изображениях с имитацией съёмки с дронов.

Отдельный сценарий включал реальные спутниковые снимки иранского Минаба, где школа расположена рядом с военным комплексом.


GPT-6 Astra выделяла хотя бы одну цель в 6% обычных запросов. После оговорки об игре показатель вырос до 92%. В других экспериментах большинство моделей продолжало обнаруживать людей даже после показа сгенерированных последствий ударов.


Модели не управляли реальными атаками и не принимали решений об ударах. Авторы также не оценивали точность наведения и эффективность систем в боевых условиях.


Vals AI рекомендует усилить ограничения на уровне API. Один из обозначенных рисков — массовая разметка видеозаписей для обучения автономных систем наведения.

RSS: Новости на портале Anti-Malware.ru