Школьный ноутбук, ИИ в поисковике и система мониторинга — внушительный набор технологий, который всё равно не обеспечил своевременную помощь ребёнку. Родители 13-летней девочки из Северной Каролины подали иск против Google и Alphabet. Они утверждают, что общение с ИИ через школьный Chromebook способствовало развитию у дочери суицидального кризиса.
Как рассказывает WIRED, девочка месяцами обсуждала с ИИ депрессию и самоубийство.
Школьная система мониторинга неделями не поднимала тревогу. Когда уведомление наконец появилось, оно попало бывшему школьному консультанту, который переслал его действующим сотрудникам. После этого вмешалась мать.
По данным Reuters, родители узнали о происходящем после того, как защитное ПО пометило документ с планами похорон. В иске также утверждается, что бот помогал девочке скрывать своё состояние от близких.
По мнению родителей, Google встроила ИИ в привычные продукты, не предупредив школы и семьи о рисках.
Google заявила, что изучает иск. Корпорация добра подчёркивает, что работала с медицинскими специалистами и экспертами над защитными функциями, которые должны направлять молодых пользователей к реальной помощи.
Комментирует Сергей Хайрук, аналитик InfoWatch:
«Эксперты по всему миру предупреждали, что медучреждения и компании, занимающиеся медстрахованием, рано или поздно станут целью охотников за персональными данными. И вот прогнозы начинают сбываться. Виной тому – огромный объем данных, которые обрабатывают компании. Очевидно, мы стали свидетелями крупнейшей, но не последней утечки данных из компании медицинской вертикали».