Американский регулятор оштрафовал робота-юриста

Американский регулятор оштрафовал робота-юриста

Американский регулятор оштрафовал робота-юриста

Федеральная торговая комиссия США (FTC) оштрафовала на 193 тыс. долларов стартап DoNotPay, который оказывал платные юридические услуги с помощью чат-бота.

Поводом для взыскания стали отсутствие в штате компании юристов-людей и то, что она не проводила тесты на соответствие чат-бота необходимым навыкам.

DoNotPay была лишь одной из пяти компаний, которые попали в поле зрения FTC за оказание различных услуг с помощью чат-ботов и генеративного ИИ («Operation AI Comply»).

Однако в отношении четырех других компаний, действия которых в том числе чреваты более серьезными наказаниями, поскольку касались финансового мошенничества, расследования продолжаются.

Согласно официальному сообщению FTC, претензии к DoNotPay связаны с низким качеством услуг, а не только с формальным несоответствием требованиям регулятора.

Особенно серьезные ошибки допускали юридические боты в ходе проверки сайтов малого бизнеса на предмет соответствия требованиям законодательства. При этом цена такой ошибки, как предупредила глава комиссии ведомства Лина Хан, чревата издержками в 125 тыс. долларов.

DoNotPay пошел на досудебное урегулирование. Помимо штрафа в 193 тыс. долларов, оно включает также уведомление клиентов об ограничениях предложений компании и возможных рисках.

«Правоприменительные действия FTC ясно дают понять, что использование искусственного интеллекта не является индульгенцией для соблюдения законов. Пресекая несправедливую или откровенно мошенническую практику на этих рынках, FTC гарантирует, что честные предприятия и новаторы могут получить справедливый шанс, а потребители защищены», — прокомментировала результаты расследований в рамках Operation AI Comply Лина Хан.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

ИИ YouTube снова блокирует взрослых, решив, что им нет 18 лет

YouTube разворачивает вторую волну ограничений по возрасту, вызвав бурю негодования среди пользователей. Напомним, летом платформа запустила в США систему определения возраста на базе ИИ. Сначала она работала относительно спокойно, но к сентябрю начала массово отмечать пользователей как несовершеннолетних.

Казалось бы, благородная цель — защитить детей от «взрослого контента». Но вот беда — система ошибается и блокирует взрослых пользователей, решив, что им нет 18.

Тем, кто «проскочил» первую волну, расслабляться рано. По сообщениям пользователей на площадке Reddit, новая волна фильтрации идёт полным ходом.

«Мы изменили некоторые ваши настройки. Не смогли подтвердить, что вы взрослый», — такое уведомление теперь встречают тысячи пользователей.

Чтобы вернуть доступ ко всем видео, YouTube предлагает подтвердить возраст документом, либо согласиться на ограниченный режим — без части контента, без персонализированной рекламы и с навязчивыми советами про цифровое благополучие.

 

Историй об ошибках — масса. Один пользователь написал:

«Мне 18, но YouTube думает, что я ребёнок, потому что аккаунт создали родители после моего рождения!»

Другой добавил:

«Сегодня мой канал пометили как “до 18”, хотя мне 21, и я вообще не заходил туда с марта».

Выбор у «заблокированных» невелик:

  • смириться с ограничениями;
  • отправить свои паспортные данные YouTube;
  • завести новый аккаунт и начать всё заново.

Помимо урезанного доступа к видео, YouTube автоматически включает «детские» настройки:

  • только деперсонализированная реклама,
  • активированные по умолчанию инструменты цифрового благополучия,
  • постоянные напоминания о конфиденциальности,
  • минимизация рекомендаций контента, который может «влиять на восприятие».

Пока пользователи спорят, оправданны ли такие меры, очевидно одно: YouTube пытается быть ответственным родителем, но ИИ пока слишком подозрителен.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru