Американский регулятор оштрафовал робота-юриста

Американский регулятор оштрафовал робота-юриста

Американский регулятор оштрафовал робота-юриста

Федеральная торговая комиссия США (FTC) оштрафовала на 193 тыс. долларов стартап DoNotPay, который оказывал платные юридические услуги с помощью чат-бота.

Поводом для взыскания стали отсутствие в штате компании юристов-людей и то, что она не проводила тесты на соответствие чат-бота необходимым навыкам.

DoNotPay была лишь одной из пяти компаний, которые попали в поле зрения FTC за оказание различных услуг с помощью чат-ботов и генеративного ИИ («Operation AI Comply»).

Однако в отношении четырех других компаний, действия которых в том числе чреваты более серьезными наказаниями, поскольку касались финансового мошенничества, расследования продолжаются.

Согласно официальному сообщению FTC, претензии к DoNotPay связаны с низким качеством услуг, а не только с формальным несоответствием требованиям регулятора.

Особенно серьезные ошибки допускали юридические боты в ходе проверки сайтов малого бизнеса на предмет соответствия требованиям законодательства. При этом цена такой ошибки, как предупредила глава комиссии ведомства Лина Хан, чревата издержками в 125 тыс. долларов.

DoNotPay пошел на досудебное урегулирование. Помимо штрафа в 193 тыс. долларов, оно включает также уведомление клиентов об ограничениях предложений компании и возможных рисках.

«Правоприменительные действия FTC ясно дают понять, что использование искусственного интеллекта не является индульгенцией для соблюдения законов. Пресекая несправедливую или откровенно мошенническую практику на этих рынках, FTC гарантирует, что честные предприятия и новаторы могут получить справедливый шанс, а потребители защищены», — прокомментировала результаты расследований в рамках Operation AI Comply Лина Хан.

Мошенники сделали схему с доставкой более убедительной и опасной

Злоумышленники обновили давно известную схему с курьерской доставкой, сделав её заметно убедительнее. Теперь они усиливают «социальную привязку», утверждая, что заказчиком услуги является родственник получателя, и даже называют его по имени. Это создаёт у жертвы ощущение реальности происходящего и снижает бдительность.

О модернизации схемы с лжедоставкой сообщили РИА Новости со ссылкой на Angara Security.

Ранее мошенники, как правило, не уточняли отправителя, делая ставку на фактор срочности. Их основной целью было получение идентификационных кодов от различных сервисов либо их имитация — с последующим развитием атаки и попытками похищения средств. Деньги при этом выманивались под предлогом «перевода на безопасный счёт» или передачи наличных курьеру.

Как отметил эксперт по киберразведке Angara MTDR Юрий Дубошей, в обновлённой схеме цели злоумышленников в целом не изменились. Речь по-прежнему идёт о получении контроля над учётной записью, подтверждении действий от имени жертвы или подготовке почвы для хищения денежных средств. Однако теперь этого добиваются за счёт усиленного психологического давления и одновременных попыток повысить уровень доверия.

В Angara Security напомнили, что сотрудники служб доставки никогда не просят сообщать коды подтверждения. При появлении подобных требований разговор следует немедленно прекратить.

При этом никуда не исчезла и более традиционная фишинговая схема, в которой используются точные копии сайтов известных сервисов доставки. Такие схемы также продолжают эволюционировать, становясь всё более сложными и правдоподобными.

RSS: Новости на портале Anti-Malware.ru