Беззубый закон: Касперская раскритиковала регулирование ИИ в нынешнем виде

Беззубый закон: Касперская раскритиковала регулирование ИИ в нынешнем виде

Беззубый закон: Касперская раскритиковала регулирование ИИ в нынешнем виде

Президент группы компаний InfoWatch Наталья Касперская раскритиковала законопроект об искусственном интеллекте, который Госдума приняла в первом чтении. В интервью Бизнес ФМ она заявила, что в нынешнем виде документ выглядит беззубым и не решает ключевые риски, ради которых, по её словам, его изначально и обсуждали.

Касперская напомнила, что сначала речь шла о регулировании опасных сценариев применения ИИ: например, о ситуациях, где нейросети могут галлюцинировать, давать неверные ответы и влиять на чувствительные сферы.

Тогда логичный вопрос: кто несёт ответственность за последствия. Но теперь, по её мнению, законопроект скорее предписывает использование технологии, чем ограничивает вредные применения.

Отдельно она прошлась по теме авторских прав. По словам Касперской, если закон фактически позволит использовать чужие произведения для обучения ИИ без нормальной компенсации авторам, это станет серьёзной проблемой и может конфликтовать с Гражданским кодексом.

Она не согласилась с аргументом, что человек тоже читает книги и обучается на чужом творчестве. Разница, по её словам, в том, что человек покупает книгу и получает право пользоваться контентом, а ИИ может один раз взять произведение, затем бесконечно размножать похожий результат и лишить автора заработка. Касперская назвала это технологичным совершенствованием пиратства.

Ещё одна претензия — попытка закрепить в законе конкретные технологии. В документе, например, говорится о больших фундаментальных моделях, но ничего не сказано об ИИ-агентах. По мнению Касперской, это странный подход: технологии быстро меняются, и закон может устареть быстрее, чем его успеют дописать.

Разработчики законопроекта ранее говорили, что он носит рамочный характер, а спорные вопросы будут регулироваться подзаконными актами. Минцифры обещало представить первые документы уже к осени, в том числе по теме авторских прав. Но пока, судя по реакции Касперской, у индустрии вопросов к этому ИИ-регулированию больше, чем ответов.

Пассажиров Яндекс Такси тайно наказывают рейтингом без права на обжалование

Автор «Хабра» Yselia (Мария Минакова) рассказала, как снижение рейтинга в сервисе такси с пяти до 4,85 балла якобы ухудшило качество поездок: машину пришлось ждать дольше, а приезжать стали водители с более низкими оценками.

По словам автора, рейтинг упал после поездки с водителем, который настойчиво пытался с ней познакомиться.

Поддержка при этом отвечала шаблонами, утверждала, что показатель ни на что не влияет, а один из сотрудников якобы заявил, что водители его вообще не видят. Исправить оценку или хотя бы объяснить причину её снижения в сервисе не смогли.

Тогда Мария устроила собственный полевой ресёрч и начала расспрашивать таксистов. Один из них признался, что не принимает заказы пассажиров с рейтингом ниже 4,87, поскольку ждёт от них проблем.

Другие опрошенные пассажиры также рассказали о случаях, когда водители отказывались от клиента с низкой оценкой, но сразу принимали тот же маршрут от его спутника с рейтингом повыше.

На профильном митапе докладчик, занимавшийся рейтингами, по словам Yselia, подтвердил влияние оценки пассажира. Однако развитие механизма обжалования слишком дорого и невыгодно для сервиса: каждую спорную двойку пришлось бы разбирать вручную.

Автор называет происходящее газлайтингом в UX: алгоритм может незаметно ухудшать обслуживание, но пользователь не знает, кто и за что снизил ему балл, и не способен оспорить решение.

Позиция Яндекса по описанному случаю пока не приводится.

RSS: Новости на портале Anti-Malware.ru