Россияне настороженно относятся к искусственному интеллекту

Россияне настороженно относятся к искусственному интеллекту

Россияне настороженно относятся к искусственному интеллекту

Согласно данным опроса ВЦИОМ, среди россиян сторонниками повсеместного использовании искусственного интеллекта (ИИ) является лишь 17% респондентов. Основная масса участников исследования (61%) считает, что применение ИИ должно ограничиваться отдельными сферами.

При этом каждый восьмой россиянин против использования ИИ где бы то ни было. Также во ВЦИОМ обратили внимание на то, что существенно выросло количество затруднившихся с ответом – 10% против 4% в 2023 г.

Во ВЦИОМ выявили существенную социодемографическую разницу по отношению к использованию ИИ. Среди активных сторонников больше образованных молодых мужчин, жителей городов-миллионников и людей с высоким уровнем дохода.

Среди умеренных сторонников, которые считают, что ИИ необходимо применять в определенных сферах, больше женщин, жителей больших городов (от 100 до 999 тыс.), со средним достатком, со средним специальным или неоконченным высшим образованием.

Противников использования ИИ больше среди сельских жителей, старше 45 лет, со средним и ниже образованием, а также предпочитающих телевидение интернету.

Вопрос этики ИИ оказался для участников исследования непростым. Без малого половина респондентов не смогли своими словами объяснить, что такое «этика использования ИИ». Этика искусственного интеллекта чаще воспринимается как гарантия безопасности для человека — 24% ответов.

Также часто этика искусственного интеллекта ассоциируется с неким набором правил и ограничений — 16% ответов. Подавляющее большинство (77%, в 2023 г - 75%) россиян убеждены: требуется обязательное участие человека в оценке этичности продуктов и решений, созданных искусственным интеллектом, сам ИИ на такое не способен.

Также во ВЦИОМ выявили рост запроса общества на маркировку продуктов, созданных с использованием ИИ. За нее выступает почти три четверти респондентов, тогда как в 2023 г так считали менее 70%. За регулирование ИИ выступает еще больше – 85% опрошенных.

Подпишитесь на новости

В России сформулировали главную проблему ИИ — у него нет страха

Искусственному интеллекту не хватает страха перед ошибкой. Такую мысль высказал заместитель главы Минцифры России Александр Шойтов на конференции BIS Summit, посвящённой информационной безопасности бизнеса и ИТ.

«В ИИ нужно встроить систему страха, чтобы он боялся совершить ошибку, как человек», — заявил Шойтов в ходе дискуссии.

Речь, конечно, не о дрожащей нейросети, которая перед каждым ответом вспоминает ипотеку и разговор с начальником. Под страхом можно понимать встроенный механизм сомнения: способность модели оценивать последствия своих действий, признавать нехватку данных и останавливаться, если цена ошибки слишком высока.

Сейчас генеративный ИИ способен уверенно выдавать неверные ответы, придумывать факты и выполнять опасные команды без человеческого ощущения риска.

Для обычного чат-бота это заканчивается галлюцинацией, а для ИИ-агента с доступом к корпоративным системам — удалёнными файлами, утечкой данных или нарушением работы инфраструктуры.

На BIS Summit прозвучала и ещё более амбициозная идея — встроить в ИИ-модели совесть. Её озвучил Николай Лишин, заместитель руководителя ФМБА России. Если страх должен удерживать систему от ошибки, то совесть, по такой логике, должна помогать оценивать допустимость самого действия.

Получается своеобразный технический портрет идеального ИИ: достаточно умный, чтобы решить задачу, достаточно напуганный, чтобы всё перепроверить, и достаточно совестливый, чтобы вовремя отказаться. Осталось только написать для этого техническое задание.

RSS: Новости на портале Anti-Malware.ru