В России сформулировали главную проблему ИИ — у него нет страха

В России сформулировали главную проблему ИИ — у него нет страха

В России сформулировали главную проблему ИИ — у него нет страха

Искусственному интеллекту не хватает страха перед ошибкой. Такую мысль высказал заместитель главы Минцифры России Александр Шойтов на конференции BIS Summit, посвящённой информационной безопасности бизнеса и ИТ.

«В ИИ нужно встроить систему страха, чтобы он боялся совершить ошибку, как человек», — заявил Шойтов в ходе дискуссии.

Речь, конечно, не о дрожащей нейросети, которая перед каждым ответом вспоминает ипотеку и разговор с начальником. Под страхом можно понимать встроенный механизм сомнения: способность модели оценивать последствия своих действий, признавать нехватку данных и останавливаться, если цена ошибки слишком высока.

Сейчас генеративный ИИ способен уверенно выдавать неверные ответы, придумывать факты и выполнять опасные команды без человеческого ощущения риска.

Для обычного чат-бота это заканчивается галлюцинацией, а для ИИ-агента с доступом к корпоративным системам — удалёнными файлами, утечкой данных или нарушением работы инфраструктуры.

На BIS Summit прозвучала и ещё более амбициозная идея — встроить в ИИ-модели совесть. Её озвучил Николай Лишин, заместитель руководителя ФМБА России. Если страх должен удерживать систему от ошибки, то совесть, по такой логике, должна помогать оценивать допустимость самого действия.

Получается своеобразный технический портрет идеального ИИ: достаточно умный, чтобы решить задачу, достаточно напуганный, чтобы всё перепроверить, и достаточно совестливый, чтобы вовремя отказаться. Осталось только написать для этого техническое задание.

Подпишитесь на новости

ЦИПР-2027 назначили на конец мая, один день выставка будет бесплатной

Следующая конференция «Цифровая индустрия промышленной России» пройдёт с 31 мая по 3 июня 2027 года на территории Нижегородской ярмарки. В последний день выставку цифровых решений бесплатно откроют для жителей и гостей Нижнего Новгорода, понадобится только предварительная регистрация.

Следом цифровая повестка выйдет за пределы деловых залов. С 3 по 5 июня город примет фестиваль «Тех-Френдли Викенд» с лекциями, публичными выступлениями, технологическими мастер-классами и музыкальным концертом.

Об ИИ, роботах и других достижениях цивилизации обещают рассказывать без трёхэтажных презентаций и корпоративного диалекта.

Главной темой ЦИПР-2027 станет развитие производственных систем. Организаторы предлагают обсуждать уже не просто внедрение искусственного интеллекта и робототехники, а готовность предприятий к полноценной перестройке: обновлению оборудования, изменению процессов и подготовке специалистов.


ЦИПР традиционно становится площадкой для переговоров государства и бизнеса о технологическом суверенитете и развитии российской ИТ-отрасли. По итогам конференции 2026 года правительству предложили закрепить приоритет отечественных ИИ-решений при госзакупках, увеличить грантовое софинансирование особо значимых ИТ-проектов с 50% до 80% и ускорить перевод критической информационной инфраструктуры на российское ПО.


Предыдущие ЦИПР и «Тех-Френдли Викенд» собрали более 24 тыс. участников из России и ещё 45 стран. В конференции участвовали свыше 4000 компаний и более 1000 спикеров, включая ИИ-агентов и гуманоидных роботов. За три дня стороны подписали больше 350 соглашений.


Организатором конференции и городского фестиваля выступает компания «ОМГ». Мероприятия проходят при поддержке правительства России, Минцифры и правительства Нижегородской области.

RSS: Новости на портале Anti-Malware.ru