Нейросеть для ЖКХ научилась материться в первый месяц обучения

Нейросеть для ЖКХ научилась материться в первый месяц обучения

Нейросеть для ЖКХ научилась материться в первый месяц обучения

Разработчикам отечественного голосового помощника для сферы ЖКХ пришлось «переучивать» систему после того, как в процессе обучения бот освоил ненормативную лексику. Этот случай наглядно показал, насколько критично качество данных, на которых обучаются нейросети.

О возникшей проблеме рассказал ТАСС президент Национального объединения организаций в сфере технологий информационного моделирования (НОТИМ) Михаил Викторов на Сибирском строительном форуме, который проходит в Новосибирске.

«Приведу забавный случай: нейросеть учится, и буквально уже в первый месяц разработчики обнаружили такую коллизию — нейросеть научилась мату. Как говорится, с кем поведёшься, от того и наберёшься. Эту проблему, конечно, пришлось устранять. Но это в том числе показатель активного взаимодействия с нашими гражданами», — рассказал Михаил Викторов.

При этом, по его словам, внедрение ботов позволило сократить число операторов кол-центров в 5–6 раз без потери качества обслуживания. Нейросетевые инструменты способны обрабатывать до 90% входящих обращений.

Уровень удовлетворённости качеством обслуживания, по оценке Викторова, составляет около 80%. Передавать звонки операторам целесообразно лишь в экстренных случаях — например, при аварийных ситуациях.

Эксперты ранее отмечали, что именно данные, на которых обучается ИИ, являются ключевой причиной появления некорректных или предвзятых ответов нейросетевых инструментов.

Telegram не пустит сканер в личные переписки — Дуров раскритиковал ЕС

Павел Дуров резко прошёлся по Евросоюзу из-за обсуждения закона о контроле сообщений в онлайн-сервисах. Поводом стал пост о том, что в ЕС снова продвигают инициативу Chat Control, которая может разрешить сканирование сообщений, писем и фотографий пользователей для поиска запрещённого контента.

Дуров отреагировал без дипломатических кружев. По его словам, приёмы, которые раньше были типичны для банановых республик, теперь используются в ЕС для принятия законов о слежке.

Формулировка жёсткая, но посыл понятный: основателю Telegram не нравится идея, при которой частная переписка пользователей превращается в объект автоматической проверки.

В отдельном ответе Дуров также заявил, что Telegram не будет сканировать личные сообщения пользователей, какими бы бананово-республиканскими трюками ни пользовалась ЕС. Позиция мессенджера, по его словам, остаётся прежней: личная переписка не должна становиться кормом для массового мониторинга.

Ранее Европарламент вернул на рассмотрение законопроект, который связывают с инициативой Chat Control. В разных версиях обсуждалась возможность для онлайн-сервисов добровольно сканировать пользовательский контент, включая сообщения и медиафайлы, для выявления запрещённых материалов.

Критики такой идеи считают, что под лозунгом безопасности власти фактически получают механизм массовой проверки частной коммуникации. Сторонники, напротив, говорят о борьбе с незаконным контентом и защите пользователей.

Telegram в этой истории явно выбирает сторону приватности. Дуров фактически дал понять: даже если регуляторы будут закручивать гайки, превращать личные чаты в просматриваемый коридор мессенджер не собирается. Для ЕС это очередной конфликт с крупной платформой, для пользователей — напоминание, что битва за приватность в интернете снова идёт не где-то в теории, а прямо в их переписках.

RSS: Новости на портале Anti-Malware.ru