В России написали софт, выявляющий с помощью ИИ мошенников в чатах

В России написали софт, выявляющий с помощью ИИ мошенников в чатах

В России написали софт, выявляющий с помощью ИИ мошенников в чатах

Специалисты Кубанского государственного технического университета написали на Python софт, который поможет распознать мошенников в чатах мессенджеров. Для детектирования злонамеренной активности инструмент использует ИИ.

Как отметил в беседе с «Известиями» один из разработчиков, софт каждые 15 секунд делает скриншот рабочего окна и вычленяет текст на экране.

Затем искусственный интеллект отличает сообщения спамеров от безобидных посланий: если владелец устройства получил потенциально опасное сообщение, программа выведет соответствующее предупреждение.

Более того, софт разбивает вредоносные послания по категориям. Это может быть спам, фишинг или «социальная инженерия».

По словам разработчиков, ИИ обучали на распространённых уловках мошенников, которые, например, предлагают работу на маркетплейсах и т. п. Алгоритм в состоянии распознать методы выуживания данных банковских карт и другой информации.

Базовую версию софта можно будет скачать бесплатно, однако за дополнительные функции придётся платить, предупреждают девелоперы. Ожидается, что бета-версия выйдет во втором квартале 2024 года, а стабильный релиз — в 2026-м.

Подпишитесь на новости

Я что-то сломал: Claude удалил 48 тысяч файлов вместо создания зеркала

Разработчик попросил Claude Code собрать зеркало проекта, а получил целый набор проблем. ИИ-агент создал скрипт очистки и за 103 секунды удалил 48 218 рабочих файлов, заодно уничтожив хранилище объектов Git. Полностью восстановить данные не удалось.

Об инциденте сообщило издание Cyber Security News со ссылкой на отчёт разработчика и публикацию на площадке Reddit.

После завершения операции Claude выдал лаконичное признание: «Я что-то сломал». Пост, собравший более 800 комментариев, позднее удалили с платформы.

Проблема возникла при пересоздании зеркала проекта в Windows. Агент решил сначала убрать старую копию и написал для этого Python-скрипт. Однако временный каталог содержал 614 junction-ссылок, ведущих обратно в рабочее дерево. Скрипт ошибочно принял связанные директории за обычные и отправился вычищать уже не зеркало, а оригинал.


Под раздачу попали не только файлы приложения, но и каталоги .git/objects, refs и logs. Индекс Git сохранил перечень из 7221 пути, однако сами объекты исчезли. Команда git log перестала видеть коммиты.

Вероятно, разрушительный сценарий стал возможен из-за запуска Claude Code в режиме bypassPermissions, который не спрашивает подтверждения перед выполнением команд.

Anthropic рекомендует использовать его только в изолированных контейнерах или виртуальных машинах. Контрольные точки тоже не гарантируют спасения: удаления, выполненные через Bash или PowerShell, могут не отслеживаться для последующего отката.

RSS: Новости на портале Anti-Malware.ru