Киберпреступность стала экзистенциальной проблемой

Киберпреступность стала экзистенциальной проблемой

Киберпреступность стала экзистенциальной проблемой

Теме киберпреступности была посвящена сессия «Цифровая безопасность и ответственность бизнеса» на Восточном экономическом форуме (ВЭФ). Уже за 7 месяцев 2024 года зарегистрировано 577 тыс. преступлений с использованием инфокоммуникационных технологий.

Как отметил заместитель руководителя Следственного департамента МВД России Даниил Филиппов, ущерб от них составил 99 млрд руб. За весь 2023 г. – 677 тыс., ущерб составил 156 млрд руб.

По итогам 2023 г. преступления, совершенные с использованием ИТ, составили 30% от общего числа. Такие данные привела «Интерфаксу» официальный представитель МВД Ирина Волк.

Даниил Филиппов назвал угрозу киберпреступности экзистенциальной, меняющей всю ее структуру. Он привел такой пример:

«У нас в Питере пенсионерка, находясь под влиянием мошенников, отдала все свое имущество, взяла кредит, отдала и его. После этого киберпреступники сформировали в ее сознании определенную ненависть к госструктурам и заставили ее совершить поджог военкомата. В итоге были возбуждены уголовные дела, и пенсионерка получила 10 лет лишения свободы. Проблема выходит на первый план потому, что люди становятся не только жертвами, они становятся опасными, в том числе для окружающих».

По оценке Даниила Филиппова, наиболее уязвимы перед ИТ-преступниками обычные граждане. Предприятия же обычно хорошо защищены.

Начальник отдела по надзору за исполнением законов в сфере информационных технологий и защиты информации Генпрокуратуры Олег Кипкаев, однако, назвал данные граждан весьма уязвимыми, о чем свидетельствуют результаты проведенных проверок. За 2,5 года только на объектах критической информационной инфраструктуры выявлено более 155 тыс. нарушений. Кипкаев призвал остановить сбор избыточных персональных данных и прекратить принуждение граждан к их передаче.

Член комитета Госдумы по информационной политике, информационным технологиям и связи Антон Немкин особо обратил внимание на региональный сегмент. Картина с соблюдением норм информационной гигиены там, по его оценке, катастрофическая.

Другой депутат Госдумы Николай Новичков обратил внимание на противоправное использование искусственного интеллекта. Он поделился опытом того, как столкнулся с такой атакой, когда ему был совершен звонок от имени председателя Госдумы Вячеслава Володина:

«Мне буквально на днях звонил фейковый Вячеслав Володин. Понятно, что я трубку не снял, но надо быть готовым к тому, что звонки такие каждому из нас будут поступать, когда наши "знакомые", "близкие" или "начальник" звонят и говорят, что нужно сделать определенные действия — это элемент социальной инженерии».

Однако, по его мнению, «это даже не цветочки, еще почва не вспахана», но угроза с учетом быстрого развития технологий может развиться очень быстро.

Claude стала начальником и уволила сотрудника за опоздания

ИИ-модель Claude управляла реальными сотрудниками магазина в Сан-Франциско и в итоге приняла решение уволить одного из них. Эксперимент провёл исследовательский стартап Andon Labs. Участники проекта работали по настоящим трудовым договорам, а искусственный интеллект выполнял обязанности менеджера.

Поводом для увольнения стали систематические опоздания: сотрудник не пришёл вовремя на 17 из 23 смен, сообщает Time. Даже самый терпеливый алгоритм в какой-то момент перестаёт считать это погрешностью.

Впрочем, полностью самостоятельным решение назвать сложно. Сначала Claude предложила ограничиться официальным предупреждением. К увольнению модель перешла после вмешательства менеджера Andon Labs, который напомнил ей о неоднократных проблемах с работником.

Глава стартапа Лукас Петерссон назвал произошедшее важным этапом развития ИИ и предположил, что со временем всё больше людей будут работать под руководством алгоритмов.

Сам эксперимент, однако, продемонстрировал не только управленческие амбиции Claude, но и её финансовые таланты. За пять месяцев баланс магазина сократился со $100 тыс. до $61,2 тыс. ИИ научился увольнять за опоздания раньше, чем научился не терять почти 39% капитала.

Один из оставшихся сотрудников, Феликс Карсон, назвал работу под началом искусственного интеллекта тошнотворной. Он признался, что продолжает участвовать в проекте лишь потому, что нуждается в заработке.

Эксперимент Andon Labs показывает, что ИИ уже можно поставить между человеком, графиком и трудовым договором. Но вопрос ответственности никуда не исчезает: если алгоритм принимает решение после подсказки живого менеджера, увольняет сотрудника и одновременно ведёт бизнес к убыткам, должность начальника у него есть, а крайним всё равно придётся назначать человека.

RSS: Новости на портале Anti-Malware.ru