Илья Сачков: ИИ даёт больше для преступности, чем для безопасности

Илья Сачков: ИИ даёт больше для преступности, чем для безопасности

Илья Сачков: ИИ даёт больше для преступности, чем для безопасности

Илья Сачков, в настоящее время обжалующий вынесенный недавно 14-летний приговор, рассказал о своём видении взаимодействия человека и искусственного интеллекта. По словам специалиста, контролировать ИИ людям не под силу.

В своей заметке Сачков призвал не принимать во внимание пошлые стереотипы вроде «восстания машин», однако подчеркнул, что ИИ на сегодняшний день уже вышел из под контроля человека.

Более того, эксперт уверен, что до настоящего искусственного интеллекта в полном смысле этого слова ещё далеко.

«Я чувствую, что люди уже сейчас становятся сенсором определённой силы, которая движется очень хорошим темпом. ИИ развивается коллективным бессознательным, а его цель предельно ясна для людей, мыслящих глубоко», — пишет основатель Group-IB.

Сачков убеждён, что проблема ИИ в том, что он «атрофирует» волю и в каком-то смысле наступает на горло творческому началу человека. Его задача — сделать контент «более развлекательным».

Эксперт видит преимущество злоумышленников при работе с ИИ: они могут обучать нейросети на массивах незаконных данных, чего лишены законопослушные разработчики. Требования регуляторов и юридические рамки ещё не скоро коснутся сферы ИИ, считает Сачков.

«ИИ представляет больше возможностей для мошенничества и преступности. чем для обеспечения безопасности. Фактически глобально эта гонка уже проиграна», — подытожил специалист.

Напомним, в середине июля Илья Сачков получил 14 лет колонии строгого режима за государственную измену.

Новая функция ChatGPT может подарить стилерам карту активности юзера macOS

OpenAI представила Computer History — функцию, которая превращает недавнюю активность на Mac-компьютерах в хронологию и воспоминания для ChatGPT и Codex. Система учитывает переключения между приложениями, клики, ввод текста, сочетания клавиш и контекст, доступный через специальные возможности macOS. Затем ИИ собирает из этого краткие сводки о работе пользователя.

Функция выключена по умолчанию и требует активации Memories. Пока она работает только в приложении ChatGPT для macOS и доступна пользователям Pro, Business и Enterprise. Подробности опубликованы в документации OpenAI.

В корпоративных тарифах сначала понадобится разрешение администратора. В Европейской экономической зоне, Швейцарии и Великобритании новинка недоступна.

Пользователь может выбрать участвующие приложения и сайты, поставить сбор на паузу или удалить историю за десять минут, час, день либо целиком. Скриншоты, звук и активность в приватном режиме браузера в историю не попадают.

 

Исходные файлы событий хранятся на Mac до 48 часов и после обработки удаляются. Для создания сводок они временно отправляются на серверы OpenAI, но, по заявлению компании, не сохраняются и не используются для обучения моделей. А вот сформированные воспоминания остаются на компьютере в виде обычных Markdown-файлов, пока пользователь не удалит их сам.

И тут приватность начинает хромать. Эти файлы не шифруются средствами Computer History, поэтому другие программы, работающие от имени того же пользователя macOS, потенциально могут их прочитать. Для стилера такая папка способна стать готовым конспектом рабочего дня.

OpenAI также предупреждает о риске инъекции в промпт: скрытые инструкции на сайте или в приложении могут попасть в контекст, после чего ChatGPT или Codex попробует им следовать.

RSS: Новости на портале Anti-Malware.ru