ИТ-гиганты нуждаются в закрытом ChatGPT

ИТ-гиганты нуждаются в закрытом ChatGPT

ИТ-гиганты нуждаются в закрытом ChatGPT

Apple запретила сотрудникам использовать ChatGPT. Причина — возможные утечки важных данных за периметр. Apple развивает теперь свой искусственный интеллект для внутреннего пользования.

Разговорная модель ChatGPT от OpenAI способна выполнять многие задачи, от ответов на вопросы до помощи в программировании. Модель работает только на серверах OpenAI или Microsoft и доступна через интернет.

Именно этот нюанс и не устраивает таких гигантов, как Apple, пишет Ars Technica.

Решение Apple ограничить использование внешних инструментов ИИ основано на опасениях, что конфиденциальные данные могут быть подвергнуты риску из-за характера этих моделей. Так, ChatGPT отправляет данные пользователей разработчикам для их обработки в облаке и помощи в улучшении будущих моделей ИИ.

OpenAI уже сталкивалась с проблемами “утечек” — ошибка позволила получить доступ к информации из чат-истории других пользователей. Так было с сотрудниками Samsung — они разболтали чат-боту ChatGPT исходный код.

В ответ на критику OpenAI внедрил опцию, которая позволяет отключать сохранение истории чатов. Это же предотвращает использование данных для обучения будущих моделей ИИ.

Apple хорошо известна своими строгими требованиями к безопасности, а ее решение запретить использование внешних инструментов ИИ отражает растущий тренд в целом.

Крупным бизнесам безопаснее развивать собственные модели для внутреннего пользования. Об этом уже говорят в том же Samsung и JPMorgan Chase. Amazon также поощряет своих инженеров использовать собственные инструменты ИИ (например, CodeWhisperer) для помощи в написании кода, а не “ходить на сторону”.

Microsoft, стоявшая у истоков OpenAI, недавно сама объявила о планах запуска версии ChatGPT, ориентированной на конфиденциальность. Аудитория таких “закрытых чатов” — банки, медцентры и другие крупные компании, у которых существуют повышенные опасения относительно утечек данных и соблюдения требований регуляторов.

Такая более дорогая бизнес-версия ChatGPT будет работать на выделенных серверах, отдельных от тех, которые служат другим компаниям или пользователями. Это позволит предотвратить случайные утечки данных и использовать их для обучения языковой модели искусственного интеллекта.

Добавим, что хотя Apple и ограничила использование ChatGPT для своих сотрудников, запрет не распространяется на приверженцев продуктов корпорации. Совсем недавно OpenAI выпустила официального клиента ChatGPT для пользователей iPhone в США.

Рынок защиты ИИ в России к 2029 году может возрасти до 11 млрд рублей

В AppSec Solutions ожидают, что российский рынок средств защиты ИИ-систем будет расти в геометрической прогрессии. В 2026 году его объем превысит 1 млрд руб., а к 2029 году может составить 11 млрд рублей.

Прогнозы других аналитиков, с которыми ознакомился «Ъ», еще более оптимистичны: 3-4 млрд руб. в 2025 году, 25-30 млрд руб. в 2030-м.

Рынок защиты ИИ в России пока молод и ориентирован на B2B. Его развитие стимулируют осознание рисков, сопряженных с внедрением таких технологий, и рост числа угроз; наибольшим спросом пользуются средства анализа защищенности новомодных интеграций, способных нарушить безопасность корпоративных сетей.

Рынок GenAI в России тоже стремительно растет. По оценкам Onside и Just AI, в сравнении с прошлогодним показателем его объем возрос почти в пять раз и достиг 58 млрд руб., а к 2030 году может достичь 778 млрд рублей.

Как неоднократно отмечали эксперты, расширение использования ИИ породило новые риски. Зафиксированы утечки конфиденциальной информации, возможность ошибок в выдаче больших языковых моделей (БЯМ, LLM), манипуляции данными, используемыми для их обучения, а также случаи злонамеренного вмешательства в работу ИИ-систем.

В ходе беседы с журналистами представитель «Информзащиты» упомянул еще одну, совсем новую угрозу — маскировку кибератак под коммуникации LLM. По оценке ИБ-компании, новая уловка злоумышленников позволяет повысить скрытность целевых атак на 42%: мишени по умолчанию воспринимают LLM-трафик как доверенный, а традиционные меры защиты в применении к ИИ малоэффективны.

RSS: Новости на портале Anti-Malware.ru