ИТ-гиганты нуждаются в закрытом ChatGPT

ИТ-гиганты нуждаются в закрытом ChatGPT

ИТ-гиганты нуждаются в закрытом ChatGPT

Apple запретила сотрудникам использовать ChatGPT. Причина — возможные утечки важных данных за периметр. Apple развивает теперь свой искусственный интеллект для внутреннего пользования.

Разговорная модель ChatGPT от OpenAI способна выполнять многие задачи, от ответов на вопросы до помощи в программировании. Модель работает только на серверах OpenAI или Microsoft и доступна через интернет.

Именно этот нюанс и не устраивает таких гигантов, как Apple, пишет Ars Technica.

Решение Apple ограничить использование внешних инструментов ИИ основано на опасениях, что конфиденциальные данные могут быть подвергнуты риску из-за характера этих моделей. Так, ChatGPT отправляет данные пользователей разработчикам для их обработки в облаке и помощи в улучшении будущих моделей ИИ.

OpenAI уже сталкивалась с проблемами “утечек” — ошибка позволила получить доступ к информации из чат-истории других пользователей. Так было с сотрудниками Samsung — они разболтали чат-боту ChatGPT исходный код.

В ответ на критику OpenAI внедрил опцию, которая позволяет отключать сохранение истории чатов. Это же предотвращает использование данных для обучения будущих моделей ИИ.

Apple хорошо известна своими строгими требованиями к безопасности, а ее решение запретить использование внешних инструментов ИИ отражает растущий тренд в целом.

Крупным бизнесам безопаснее развивать собственные модели для внутреннего пользования. Об этом уже говорят в том же Samsung и JPMorgan Chase. Amazon также поощряет своих инженеров использовать собственные инструменты ИИ (например, CodeWhisperer) для помощи в написании кода, а не “ходить на сторону”.

Microsoft, стоявшая у истоков OpenAI, недавно сама объявила о планах запуска версии ChatGPT, ориентированной на конфиденциальность. Аудитория таких “закрытых чатов” — банки, медцентры и другие крупные компании, у которых существуют повышенные опасения относительно утечек данных и соблюдения требований регуляторов.

Такая более дорогая бизнес-версия ChatGPT будет работать на выделенных серверах, отдельных от тех, которые служат другим компаниям или пользователями. Это позволит предотвратить случайные утечки данных и использовать их для обучения языковой модели искусственного интеллекта.

Добавим, что хотя Apple и ограничила использование ChatGPT для своих сотрудников, запрет не распространяется на приверженцев продуктов корпорации. Совсем недавно OpenAI выпустила официального клиента ChatGPT для пользователей iPhone в США.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

PT Dephaze научилась строить цепочки атак и тестировать десятки тысяч узлов

Компания Positive Technologies выпустила обновлённую версию PT Dephaze — системы, которая автоматически проводит безопасные тесты на проникновение во внутреннюю инфраструктуру. Новый релиз делает процесс автопентеста более наглядным и приближённым к реальным сценариям атак, а также помогает ИБ-специалистам расставлять приоритеты при устранении уязвимостей.

Главное отличие PT Dephaze от классических сканеров уязвимостей — в подходе.

Вместо длинного списка потенциальных проблем система показывает реальные цепочки атак, по которым злоумышленник может пройти от точки входа до ключевых систем. Такой формат помогает быстро понять, какие из найденных слабых мест действительно опасны и требуют немедленного реагирования.

Новая версия PT Dephaze умеет тестировать десятки тысяч узлов и охватывает всю корпоративную сеть. В список векторов атак добавлены Linux-системы, сетевые принтеры, решения для резервного копирования и инфраструктура Active Directory. Кроме того, продукт теперь связывает найденные логины и пароли с конкретными атаками, упрощая поиск и устранение уязвимостей.

Все действия PT Dephaze имитируют работу реального хакера, но проходят в полностью безопасном режиме. Команды ИБ могут управлять интенсивностью атак, исключать из проверки критически важные сервисы, а любые потенциально опасные действия выполняются только после ручного подтверждения.

«Клиенты часто просили сделать процесс тестирования максимально прозрачным, — рассказал Ярослав Бабин, директор по продуктам для симуляции атак в Positive Technologies. — Теперь можно увидеть весь путь атаки шаг за шагом — какие действия выполняются, какие уязвимости использованы и какие доказательства компрометации получены».

По итогам проверки PT Dephaze предоставляет конкретные доказательства проникновения — скомпрометированные IP-адреса, учётные записи и параметры конфигурации. Эти данные помогают ИТ-командам быстрее согласовать и реализовать исправления, превращая разговор о рисках в чёткий план действий.

В начале года PT Dephaze внесли в единый реестр российского ПО.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru