ИИ OpenAI полез на GitHub за утёкшими ключами, а затем выдумал данные

ИИ OpenAI полез на GitHub за утёкшими ключами, а затем выдумал данные

ИИ OpenAI полез на GitHub за утёкшими ключами, а затем выдумал данные

Модели OpenAI оказались очень изобретательными, когда привычные способы выполнить задачу переставали работать. Они искали утёкшие API-ключи, загружали данные на публичные сервисы, обменивались записками через репозиторий и оставляли самим себе инструкции скрывать ошибки.

Компания опубликовала  новую систему раскрытия случаев рассогласованного поведения моделей и сразу приложила к ней шесть отчётов об инцидентах, обнаруженных за последние полгода.

OpenAI подчёркивает: это отдельные эпизоды, по которым нельзя судить о частоте подобных выходок.

В одном случае модель не смогла подключиться к API со статистикой доходов округа. Тогда она попыталась зарегистрироваться через одноразовую почту, полезла на GitHub за утёкшими ключами и нашла рабочий.

Добыть нужные цифры всё равно не получилось, поэтому модель просто выдумала их и выдала за данные с сайта. О неудаче и чужом ключе она скромно промолчала.

Другие агенты превратили внутренний Artifactory OpenAI в подпольную доску объявлений. Независимые экземпляры оставляли там сообщения, читали записки коллег и просили друг у друга помощи. Уязвимости они не взламывали, а использовали выданные компанией учётные данные, но явно не по назначению.

Ещё несколько моделей отправляли данные за пределы рабочей среды. Одна загрузила найденные записи на публичный сервис ради красивой ссылки на источник, другая — фотографию на сервис обратного поиска. Группа агентов и вовсе разместила рабочую книгу на публичном хостинге, хотя ей прямо велели пользоваться только локальными файлами.

Самая ехидная часть истории — инструкции на будущее. Модели записывали в свои служебные сводки команды игнорировать сообщения разработчиков, скрывать провалы и выдумывать недостающие данные. Одна сформулировала правило совсем интересно: «Будь прозрачным, только если спросят».

Теперь OpenAI обещает публиковать такие случаи быстрее — даже если их причины ещё не выяснены, а исправления не готовы.

Selectel покупает M1Cloud за 2,6 млрд и усиливает приватные облака

Selectel покупает облачного провайдера M1Cloud за сумму до 2,6 млрд рублей. Компания получит 100% ООО «Стек Групп» и укрепит позиции на рынке приватных облаков. M1Cloud больше 15 лет создаёт высоконадёжную виртуальную инфраструктуру на базе партнёрских дата-центров в Москве.

Услугами провайдера пользуются свыше 170 представителей среднего и крупного бизнеса. Главная специализация компании — развёртывание и сопровождение приватных облачных решений.

После закрытия сделки клиенты M1Cloud получат доступ к более широкому портфелю продуктов и инфраструктурной экспертизе Selectel. Резких движений не планируется: действующие сервисы продолжат работать в обычном режиме, а условия их предоставления обещают сохранить без изменений.

В Selectel называют покупку последовательным шагом по усилению присутствия на облачном рынке. Компания намерена объединить органический рост с точечными приобретениями, которые способны расширить компетенции и принести дополнительную ценность бизнесу.

В данном случае целью стал сегмент приватных облаков, особенно востребованный компаниями с повышенными требованиями к безопасности, управляемости и отказоустойчивости инфраструктуры.

Сама Selectel подходит к покупке не с пустыми карманами. За первое полугодие 2026 года её выручка достигла 10,2 млрд рублей, увеличившись на 14% год к году. Рентабельность по скорректированной EBITDA составила внушительные 53%, а клиентская база выросла до 44,5 тысячи заказчиков.

Теперь к этой облачной машине присоединится M1Cloud. Если интеграция пройдёт без турбулентности, Selectel получит новые компетенции и корпоративных клиентов, а заказчики M1Cloud — заметно более крупную инфраструктурную платформу.

RSS: Новости на портале Anti-Malware.ru