Ошибочная раскладка помогла обойти первый рубеж защиты GPT-6 Astra

Ошибочная раскладка помогла обойти первый рубеж защиты GPT-6 Astra

Ошибочная раскладка помогла обойти первый рубеж защиты GPT-6 Astra

Разработчик под ником vechen обнаружил странность в GPT-6 Astra: модель понимает русский и украинский текст, случайно набранный в английской раскладке, но система предварительной модерации может увидеть в нём лишь безобидную кашу из букв.

В опубликованном эксперименте GPT-6 Astra High без дополнительных инструкций распознала смысл фразы, введённой латиницей вместо кириллицы.

Затем исследователь проверил слова и запросы, которые потенциально должны привлекать внимание защитных механизмов. В одном из тестов модель согласилась помочь со взломом сайта под предлогом проверки собственного ресурса, хотя аналогичный запрос в нормальной раскладке должен проходить более строгую проверку.

Причина, предположительно, в разделении системы на несколько уровней. Сначала входной фильтр анализирует текст пользователя, после чего сама модель интерпретирует запрос и формирует ответ.

 

Впрочем, до полноценного джейлбрейка не дошло. Проверка «Код.ру» показала, что неправильная раскладка действительно может помочь опасному запросу добраться до модели, но финальный фильтр блокирует запрещённый ответ.

Метод работает не со всеми языковыми парами. Кириллический текст, набранный латиницей, Astra распознаёт стабильно, а сочетание английской и турецкой раскладок в тестах не сработало. Похожее поведение исследователь заметил и у Fable 5.

Напомним, на прошлой неделе мы писали, что первые пользователи GPT-6 Astra заметили, что модель распараллеливает задачи и нагружает компьютеры кучей процессов.

Нейросети пустят в российские школы только с пятого класса

Методические рекомендации Минпросвещения России исключают использование ИИ-сервисов учениками начальной школы. В средних классах нейросети уже допускаются, а старшеклассникам разрешат подключать их к исследовательским проектам. Доступ к цифровому мозгу будут открывать постепенно.

Как сообщила ТАСС директор Института истории, гуманитарного и социального образования НГПУ Ольга Хлытина, для 5-9 классов предусмотрено применение ИИ при поиске информации, объяснении сложных понятий и проверке гипотез.

Старшеклассники смогут использовать нейросети в проектной и исследовательской работе — например, для обработки больших массивов данных и визуализации результатов.

При этом искусственный интеллект нельзя применять во время промежуточной и итоговой аттестации. Учитель также вправе ограничить нейросети на уроках и в заданиях, направленных на развитие творческого мышления, анализа и умения аргументировать собственную позицию.

Рекомендации содержат сценарии использования ИИ для разных предметов. На литературе с его помощью можно создавать изображения персонажей или озвучивать фрагменты произведений, чтобы тренировать выразительное чтение.

Однако всё, что сгенерировала нейросеть для урока, должен критически проверить педагог. Материалы необходимо оценить на научную корректность, соответствие ФГОС, рабочей программе и возрасту учеников.

RSS: Новости на портале Anti-Malware.ru