В Google Translate обнаружили встроенный шифровальщик

В Google Translate нашли латинский шифр

В блоге KrebsOnScurity появилась статья о том, что с помощью переводчика Google можно составлять шифрованные сообщения. Для этого достаточно ввести слова «lorem ipsum» в строку Translate.

Впервые шифровку обнаружили несколько месяцев назад сотрудник FireEye Майкл Шукри (Michael Shoukry) и анонимная специалистка под ником Kraeh3n. Эксперты заметили странное поведение Google Translate. Когда они вводили слова «lorem ipsum», которые программа автоматически определяет как латинские, на английский их переводили как «Китай».

Дальнейшее исследование показало, что слегка изменив буквы в словах можно получить разные варианты перевода. Например, если сделать заглавными каждую букву, фразу переведут как «НАТО». Если напечатать слова задом наперед, получится «компания» и «Интернет». В США под «компанией» подразумевают ЦРУ. Повторение и перестановка букв в словосочетании, а также смесь из прописных и заглавных букв выдала еще более странные переводы.

Kraeh3n утверждает, что обнаружила шифр, когда проверяла документ с данными словами. Как только она начала вводить «lorem» в Google Translate, на экране сразу появился перевод «Китай».

«Я увидела слова, вроде «Китай», «правительство», «свобода», «полиция», и мне стало интересно, почему это происходит. Я немедленно связалась с Шукри и мы начали углубленно изучать данную ситуацию», – сказала Kraeh3n.

Специалисты не могли понять, ошибка или это или это сделано специально. Похоже, они никогда не узнают, что произошло, потому что 16 августа Google Translate перестал переводить слово lorem на английский. Представитель корпорации сообщил, что это требуется для исправления бага в алгоритме переводчика. Kraeh3n уверена, что «lorem ipsum» не был случайностью или ошибкой софта.

Здесь был ИИ: журналистам предложили маркировать нейросетевые материалы

Союз журналистов России выступил за обязательную маркировку материалов, созданных с применением искусственного интеллекта. Причём редакциям предлагают не ограничиваться лаконичным «сделано с помощью ИИ», а подробно объяснять, что именно он делал с текстом.

Согласно рекомендациям СЖР, дисклеймер следует размещать в начале или конце публикации.

В нём нужно указывать конкретную роль технологии: нейросеть могла подготовить черновик, перевести материал, отредактировать его или выполнить другую задачу.

Отдельно предлагается сообщать, участвовал ли человек в проверке результата. Таким образом, читатель сможет понять не только происхождение текста, но и выяснить, посмотрел ли на него живой редактор перед публикацией.

При этом СЖР рекомендует не маркировать как сгенерированный аутентичный контент, если ИИ не участвовал непосредственно в его создании. Это должно предотвратить путаницу.

Инициатива пока оформлена как рекомендации для прессы. Не определены также единая формулировка дисклеймера, критерии значимого участия ИИ и ответственность редакций за отсутствие маркировки.

RSS: Новости на портале Anti-Malware.ru