X запретила Grok «раздевать» людей на изображениях после скандала

X запретила Grok «раздевать» людей на изображениях после скандала

X запретила Grok «раздевать» людей на изображениях после скандала

Платформа X (прежний Twitter) Илона Маска объявила о новых ограничениях для своего ИИ-бота Grok после волны международной критики и расследований, связанных с генерированием непристойных изображений реальных людей — включая женщин и детей. Об этом компания сообщила 14 января.

Поводом стал резонанс вокруг так называемого Spicy Mode, который позволял с помощью простых текстовых запросов «раздевать» людей на фотографиях — например, «надень на неё бикини» или «убери одежду».

Эти возможности вызвали шквал жалоб, блокировки сервиса в отдельных странах и проверку со стороны регуляторов.

В X заявили, что приняли технические меры, чтобы пресечь подобные сценарии. В частности, компания начнёт блокировать по геолокации возможность создавать или редактировать изображения людей в «откровенной одежде» — бикини, нижнем белье и аналогичных образах — в тех юрисдикциях, где такие действия нарушают закон.

«Мы внедрили технологические ограничения, которые не позволяют Grok редактировать изображения реальных людей в откровенной одежде, включая бикини», — говорится в заявлении команды безопасности X.

Ограничения распространяются на всех пользователей, включая платных подписчиков.

Кроме того, в качестве «дополнительного уровня защиты» X решила оставить генерацию и редактирование изображений через Grok только для платных аккаунтов. В компании считают, что это позволит снизить риски злоупотреблений.

На ситуацию уже отреагировали европейские регуляторы. В Еврокомиссии заявили, что внимательно изучают дополнительные меры, принятые X, и проверят, действительно ли они способны защитить пользователей в ЕС. Представитель комиссии Томас Ренье отметил, что речь идёт о реакции на острую критику из-за непристойных изображений.

По данным недавнего исследования некоммерческой организации AI Forensics, более половины из 20 тысяч проанализированных изображений, созданных Grok, показывали людей в минимальном количестве одежды. Большинство из них — женщины, а около 2% персонажей выглядели как несовершеннолетние.

Робот-полицейский за $67 тысяч не поймал никого и ушёл на пенсию

В американском городе Дублин (штат Калифорния) завершился необычный эксперимент с роботом-полицейским DubBot. Менее чем через год службы его отправили в отставку, признав проект не слишком полезным. Робот начал патрулировать многоуровневую парковку Rock Cress летом 2025 года.

Машина была оснащена камерами кругового обзора, кнопкой экстренного вызова и системой двусторонней связи с диспетчерами.

По задумке властей, DubBot должен был помогать полиции, повышать безопасность в общественных местах и отпугивать потенциальных нарушителей.

Но результаты оказались, мягко говоря, скромными. Как сообщили в полиции Дублина, за всё время работы робот не помог раскрыть ни одного преступления, не привёл к выписке ни одного штрафа и вообще не обнаружил ни одного инцидента, который потребовал бы вмешательства полиции.

 

В итоге 12 мая программу решили закрыть, а самого робота вернуть компании Knightscope, которая его разработала.

Стоимость эксперимента составила 67,5 тысячи долларов. Изначально город планировал потратить почти 240 тысяч долларов на двух роботов сроком на два года. Однако второй робот так и не вышел на службу: разработчик не успел его подготовить, а в выбранном парке не оказалось необходимой инфраструктуры.

В мэрии подчёркивают, что проект задумывался как тест новых технологий в реальных условиях. Никаких дополнительных показателей эффективности власти даже не собирали; главной задачей было просто понять, есть ли смысл в дальнейшем использовании подобных систем.

RSS: Новости на портале Anti-Malware.ru