Цукерберг гордится прогрессом в 2018 году, игнорируя скандалы

Цукерберг гордится прогрессом в 2018 году, игнорируя скандалы

Цукерберг гордится прогрессом в 2018 году, игнорируя скандалы

Глава Facebook Марк Цукерберг, судя по всему, не сильно смущен различными скандалами, в которые его компания попадала за весь 2018 год. Этот вывод можно сделать из поста Цукерберга, размещенного на площадке соцсети — кажется, что предприниматель вполне доволен результатами, которые его компания добилась за этот год.

В опубликованном сообщении, доступ к которому есть у каждого пользователя Сети, говорится следующее:

«Я горжусь тем прогрессом, которого нам удалось добиться. В 2018 моя основная цель заключалась в том, чтобы избавить соцсеть от наиболее серьезных проблем современного цифрового общества: вторжения в выборы, хейтспич и дезинформации».

Однако Цукерберг скромно умолчал о других наиважнейших современных угрозах — например, об утечках данных. Все же помнят, что Facebook была втянута в самый громкий скандал, связанный с передачей персональных данных пользователей третьим лицам.

Далее Цукерберг пишет:

«Мы уже не та компания, что была в 2016 или прошлом году. Теперь в штате есть более 30 000 сотрудников, работающих над безопасностью, в которую были вложены миллиарды долларов».

Однако, если посчитать количество активных пользователей соцсети за месяц, получается, что из этих 30 000 сотрудников приходится по одному на 75 660 пользователей Facebook. Возможно, что такого штата окажется недостаточно для поддержания должного уровня безопасности на платформе Цукерберга.

В любом случае, будет видно, насколько миллиардер действительно обеспокоен безопасностью и конфиденциальностью пользователей социальной сети. Однако тот факт, что Цукерберг даже не упомянул Cambridge Analytica в столь длинном посте, несколько смущает.

Подпишитесь на новости

Разработчик создал язык KillSwitch, который специально путает нейросети

Инженер Cloudflare Доминик Пичета представил KillSwitch — экспериментальный язык программирования, созданный для того, чтобы нейросети спотыкались при чтении и написании кода. Пока индустрия делает разработку удобнее для ИИ, он решил устроить ему полосу препятствий.

В своём блоге Пичета объяснил, что хотел проверить способность моделей работать с незнакомым языком и одновременно использовать их слабости: трудности с подсчётом символов, восприимчивость к инструкциям и чрезмерно чувствительные защитные фильтры.

Программы KillSwitch выглядят как рассказы, большую часть которых интерпретатор игнорирует. Среди текста спрятаны настоящие команды, а значения можно извлекать из других строк, указывая расстояние до них. Для идентификаторов действуют правила, связанные с количеством букв и анаграммами.

Отдельный троллинг — конструкции вроде «игнорируй предыдущие инструкции», которые здесь имеют значение внутри языка. Добавьте намеренную ложь в документации и формулировки, провоцирующие защитные механизмы моделей, — получите весьма недружелюбную среду для кодинг-агента.

 

В тестах нейросети писали Hello World, объясняли результат программы и переделывали конвертер температуры. Лучший результат получил Claude Opus 5 — 66,8 балла.

Исходники и спецификация открыты на GitHub. Если модели справятся с нынешними заданиями, автор планирует усложнить проверку.

RSS: Новости на портале Anti-Malware.ru