Apple создаст онлайн-сервис для запросов полиции персональных данных

Apple создаст онлайн-сервис для запросов полиции персональных данных

Apple создаст онлайн-сервис для запросов полиции персональных данных

Apple планирует усилить свое взаимодействие с правоохранительными органами. На этот раз корпорация создаст онлайн-инструмент, где полиция разных стран сможет оставлять запросы на получение персональных данных пользователей продукции компании. Ранее такие запросы принимались компанией только по электронной почте.

Такую информацию предоставило новостное агентство Reuters, которому удалось получить доступ к письму Apple, которое было адресовано американскому сенатору Шелдону Уайтхаузу.

Именно в этом письме упоминается, что у корпорации появится новый сервис. Запуск этого нововведения планируется осуществить к концу 2018 года.

Apple сделает его открытым для правоохранителей по всему миру, сообщается, что некоторые представители органов уже успели ознакомиться с сервисом и даже пройти небольшой процесс обучения по его использованию.

Apple в письме уточнила, что за прошлый год обработала 14 000 запросов от американских полицейских. Среди них были «внутренние экстренные запросы», которые были обработаны в течение 20 минут, «независимо от того, день это был или ночь».

Напомним, что на днях корпорация пересмотрела правила для разработчиков в App Store. Теперь им придется подробно и четко указывать, как именно они используют данные пользователей. Таким образом, с 3-го октября разработчики должны будут предоставить новые политики конфиденциальности, которые будет распространяться на все новые приложения, а также на обновления старых.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Языковые модели тупеют от мусорных данных из интернета

Группа исследователей из Университета Техаса и Университета Пердью предложила необычную идею: большие языковые модели (LLM), вроде ChatGPT, могут «тупить» от некачественных данных примерно так же, как люди — от бесконечных часов в соцсетях.

В отчёте специалисты выдвигают «гипотезу гниения мозга LLM». Суть проста: если продолжать дообучать языковую модель на «мусорных» текстах из интернета, она со временем начнёт деградировать — хуже запоминать, терять логику и способность к рассуждению.

Авторы понимают, что отличить хороший контент от плохого сложно. Поэтому они решили изучить 100 миллионов твитов с HuggingFace и отобрать те, что подходят под определение «junk».

В первую группу попали короткие твиты с большим количеством лайков и репостов — те самые, которые вызывают максимальное вовлечение, но несут минимум смысла. Во вторую — посты с «низкой семантической ценностью»: поверхностные темы, кликбейт, громкие заявления, конспирология и прочие «триггерные» темы.

 

Чтобы проверить качество отбора, результаты GPT-4o сверили с оценками трёх аспирантов — совпадение составило 76%.

Учёные обучили четыре разные языковые модели, комбинируя «мусорные» и «качественные» данные в разных пропорциях. Потом прогнали их через тесты:

  • ARC — на логическое рассуждение,
  • RULER — на память и работу с длинным контекстом,
  • HH-RLHF и AdvBench — на этические нормы,
  • TRAIT — на анализ «личностного стиля».

Результаты оказались любопытными: чем больше в обучающем наборе было «интернет-мусора», тем хуже модель справлялась с задачами на рассуждение и память. Однако влияние на «этичность» и «черты личности» было неоднозначным: например, модель Llama-8B с 50% «мусора» даже показала лучшие результаты по «открытости» и «низкой тревожности».

Исследователи сделали вывод: переизбыток интернет-контента может привести к деградации моделей и призвали разработчиков тщательнее отбирать данные для обучения. Особенно сейчас, когда всё больше онлайн-текста создаётся уже самими ИИ — и это может ускорить эффект так называемого model collapse, когда модели начинают обучаться на собственных ошибках.

Учёные шутят: если так пойдёт и дальше, возможно, придётся вернуться к книгам — хотя бы ради того, чтобы «накормить» модели чем-то действительно качественным.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru