Яндекс представил концепцию проверки ИИ на традиционные ценности

Яндекс представил концепцию проверки ИИ на традиционные ценности

Яндекс представил концепцию проверки ИИ на традиционные ценности

Яндекс представил правительственной рабочей группе концепцию национального набора тестов для проверки ИИ-систем на соответствие духовно-нравственным ценностям и российским условиям. Проект пока существует на уровне идеи, а окончательных решений по его устройству нет.

Предлагаемый датасет должен включать контрольные задания и эталонные данные, позволяющие сравнивать разные модели по единым критериям, сообщает «Коммерсантъ» со ссылкой на источники.

Обычно бенчмарки проверяют программирование, математику или решение рабочих задач. Теперь нейросетям могут добавить отдельный экзамен по духу времени — дисциплину, где списать правильный ответ будет особенно непросто.

Главный спор разгорелся вокруг публичности тестов. По сведениям источников, ФСБ выступает за закрытый формат: если разработчики заранее увидят вопросы, они смогут специально настроить модели на успешную сдачу.

Бизнес возражает, что полностью закрытая проверка замедлит выпуск новых версий и превратит тестирование в лотерею. В качестве компромисса обсуждается двухуровневая схема: открытый бенчмарк для предварительной настройки и закрытый — для финального экзамена по тем же темам, но с другими формулировками.

Не решено и то, кто будет определять содержание заданий. Представители ИТ-отрасли предлагают создать совместную комиссию из чиновников, бизнеса и экспертных организаций.

Дополнительная сложность заключается в самих критериях. В математике или программировании можно задать точный эталонный ответ. Со справедливостью, исторической памятью и другими ценностными категориями такой номер не пройдёт: здесь потребуется рубрикатор или экспертная оценка.

В аппарате вице-премьера Дмитрия Григоренко и Минцифры подтвердили, что предложения ещё обсуждаются. Яндекс публично концепцию не комментировал.

Напомним, ранее мы писали, что российские разработчики смогут передавать большие ИИ-модели в независимые испытательные лаборатории, которые проверят их на соответствие законодательству и традиционным духовно-нравственным ценностям.

МВД призвало не возвращать незнакомцам ошибочные переводы

Если на банковский счёт неожиданно поступили деньги от неизвестного человека, не следует самостоятельно отправлять их обратно. Такой перевод может оказаться частью мошеннической схемы, предупредили в управлении по борьбе с противоправным использованием информационно-коммуникационных технологий МВД России.

Для начала нужно проверить, действительно ли деньги зачислены. Мошенники нередко рассылают поддельные банковские уведомления и сразу просят вернуть несуществующий платёж.

Смотреть баланс следует только в официальном приложении банка или на его сайте. СМС и скриншот от незнакомца доказательством внезапного обогащения не считаются.

Если перевод настоящий, тратить деньги нельзя, даже когда сумма выглядит незначительной. Расходование чужих средств может быть признано необоснованным обогащением. Тогда получателю придётся вернуть деньги, а при споре, а также столкнуться с судебными издержками.

Самостоятельно пересылать сумму по реквизитам, которые назвал отправитель, тоже не стоит. Злоумышленники могут использовать человека как дополнительное звено в цепочке обналичивания. Другой вариант — после возврата начать запугивать жертву обвинениями в финансировании запрещённых организаций.

Все действия нужно проводить через банк. Следует сообщить о неизвестном платеже и оформить возврат официальным способом. Некоторые организации позволяют безопасно вернуть ошибочный перевод прямо в мобильном приложении (например, такая функция есть у Сбербанка).

МВД также рекомендует сохранить сообщения, номера телефонов и сведения о звонках. Они могут понадобиться банку или полиции, если история с ошибкой внезапно превратится в вымогательство.

Алгоритм такой: проверить баланс, деньги не трогать, незнакомцу ничего не переводить и позвонить в банк по официальному номеру.

RSS: Новости на портале Anti-Malware.ru