Мошенничество - Все публикации

Многие уже ощутили силу машинного обучения: ИИ проник почти во все повседневные процессы. Наверняка у многих хотя бы раз возникала мысль изучить эту тему. Наша подборка бесплатных материалов позволит узнать, как обспечить безопасность систем машинного обучения (ML) и искусственного интеллекта (ИИ) на всех этапах их жизненного цикла.

Искусственный интеллект тоже нуждается в защите. Практике обеспечения безопасности ИИ дали название MLSecOps. Она объединяет машинное обучение, борьбу с угрозами и автоматизацию (DevOps) для создания надёжных систем. Эксперты AM Live обсудили, как оградить ИИ-модели от кибератак и скрытых ошибок.

Более 20 лет назад Microsoft опубликовала правила, следуя которым, как предполагали их создатели, можно было повысить кибербезопасность. Как эти рекомендации смотрятся сегодня, в эпоху искусственного интеллекта и атак на цепочки поставок? Что устарело в этих «заповедях», а что по-прежнему актуально?

Многие уже успели убедиться в полезности общения с ИИ через запросы (промпты). На первый взгляд, процесс выглядит безопасным. Но путем инъекций в промпты злоумышленники могут компрометировать это взаимодействие. Как это может происходить? Какие варианты инъекций уже выделены в создаваемую классификацию угроз для ИИ?