Практическое руководство по защите весов моделей ИИ

Abstract

Этот аналитический бриф RAND обобщает рекомендации по защите весов фронтирных моделей ИИ от кражи и злоупотребления. Поскольку кража весов позволяет злоумышленникам использовать модель в своих целях, авторы определяют пять уровней безопасности — от защиты от оппортунистических атакующих до защиты от наиболее возможных государственных противников — и соотносят каждый уровень с конкретными мерами, включая усиленные программные интерфейсы, резкое сокращение числа лиц с правом копирования, мониторинг всей цепочки поставок программного и аппаратного обеспечения, а также использование доверенных сред исполнения на GPU. Руководство даёт разработчикам и политикам способ приводить уровень защиты в соответствие с риском, который представляет каждая система.