Саммит Gartner по безопасности и управлению рисками 2023, Национальная гавань: основные моменты третьего дня

«Уже существует множество моделей ИИ, которые уже внедрены в эксплуатацию и могут быть скомпрометированы и атакованы. Опрос Gartner, проведенный в 2021 году, показал, что в 73% организаций уже развернуты сотни или тысячи моделей ИИ».

«Компрометации и атаки охватывают все этапы жизненного цикла ИИ, включая отравление данных; проблемы конфиденциальности; манипулирование результатами модели; а также неправильное использование модели или данных, компрометацию или кражу».

«Существуют два распространенных заблуждения относительно угроз безопасности ИИ: большинство атак ИИ совершаются только посторонними, поэтому нам не нужно заглядывать внутрь; и большинство атак ИИ сложны, поэтому давайте не будем беспокоиться по мелочам».

«Команды CISO и ИИ по-разному воспринимают риск, исходящий от ИИ. Команды ИИ считают, что риск, связанный с ИИ, с большей вероятностью материализуется, и больше обеспокоены риском ИИ в целом. Не каждый день кто-то больше обеспокоен информационным риском, чем команда безопасности».

«AI TRiSM помогает обеспечить управление, надежность, справедливость, надежность, конфиденциальность, безопасность и соответствие ИИ-решений, превращая неуправляемые риски в управляемые».

«К 2026 году организации, которые внедряют прозрачность, доверие и безопасность ИИ, увидят, что их модели ИИ улучшат результаты на 50% с точки зрения внедрения, бизнес-целей и признания пользователями».

Узнайте больше об AI TRiSM в разделе вопросов и ответов Gartner «Почему доверие и безопасность необходимы для будущего генеративного искусственного интеллекта».