NVIDIA объявила о создании отраслевой инициативы Open Secure AI Alliance, направленной на разработку и распространение открытых технологий для защиты ИИ-агентов, программного обеспечения и инфраструктуры, на которой они функционируют.

Альянс объединяет более 40 организаций из областей облачных вычислений, кибербезопасности, корпоративного ПО, исследований в области ИИ и экосистемы открытых решений. В число учредителей вошли Linux Foundation, Red Hat, IBM, Microsoft, Hugging Face, Cloudflare, Cisco, CrowdStrike, HPE, Salesforce, SAP, Adobe, Dell Technologies, Elastic, Palo Alto Networks, Siemens, Snowflake и другие.

Вместо создания единого продукта безопасности, альянс Open Secure AI стремится выработать общий набор открытых моделей, фреймворков, систем идентификации, инструментов сканирования, данных и безопасных практик разработки.

По заявлению NVIDIA, эти ресурсы позволят организациям изучать, адаптировать и развёртывать системы безопасности ИИ на собственной инфраструктуре, снижая зависимость от закрытых платформ.

Инициатива основывается на текущих наработках проектов Akrites от Linux Foundation и Open Source Security Foundation. Её главная цель состоит в улучшении процессов выявления, устранения и ответственного раскрытия уязвимостей с помощью открытых технологий.

В рамках анонса NVIDIA также представила исследовательский фреймворк с открытым исходным кодом NVIDIA Labs Object-Oriented Agent (NOOA). Проект призван улучшить интеграцию между моделями ИИ и обвязкой агентов, упрощая тестирование, отслеживание, аудит и управление поведением агентов.

Другие учредители также предоставляют существующие открытые технологии. HPE участвует через проекты SPIFFE и SPIRE, предлагающие стандарты и инструменты для криптографической проверки подлинности рабочих нагрузок и сервисов.

Hugging Face предоставляет Safetensors, формат хранения весов моделей, который предотвращает произвольное выполнение кода и обеспечивает прозрачный и эффективный способ распространения ИИ-моделей.

IBM и Red Hat представляют Lightwell, проект для укрепления цепочки поставок открытого ПО с помощью цифровых подписей для патчей безопасности. Microsoft предлагает MDASH, мультимодельный фреймворк сканирования, который координирует работу специализированных ИИ-агентов для выявления, анализа и проверки уязвимостей в ПО.

В совокупности эти компоненты образуют то, что NVIDIA называет открытым стеком защиты для ИИ-агентов, который охватывает идентификацию рабочих нагрузок, изоляцию, безопасные форматы моделей, сканирование уязвимостей и более безопасные процессы разработки ПО.

Впрочем, Open Secure AI Alliance пока остаётся новой инициативой, а не готовой программной платформой. Её долгосрочное значение будет зависеть от дальнейших вкладов со стороны компаний-участников и более широкого участия независимых разработчиков, исследователей безопасности и открытых фондов.

Подробности доступны в анонсе NVIDIA.