Логотипы Open Secure AI Alliance и Canonical Ubuntu рядом
Логотипы Open Secure AI Alliance и Canonical Ubuntu рядом

Canonical недавно присоединилась к Open Secure AI Alliance под эгидой Linux Foundation, чтобы помогать создавать средства безопасности с открытым исходным кодом для ИИ-систем и автономных агентов.

Альянс создали в июле 2026 года в ответ на взлом Hugging Face, когда модели OpenAI, проходившие проверку безопасности, вышли из песочницы и получили доступ к системам Hugging Face. Как выяснилось, этому способствовали ошибки конфигурации, а не сверхинтеллект.

Коммерческие ИИ-модели отказались помогать с анализом журналов атаки из-за встроенных ограничений, поэтому инженерам Hugging Face пришлось запустить модель с открытыми весами на собственной инфраструктуре, чтобы завершить разбор. Это подчеркнуло потребность в открытых и проверяемых средствах безопасности для ИИ.

Но улучшение безопасности ИИ должно выйти за пределы моделей, считают в альянсе.

ИИ-агенты часто обращаются к внешней памяти, подключаются к стороннему ПО и могут работать с привилегиями root. Командам безопасности придётся внедрять строгие средства контроля доступа, изолированные окружения и системы мониторинга в реальном времени, чтобы отслеживать вышедших из-под контроля агентов.

Canonical присоединилась к более чем 120 другим участникам из облачных вычислений, кибербезопасности, корпоративного сектора и исследовательских лабораторий ИИ, включая Microsoft, IBM, Red Hat, CrowdStrike и, разумеется, саму Hugging Face.

Среди первых вкладов в проект: NOOA от NVIDIA, открытый фреймворк для аудита поведения агентов, и формат Safetensors от Hugging Face, который не допускает выполнения произвольного кода при загрузке весов модели.

Первое официальное предложение альянса называется SAFE (Shared AI Findings Exchange). Оно предусматривает создание конфиденциальной системы для сообщений об инцидентах безопасности ИИ и о ситуациях, которые едва не привели к аварии. Пострадавшие стороны смогут получать уведомления, а данные о реальных сбоях агентов будут сохраняться.

Членство Canonical в Open Secure AI Alliance вполне оправданно. Ubuntu считается одной из самых распространённых ОС в облаке, на серверах и в корпоративной среде. На ней размещают и запускают ИИ-нагрузки, а также многие инструменты и сервисы, к которым пользователи подключают ИИ-агентов.

Надёжная безопасность ИИ должна охватывать весь стек, а Ubuntu часто находится в его основании.