如何完整梳理AI系统面临的安全风险，及如何消减风险，需要一个完整的系统化的方法论。之前我们介绍过Google的SAIF（Google的AI安全框架(SAIF)）,该框架比较完整，但比较高阶，讲明白了原理，但不够具体，可操作性差。此次介绍 Databricks的安全框架（Databricks AI Security Framework (DASF) ）,非常具体，容易落地和执行。Databricks是数据处理的国际领先厂商，在AI及安全上也有较大投入，而AI与数据安全密不可分，他们的方案非常完整。DASF 向读者介绍了通⽤数据中心AI 系统的四个阶段及 12 个基础组件（图1），四个阶段包括：包括提取和转换数据，以及确保数据安全和治理。良好的机器学习模型依赖于可靠的数据管道 和安全的 DataOps 基础设施。包括构建预测性 ML 模型、从模型市场获取模型或使⽤ LLM（如 OpenAI 或 Foundation Model API）。三、模型部署和服务（图 1 中的 #9 和 #10）包括安全地构建模型镜像、模型隔离和安全服务、⾃动扩展、速率限制以及已部署模型的监控。此外，它还包含特性和功能服务，为检索增强⽣成 (RAG) 应 ⽤程序中的结构化数据提供⾼可⽤性、低延迟服务，以及其他应⽤程序所需的功能，例如平台外部提供的模型或任何其他需要基于⽬录 中数据的功能的应⽤程序。 四、操作和平台（图 1 中的 #11 和 #12）包括平台漏洞管理和修补、模型隔离和系统控制，以及在架构中确保模型安全的授权访问。此外，还包括⽤于 CI/CD 的运营⼯具。它通过保持不同 的执⾏环境（开发、预发布和⽣产）来确保整个⽣命周期符合所需的标准，从⽽实现安全的 MLOps。对每一个基础组件，详细列出了风险列表，比如原始数据项，有11条风险：总计62个安全风险，分类非常清晰，翻译出来大概是这样子：针对每一条风险，文档都给出了消减方法，以第一条，访问控制不足为例：这个文档是DASF的2.0版，非常完整。实际使用的时候，不相关的项可以忽略，比如，里边涉及非常多的训练的相关风险，如果只是部署使用，相关的项目可以忽略。https://www.databricks.com/sites/default/files/2025-02/databricks-ebook-dasf-2.pdf
https://www.youtube.com/watch?v=GMcAlpgCElU
立即咨询 JOTO
JOTO 提供覆盖企业智能体规划与搭建、AI 平台私有化部署、RAG 知识工程、AI 安全治理、FDE 驻场共创及持续运营优化的全周期 AI 落地服务，帮助企业把验证中的 AI 能力转化为安全、可控、可持续迭代的生产力。 联系 JOTO 获取 AI 落地咨询
