私有化部署：数据不出域的RAG架构怎么落地

结论先行：数据不出域不是“不连公网”一句空话，而是从推理、存储到管控的整体架构选择。Rust 实现、文件式存储、全本地推理（OCR / 版面 / 表格都跑本地 ONNX）三者叠加，RAG 数据管道才能单机私有化部署——敏感文档从解析到切片全程不离开这台机器。

一、为什么必须全本地推理

先看一个常见反例：很多 RAG 方案把 OCR、版面分析、表格识别封装成云端 API，一次请求就把整份文档的图像与文本送出了内网。对金融、政务、医疗这类行业，这意味着数据在进入向量库之前就已经失控——下游再做多少权限过滤都补不回来。文档预处理约占企业 RAG 工程 40%–50% 的工作量，处理的恰恰是最原始、最敏感的内容，也是最不能外送的环节。

私有化的做法是把模型全部压到本机：版面分析 layout.onnx 与表格识别 tsr.onnx 双模型本地推理，OCR 用 PP-OCRv6，PDF 渲染走 PDFium，全部在本机 ONNX 运行时完成，不调用任何外部服务。本地推理并不牺牲可用性——文本型 PDF 单份提取不到 200 毫秒，批处理吞吐完全够用。模型在哪里，数据就在哪里，这是数据主权的第一道边界。

二、文件式存储降低交付难度

推理不出域只是第一步，存储层同样决定私有化项目的成败。知识库采用 FileChunkStore 文件式存储，无重数据库依赖：备份就是拷文件，迁移就是搬目录，一套灾备演练一个下午就能走完，不需要 DBA 介入，也不用为客户环境里额外部署和维护的数据库实例操心。

更关键的收益在攻击面。每引入一个外部数据库，就多一份端口暴露、一条升级负担和一条潜在攻击链。文件式存储把暴露面收敛到文件系统本身，配合操作系统权限即可隔离，过客户合规检查也更快。在“内网不给装额外组件”的环境里，这常常是方案能不能落地的前提。

三、企业级管控能力

数据不出域解决的是对外边界，对内还要解决“多租户、鉴权、授权、审计”四件事。系统提供多租户 API Key 鉴权与套餐配额，不同部门、不同项目各自隔离、分别计量；机器码授权子系统基于 RSA 硬件绑定加反调试，授权文件被拷到别的机器也无法启动，保护软件厂商在私有化交付中的权益。

审计日志与管理后台负责合规留痕：谁在什么时间导入了哪批文档、谁发起了检索、哪个 Key 消耗了多少配额，都有记录可查。等保测评或内部安全审计抽查时，这些记录就是直接证据，不需要临时拼凑。

四、和交付形态的关系

私有化部署并不绑定某一种交付形态。同一套能力可以按场景选择 CLI、HTTP 服务、FFI 动态库或 Python SDK：批处理走 CLI，在线服务走 HTTP，嵌入客户自有软件走 FFI。无论选哪种，推理与存储都保持在客户环境内部，数据不出域的边界不因形态而变。

交付形态的选择细节见 RAG 数据管道的三种交付形态；数据进入向量库之前的脱敏与权限基线见 脱敏必须在向量化之前。评估私有化方案时，建议把两条写进验收标准：解析链路是否调用外部模型服务，存储层是否存在重数据库依赖。

选型建议：判断一套方案是否真私有化的 5 个检查点

• 推理是否全本地：OCR、版面分析、表格识别全部 ONNX 本地推理（如 layout.onnx + tsr.onnx），只要有一个环节调云端 API，数据就不算不出域。
• 存储是否去数据库化：FileChunkStore 文件式存储、无重数据库依赖，私有化交付与备份的复杂度才可控。
• 进程是否被保护：FFI 动态库全部 catch_unwind 保护（rust_ingest_document / rust_resume_ingest 等 C API），嵌入式集成不会把宿主进程拖崩。
• 授权是否防篡改：机器码授权子系统走 RSA 硬件绑定 + 反调试，商业交付的授权才立得住。
• 多租户是否隔离：API Key 鉴权、套餐配额、审计日志齐备，一套部署服务多个部门或多个客户才安全。

Rust 实现 + 文件式存储 + 单机可部署，是合规行业（金融 / 医疗 / 政务）画像的硬性门槛；AI 产品集成商则更关注 FFI 与 HTTP 两种嵌入方式，交付形态对比见RAG 交付形态：CLI / HTTP / FFI / SDK 怎么选，权限侧的配套设计见RAG 权限打标。

常见问题 FAQ

Q1：数据不出域靠什么保证？

靠架构而不是口号：Rust 实现、文件式存储、全本地推理（OCR、版面、表格都跑本地 ONNX），解析到切片全程不调用外部服务，敏感文档根本不必离开本机。

Q2：为什么用文件式存储？

FileChunkStore 无重数据库依赖，备份是拷文件、迁移是搬目录，私有化交付与灾备演练简单；同时不引入外部数据库，攻击面更小，更容易通过客户合规检查。

Q3：私有化怎么管多租户和授权？

多租户 API Key 鉴权与套餐配额实现部门级隔离计量；机器码授权基于 RSA 硬件绑定加反调试；审计日志与管理后台提供操作留痕，满足等保与内审要求。

Q4：单机部署性能够吗？

够。Rust 加本地 ONNX 在单机即可跑通解析、切片、检索全链路，文本型 PDF 单份提取不到 200 毫秒，适合对数据不出域有硬要求的金融、医疗、政务场景。