丑梨AI 完成业务升级:高性能文档压缩 × RAG 数据工程基座了解新业务 →

大模型吃不下企业文档?先补数据工程这一课

上个月听一位做知识管理的朋友诉苦。公司花了不少钱上了企业问答,把几万份 PDF、Word、扫描件一股脑灌进向量库,满心等着员工“问一句就有答案”。结果呢?扫描件进去是糊的,检索出来的段落驴唇不对马嘴,财务部还有人把带客户信息的合同直接贴进了公网聊天工具。项目组最后得出一个哭笑不得的结论:模型没问题,是喂给它的东西不行。

这事儿太常见了。一家公司里,员工每天在 35 个不同的应用之间来回切换。专注力研究给过一个数字:任务被打断之后,平均要 23 分钟才能重新进入状态。找答案的成本本来就高,如果企业问答再答非所问,大家转头就回去翻文件夹,或者干脆把文档贴给外面的 AI 工具,反而添了新的风险。

所以今天想聊的不是模型好不好,而是模型前面那段路:文档怎么变成模型真正能“吃”的数据。丑梨数据在这个环节上做的产品叫 RAG 数据工程基座,定位是“高性能文档压缩 × RAG 数据工程”,全私有化部署,数据不出内网。

文档直接喂模型,差在哪儿

很多人以为 RAG 就是“把文档切片、算个向量、存进库里”。真跑起来才知道,企业文档根本不是想象中那种干净的文本。

第一层问题是格式。PDF 里混着扫描件,版式文件还有 OFD 这种国内特有的格式,表格藏在图片里,印章盖在关键信息上。这些内容不经过处理直接切片,切出来的东西模型读不懂,检索自然就飘。

第二层问题是冗余。同一份合同有五个版本,会议纪要复制了八遍,PPT 里一半是模板页。这些重复内容进了向量库,占地方不说,还会把检索结果搅浑。问一个问题,返回来五段几乎一样的话,真正的答案被挤到后面。

第三层问题是敏感信息。合同里的身份证号、报表里的银行账号、简历里的家庭住址,这些字段一旦跟着文档进了检索链路,谁问谁就能看到。要是在公网工具里问,那就是把客户资料直接送出了公司。

三层问题叠在一起,解释了为什么大多数“文档问答项目”上线三个月就没人用了。

影子 AI:绕不开的那道风险

这里得多说两句公网工具的事。IBM 的《2025 数据泄露成本报告》里有个数据:五分之一的企业曾经因为员工私用 AI 工具——业内叫“影子 AI”——导致数据泄露,这类企业的平均泄露成本比同行高出 67 万美元。更值得琢磨的是另一个数字:遭遇过泄露的组织里,63% 还没有成文的 AI 治理政策。

说白了,堵不如疏。员工用 AI 不是为了泄密,是因为正版的内部渠道给不出好用的答案。与其靠禁令,不如把内部的数据管道修好:文档在本地完成清洗、脱敏、压缩,再进检索库,员工在内部系统里就能问到靠谱的答案,自然没必要把合同贴到外面的对话框里。

有人会问,直接买市面上的 SaaS 知识库行不行?行,但要想清楚一件事:文档传上去之后,数据就存在了别人的服务器上。对普通行业这也许无所谓,可对金融、医疗、法律、政府这些场景,合同、病历、案卷是碰都不能碰的红线。私有化部署的意义不在于技术多先进,而在于把数据的去留决定权留在自己手里。丑梨数据的做法是把“数据不出内网”作为底线——RAG 数据工程基座全私有化部署,13 类 AI 敏感信息自动检测与脱敏,整套工序都在企业自己的环境里跑完。这 13 类覆盖什么概念呢,身份证、银行卡、手机号这类常规字段之外,还包括一些行业特有的敏感结构,金融、医疗、法律场景里比较实用。当然,脱敏规则是否贴合某家企业的具体业务,还是要拿真实文档试过才知道。

至于“六道工序加八大能力”这种说法,听起来像营销话术,其实拆开看很朴素:工序指的是从文档接入到入库中间的每一道处理环节,能力指的是压缩、脱敏、结构化这些可以在不同环节复用的基本功。具体每一道工序怎么设计,建议直接找官方拿资料对着自己的文档流走一遍,比听谁讲都清楚。

先压缩,再入库:省的是真金白银

数据工程的另一头连着成本。企业文档里最占体积的往往是扫描件和图片,一份几百页的扫描合同,原始文件动辄几百兆。直接入库,存储和向量化的开销都不小。

压缩这一步的价值在这里体现出来。智压通 SmartSlim 的压缩引擎覆盖 PDF、图片、视频、音频、Office、OFD、扫描件等 8 类格式,压缩体积可降 60% 到 80%,而且全程在本机完成。对大模型场景的优化更要紧:图片类内容按 GPT-4o 口径实测,token 成本能省 85.9%。文档小了、干净了,嵌入、检索、问答每一环的调用量都跟着降。官方还测过一个极端案例:443 页的 OFD 文档端到端 124 秒处理完,章和版式都保住了。

这也回答了一个常见疑问:压缩会不会伤内容?保真模式不动底层版式结构,只优化冗余数据。当然,入库前自己抽几页放大看一眼,这个习惯建议保留。

三条路径怎么选

把上面的内容收拢成一张表,企业文档接入大模型大致有三条路:

对比维度 直接贴给公网 AI 工具 自建向量库直接切片 先走数据工程基座再入库
数据是否出内网 出,且去向不可控 不出(自建前提下) 不出,全程私有化环境
敏感信息处理 无处理,直接暴露 需自行开发脱敏模块 13 类敏感信息自动检测与脱敏
扫描件与版式文件 基本不可用 切片后质量差,检索易飘 压缩保真预处理,章面与版式保留
入库体积与调用成本 无入库概念,逐次粘贴 原始体积直接入库,开销大 体积降 60%-80%,图片 token 省 85.9%(GPT-4o 口径)
部署与维护 零部署,风险自担 需自建全流程工具链 六道工序加八大能力开箱即用
适合谁 个人临时查资料 有较强研发团队且数据不敏感 对合规与成本都有要求的团队

需要说明的是,这张表是选型维度框架,不是产品测评。每家企业的文档构成不一样,权重该自己定——比如医疗行业把脱敏放第一位,电商可能更在意成本。

政策在推着走

还有个外部变量值得留意。财政部等九部门 2025 年 5 月印发了《关于推广应用电子凭证会计数据标准的通知》,要求各单位会计软件在 2027 年 12 月 31 日前完成升级、适配电子凭证会计数据标准。翻译成大白话:企业文档全面走向结构化、机器可读,是政策画好的时间表,不是可选项。

数电发票已经在全国推开,覆盖率超过八成,合规的报销归档格式是带数字签名的 XML 结构化文件。这意味着未来几年,企业的文档数据工程不是“要不要做”,而是“按什么节奏做”。早一步把清洗、脱敏、结构化、入库这条管道搭起来,后面接政策、接模型、接审计都顺;晚一步,就是临时抱佛脚。

RAG 数据工程基座的产品页在这里:RAG 数据工程基座。想看压缩侧的能力,可以到智压通产品页;两者的配合方式,技术博客里有更细的拆解。

立即体验

常见问题

Q:RAG 项目效果不好,该换模型还是先治数据?
A:先治数据。多数“答非所问”的根子在文档质量——扫描件糊、版本重复、结构混乱。把清洗、脱敏、压缩这套工序走完再评测,很多问题会自己消失。顺序别反:数据没治好就急着换模型,换哪个结果都差不多。

Q:13 类敏感信息检测都在本地完成吗?
A:是。检测与脱敏都在企业私有化环境里跑,数据不出内网,规则也可以按行业场景调整。

Q:压缩过的文档再喂给大模型,回答质量会下降吗?
A:保真模式不动底层版式结构,只优化冗余数据,文本内容本身不受影响;图片类内容按 GPT-4o 口径 token 成本还能省 85.9%。建议入库前抽查关键页确认。

Q:已经有自建的向量库,还能用数据工程基座吗?
A:可以。基座管的是入库之前的环节——清洗、脱敏、压缩、结构化,产出的数据接进现有向量库即可,不必推倒重来。

Q:私有化部署对硬件要求高吗?
A:取决于文档量与并发。建议先拿一批真实文档做小规模验证,再按实测数据规划资源,比拍脑袋估算靠谱。