FDE 方法论

企业AI落地技术选型图谱:RAG、Agent、RPA决策框架

在24个企业AI落地案例的实践过程中,一个高频出现的现象值得关注:超过七成企业在启动AI项目时,首先提出的问题集中在"使用哪个大模型"或"如何搭建Agent系统"。然而,技术选型的前提——对业务问题本身的清晰定义——往往尚未完成。这种"技术先行、问题后置"的路径,是项目失败的首要诱因。

本报告基于FDE联盟两年来在24个企业项目中的实际验证数据,系统梳理AI落地技术栈的选型逻辑、适用边界与典型陷阱,为企业技术决策提供参考。


一、企业AI技术栈全景

从已交付的项目案例来看,企业AI落地的核心技术工具箱涵盖以下六大类:

技术 本质定位 典型应用场景
RAG(检索增强生成) 让LLM先查资料再回答 知识库问答、文档检索、合规查询
Agent工作流 多步骤自主决策与执行 复杂业务流程自动化、多系统联动
RPA(机器人流程自动化) 模拟人的点击操作 系统间数据搬运、表单填写、跨系统集成
OCR/机器视觉/VLM 让机器"看懂"视觉信息 票据识别、缺陷检测、图纸解析
LLM+专业算法 大模型做理解,算法做计算 调度优化、装箱算法、路径规划
规则引擎 确定性逻辑硬编码 合规校验、公式计算、安全阈值判断

案例数据显示,单一技术方案在项目中的占比持续下降。已交付项目中,超过70%采用2-3种技术的组合架构。关键技术决策不在于"哪个更好",而在于"每个场景层应该用什么"。


二、RAG:最容易被低估的技术路线

2.1 工程化鸿沟:从原理到生产级

RAG的技术原理已高度透明化——文档切块、向量化、检索、Prompt拼接、LLM回答。然而,"能讲明白原理"与"能做到生产级"之间存在显著的工程化鸿沟。

某制造业客户知识库项目的数据可作为参照:文档解析准确率最终达到95%以上,检索召回率稳定在80%+。这一指标背后,是长达三个月的文档清洗、分块策略调优和检索链路打磨。

2.2 七大常见陷阱(基于腾讯云20+客户统计数据)

陷阱一:文档预处理缺失。 某客户将100余份PDF直接导入系统,经检测发现30%的内容为页眉页脚、目录页和版权声明。向量数据库中充斥噪声数据,检索质量严重下降。行业经验表明,文档预处理环节占整个RAG项目工作量的30%-40%,是不可省略的核心步骤。

陷阱二:分块策略粗放。 最常见的错误做法是设定固定200 token的均等切分。由此产生的语义碎片导致检索结果与用户意图严重偏离。正确的方法是依据文档结构(标题层级、段落边界、表格结构)进行语义感知切分。不同类型的文档——合同与技术手册、财务报告与操作规程——需要差异化的分块策略。

陷阱三:检索方式单一。 纯向量检索擅长语义相似性匹配,但在关键词精确匹配上表现薄弱。以用户检索"GDPR第17条"为例,纯向量检索可能返回"数据保护法规概述"等泛化内容。当前生产环境的标准配置为混合检索方案(向量检索+BM25关键词检索)配合Reranker二次排序。

陷阱四:溯源能力缺失。 这是最容易被忽略却最致命的缺陷。企业级场景中,AI生成的回答必须能追溯到原始文档的具体段落。原因在于:法务和合规部门不接受"AI给出的答案"作为决策依据,每一个回答都需要附带来源引用,使用户能够回溯验证原文。缺乏溯源能力的RAG系统,在企业级场景中无法通过验收。

陷阱五:跨语义空间幻觉。 某项目测试中发现,每3个查询中即出现1个幻觉响应。经两周排查,根因定位为:用户使用业务语言提问(如"这个产品的交付周期是多久"),而文档中使用内部术语("Lead Time: 4-6 weeks"),两者在语义空间中未对齐。解决方案包括两层防护:一是将score threshold设定至0.70,低于阈值的检索结果直接丢弃;二是引入cross-encoder reranker进行二次排序。两项措施叠加后,幻觉率从33%降至5%以下。

陷阱六:忽视国企知识萃取需求。 某央企数十年积累的内部文档、操作规程和实践经验,长期依赖老员工口口相传。RAG技术的价值不仅在于问答,更在于将这些隐性知识显性化,构建可检索、可问答的组织知识系统。这本质上是一个组织资产数字化的问题。

2.3 RAG适用边界

适用场景: 企业内部知识问答、客服辅助、文档检索、培训系统、合规查询。

不适用场景: 需要精确计算的场景、实时性要求极高的场景、文档更新频繁且缺乏自动同步机制的场景。


三、OCR/机器视觉/VLM:从70%到98%的工程化路径

3.1 视觉识别的工程深度

某车管所项目提供了具有代表性的参照数据:初始方案OCR识别准确率为70%。从技术指标看似乎可接受,但置于生产环境中完全不可用——每一份材料都可能存在识别错误,后续所有流程均建立在错误数据之上。

经过三个月的专项优化,最终准确率达到98%。这28个百分点的提升来源于:针对证件特殊字体的识别模型训练、光照与角度的预处理算法、多模型投票机制、关键信息的交叉校验逻辑。核心结论是:视觉识别的技术指标跃升,依赖的不是"更好的模型",而是针对具体场景的系统性工程打磨。

3.2 工业视觉:现场驱动的解决方案

宝钢热轧表面缺陷识别项目在半年内将准确率提升至96%。船舶焊缝检测采用结构光3D相机与2D-3D融合深度学习的组合方案——这类解决方案并非来自标准化产品库,而是基于对产线环境的实地考察和与一线操作人员的深入沟通后定制的技术路线。

3.3 VLM:制造业数字化转型的关键技术

视觉语言模型(VLM)是近一年的技术热点,其在非标制造领域的应用前景尤为突出。多模态图纸解析、CAD工程图纸理解等场景中,VLM的核心优势在于:传统OCR仅能处理文字信息,而VLM能够理解图纸中的结构关系、标注含义和装配逻辑。这意味着大量工程图纸从"只能人看"转变为"机器也能理解",对制造业数字化转型具有基础性意义。

3.4 视觉技术选型决策要点

关键判断标准:场景需求是"识别文字"还是"理解图像含义"?前者适用OCR,后者适用VLM或专用视觉模型。


四、RPA:AI时代的"最后一公里"基础设施

4.1 被误读的集成层技术

在AI技术讨论中,RPA常被归类为"低级技术"。这一判断在实践中已被反复证伪。

现实状况是:企业系统间的互联互通能力普遍薄弱。ERP、CRM、OA、财务系统各有独立的数据格式与接口规范。AI模型的输出能力再强,当最终结果需要写入SAP系统却发现没有可用API时,RPA成为不可替代的解决方案。

4.2 组合架构的典型范式

某项目采用的技术组合具有代表性:OCR负责识别票据和材料,大模型负责内容理解和分类判断,RPA负责将结果填入各业务系统。三层技术各司其职,缺少任何一层均无法完成端到端的业务闭环。

另一项目的实践表明,AI判断归类+RPA填写的方案中,RPA的稳定性调优所花费的时间甚至超过AI模型的调优周期。原因在于:业务系统的UI界面频繁变更、页面加载时间不稳定、异常处理逻辑复杂。RPA的工程难度常被低估。

4.3 产业案例

工业富联在光伏产线上部署的GenAI设备助手,整合了20万+故障案例,运维效率提升45%。在该方案中,RPA承担了"从MES系统读取数据→输入AI分析→将结果写回工单系统"的大量数据搬运工作。

4.4 RPA技术定位

RPA擅长:重复性操作、跨系统数据搬运、表单填写、文件整理。

AI擅长:理解、判断、分类、生成。

最优架构为AI担任决策层、RPA担任执行层。决策层负责明确"做什么",执行层负责"去执行"。


五、Agent工作流:最高热度与最高失败率并存

5.1 失败率偏高的根因分析

Agent是2024-2025年AI领域热度最高的概念。自主决策、多步推理、工具调用等能力使其看起来具备通用性。然而,在实际落地中,Agent的失败率显著高于RAG和RPA。

核心原因在于Agent的"自主性"本身是双刃剑:赋予的决策自由度越大,犯错概率越高。在生产环境中,一次错误决策可能造成真实的业务损失。

5.2 适用场景:高复杂度、多分支的全链路任务

某些场景下,Agent是唯一可行的技术选择。

TikTok达人营销全链路涵盖十余个步骤——达人筛选、数据分析、合作邀约发送、沟通跟进、效果评估——每个步骤的决策均依赖前一步的输出结果。由于中间变量多、分支复杂,硬编码流程无法覆盖所有情况。Agent工作流在此场景中展现了不可替代的价值。

抖音代运营场景具有类似特征:选品、脚本生成、拍摄排期、发布优化、数据复盘、策略调整的全流程编排,Agent架构的灵活性显著优于传统工作流引擎。

5.3 多Agent协作:当前最成熟的企业级模式

千问办公为富立卡打造的案例具有标杆意义:3个数字员工分工协作——一个负责查询客户信息、一个负责生成报价方案、一个负责处理合同流程。每个"员工"即一个独立Agent,职责边界清晰,通过消息传递实现协同。这种多Agent协作架构,是目前企业级Agent应用中成熟度最高的模式。

5.4 Agent设计关键原则

  1. 最小化Agent使用。 若规则引擎或传统工作流能够满足需求,不应引入Agent。Agent的系统复杂度和调试成本远超预期。

  2. 多Agent优于单体超级Agent。 将大任务拆解为多个专职Agent,每个Agent的职责边界清晰,可靠性远高于单一Agent包揽全部任务。

  3. 兜底机制不可或缺。 Agent进入死循环如何处理?决策超时如何降级?输出不合规如何拦截?异常路径的设计优先级应高于正常路径。


六、LLM+专业算法:大模型的能力边界

6.1 3D装箱问题的启示

3D装箱问题——将不同尺寸的货物装入集装箱以最大化空间利用率——是经典的NP-hard问题。

某客户最初尝试使用LLM直接求解。结果证明,大模型在数学计算上并非强项,在三维空间优化方面更无法达到可用精度。

最终落地方案为:高度图贪心算法执行基础布局+遗传算法进行全局优化+LLM作为自然语言交互层(支持用户以口语描述装箱需求、查看结果、调整参数)。大模型负责"理解人话",专业算法负责"精确计算"。

6.2 混合部署架构

该项目同时采用混合部署策略:算法核心在本地运行(保障数据安全),LLM推理通过云端API调用(成本可控)。这种架构在制造业项目中具有高度普遍性。

6.3 何时需要混合架构

当大模型在"理解"层面表现出色,但在"计算"层面无法达到精度要求时,应考虑LLM+专业算法的组合方案。

典型场景包括:
- 需要精确数值优化的场景(调度、排产、装箱)
- 需要物理仿真的场景(结构设计、流体计算)
- 需要统计推断的场景(风控、预测)
- 需要硬约束满足的场景(合规校验、安全阈值)

共同特征:结果必须精确,不存在"近似正确"的容错空间。


七、规则引擎:确定性场景的最优解

7.1 确定性计算无需大模型

NRV(营养素参考值)计算——食品包装上营养成分表背后的精确公式与法规标准——是规则引擎的典型适用场景。无需大模型"推理"一份食品的卡路里含量,计算公式明确且固定,确定性执行即可。

消防规范审查同样如此:建筑防火间距、疏散通道宽度、消防设施配置标准均硬编码于法规条文中。规则引擎执行校验,兼具速度、精度和可控性。使用大模型处理此类场景,不仅效率低下,还可能"创造性发挥"出并不存在的规范条款。

7.2 规则引擎与LLM的判断标准

核心判断问题:同样的输入,是否应永远得到同样的输出?

项目失败案例显示,相当比例的项目将本应使用规则引擎的场景交给了大模型处理,结果是投入十倍的成本,获得十分之一的可靠性。


八、选型决策树:按场景匹配技术

场景需求分析
│
├─ 从大量文档/知识中检索信息
│  └─ RAG(需做好文档预处理和检索链路调优)
│
├─ 从图像/文档中提取结构化信息
│  ├─ 纯文字提取 → OCR
│  ├─ 复杂版面理解 → VLM 或 OCR+LLM
│  └─ 工业缺陷检测 → 专用视觉模型
│
├─ 跨系统自动化操作
│  ├─ 有API接口 → 直接API集成
│  └─ 无API接口 → RPA
│
├─ 多步骤自主决策与执行
│  ├─ 步骤固定、分支可枚举 → 传统工作流引擎
│  └─ 步骤动态、需理解判断 → Agent工作流
│
├─ 精确计算/优化
│  └─ LLM做交互层 + 专业算法做计算层
│
├─ 合规校验/确定性规则
│  └─ 规则引擎(不应使用LLM)
│
└─ 内容生成/创意输出
   └─ LLM(RAG辅助提供素材与约束条件)

九、部署方式选型:架构决策的关键变量

部署方式的选择,对项目成败的影响程度往往不亚于技术选型本身。

9.1 四种部署模式对比

私有化部署: 央企、国企、金融机构和医疗行业的首选方案。数据不能出内网,合规要求严格。某央企项目中,整套系统部署于客户自有机房,包括模型推理均在本地GPU上运行。成本较高,但在合规要求下无可替代。

混合部署: 制造业最常见的架构模式。核心数据和算法在本地运行(保护知识产权和工艺参数),LLM推理通过云端API调用(降低GPU成本)。优势在于兼顾安全与成本,挑战在于网络链路设计和延迟控制。

云端API: 适用于中小企业、互联网场景及数据敏感度较低的场景。成本最低、上线最快。需关注API的SLA保障、限流策略和数据隐私条款。

数据本地+模型云端微调: 折中方案。原始数据不出本地,脱敏后的训练数据在云端完成模型微调,微调后的模型部署回本地。适用于需要定制化模型但缺乏大规模GPU资源的场景。

9.2 部署决策三要素

  1. 数据敏感度: 涉及个人隐私/商业机密/国家安全 → 私有化或混合部署
  2. 合规要求: 行业监管明确要求数据不出境/不出域 → 私有化部署
  3. 成本预算: 预算有限且数据敏感度低 → 云端API

十、选型方法论:三条核心原则

原则一:从问题出发,不从技术出发。 先明确要解决的问题及其本质,再匹配技术方案。逆向操作——先确定技术再寻找应用场景——是项目失败的最快路径。

原则二:能简单就不复杂。 规则引擎能解决的问题不应引入RAG,RAG能覆盖的场景不应使用Agent。每增加一层技术复杂度,即增加一层故障点和一倍维护成本。

原则三:先验证再投入。 任何技术选型均应在真实数据上完成PoC验证。注意:必须使用真实数据,而非精选样本。精选样本上的Demo演示中所有技术方案均表现良好,真实数据的复杂性才能暴露核心问题。

技术选型没有银弹。可依赖的是对问题的深刻理解、对技术的充分掌握,以及对落地环境的清醒认知。企业AI落地的核心价值不在于掌握了多少技术,而在于准确判断何时应该使用何种技术。


本文为FDE联盟基于24个企业AI落地案例及行业公开数据的研究报告