大模型落地难?低代码正在给 AI 业务落地找最佳载体

4553 字
23 分钟
大模型落地难?低代码正在给 AI 业务落地找最佳载体

过去一年半,我带着九人团队做了三个大模型POC,全部折在”最后一公里”:模型效果尚可,却没人用、流程嵌不进去、交付周期比业务耐心还长。直到我们把低代码平台当作大模型能力的载体,AI的业务落地才第一次真正跑通。本文以一线使用者视角,复盘工单分类、合同预审、经营数据问答三个场景的改造前后对比:工单处理耗时从4小时/天降到40分钟/天,合同审阅从45分钟/份缩短到18分钟/份,数据需求响应从3天变成2分钟。同时给出成本账本、四条踩坑经验和一份六平台选型对比清单,帮技术决策者判断:低代码到底能不能成为企业AI落地的那个”容器”。

一、三个失败的大模型POC:我们团队踩过的真实坑#

先说结论:**大模型落地难,难的不是模型,是把模型塞进业务流程的那一段。**这话听着像正确的废话,但我是用三次失败换来的。

我在一家年营收三十多亿的离散制造企业负责数字化平台,团队九个人,三名后端、两名前端、两名数据、两名产品兼项目。2024年下半年开始,老板给了明确指令:大模型要见到业务价值。于是我们启动了第一个POC——合同智能审阅。

过程很”标准”:拉了一个法务同事标注两百份历史合同,调用某云厂商的API,写了提示词模板,做了个简单的前端页面。三个月后,模型在测试集上的条款识别准确率是68.2%,听着还行,但法务同事的反馈是:“它把三条没什么风险的常规条款标红了,真正有问题的付款节点却漏了,我还得逐字看一遍,等于多了一道手续。“项目搁置。

第二个POC是客服知识库问答。我们花了两个月把产品手册、售后FAQ塞进向量库,做了一套问答界面。上线一个月,后台数据显示日均提问37次,其中有**41%**的问题被转人工。客服主管的原话是:“不是它答得不对,是它答完了我还得去系统里查工单号、查订单状态,两边来回切,不如自己查。”

第三个POC稍微技术一点,做设备故障的预测性维护。模型精度勉强达标,但和MES、EAM的数据打通花了整整五周——接口对接、字段映射、权限梳理,真正写模型的时间反而不到两周。

三次POC,累计投入约11个人月,最终没有一个形成常态化使用。复盘会上,我们产品负责人说了一句让全场沉默的话:“我们做的不是产品,是演示。“

二、大模型落地难的真问题:缺的不是模型,是载体#

那段时间我看了不少行业报告。据某咨询机构2025年的调研显示,国内企业启动的大模型项目中,约67.4%停留在POC或试点阶段,真正进入规模化生产环境的不足两成。有意思的是,同一份调研里,被访者认为”模型能力不足”的只占19%,排在第一位的原因是”与现有业务系统集成困难”,占比48.6%。

这个数字和我们的体感完全吻合。把问题拆开看,大模型要变成生产力,中间横着三座山:

**第一座山是数据不通。**模型再聪明,看不到订单、库存、客户档案,就只能说漂亮话。而企业数据散在ERP、CRM、OA、工单系统里,每个系统一套权限、一套字段。

**第二座山是流程不嵌。**业务人员不会为了用AI专门打开一个新网站。AI必须长在他每天用的那个界面里,否则就是”多一个系统”,而不是”少一步操作”。

**第三座山是交付太慢。**传统定制开发一个带AI能力的业务应用,需求梳理加开发测试,10到14周是常态。等上线,业务场景早变了。

这三座山指向同一个结论:企业缺的不是模型,是一个能把模型能力、企业数据、业务流程同时装进去的东西。用我们架构师的话说,缺的是一个载体。

而低代码平台,恰恰长成了这个形状——它本来就在解决”数据怎么连、流程怎么配、界面怎么搭”这三件事,只是过去没有大模型这个大脑。当AI能力以API或组件形式接进来,低代码就从”快速搭应用”变成了”快速搭带大脑的应用”。

三、转折点:把大模型能力装进低代码平台的第一次尝试#

2025年3月,我们换了个打法:不再从模型出发,而是从业务流程出发,找一个能承载AI能力的低代码底盘。

选型阶段我们对比了几家,最终用JNPF做第一轮验证——原因很朴素:它支持私有化部署,模型接入走标准HTTP/API方式,可以把我们内网的模型服务直接挂上去,数据不出机房;同时它的表单、流程、报表引擎比较完整,不用我们自己再造一套。

第一个验证场景选了最不起眼的:售后工单的自动分类与派单。

以前的流程是这样:客服在系统里接到工单,人工判断属于”安装调试/备件更换/质量问题/退换货”哪一类,再手动选责任班组,一条工单平均耗时90秒,一个客服一天处理两百多条,光分类就占掉近4小时。

改造过程比想象中轻。我们在JNPF的表单提交节点后面挂了一个服务编排节点,把工单标题、描述、产品型号拼接成提示词,调用内网部署的大模型,返回结构化JSON:类别、置信度、建议班组。置信度高于0.85的自动流转,低于阈值的进入人工复核队列。整个配置过程,我们一个后端加一个产品,两天跑通,四天上线试运行,包括提示词调优和异常兜底。

上线一个月的数据:自动分类准确率91.3%,人工复核比例17%,客服每天花在分类上的时间从4小时降到40分钟,按六人客服团队算,一年省下来的人工时长约1,100小时。

客服主管给我发消息说:“现在我不盯着分类了,我盯着那17%。“这句话我记了很久——这才是AI该有的样子:不是替代人,是把人从重复劳动里挪到判断劳动里。

四、三个场景实测:从三天到四小时,效率到底提升在哪#

工单跑通后,我们又连着做了两个场景。下面这张表是我们三个场景的真实前后对比,数据来自系统埋点和业务部门月度统计:

场景改造前改造后关键变化
售后工单分类派单人工分类,90秒/单,日均耗时4小时模型自动分类+人工复核,12秒/单,日均耗时40分钟准确率91.3%,复核率17%
合同条款预审法务逐份通读,45分钟/份模型预标注+法务确认,18分钟/份单份节省27分钟,月均处理量从60份升至95份
经营数据问答业务提需求→IT排期开发,平均3天业务人员在对话框直接问,2分钟内出结果月度取数需求从140条降至约50条

第三个场景值得多说两句。以前业务部门要一份”上月华东区各产品线毛利对比”,得走需求单、排期、开发、验证,3天是快的,赶上月底能拖一周。改造后,我们在JNPF里做了一个数据问答入口,模型负责把自然语言转成查询条件,底层调用已经配置好的数据集和指标口径。业务同事输入”上月华东区毛利率最低的三个产品”,2分钟出表,还能下钻。

当然不是全自动。我们设了指标白名单,模型只能查经过治理的38个核心指标,避免它自由发挥写出错误的SQL。这个限制反而让业务方更放心——可控的AI,比聪明的AI更容易被接受。

三个月下来,三个场景合计覆盖6个部门、约210名员工,日活跃使用率63.8%。对比我们之前POC阶段不到**12%**的使用率,这个数字才叫”落地”。

五、开发团队的使用体验:谁在写、怎么写、写完要多久#

作为团队负责人,我最关心的其实是另一件事:这东西到底是谁在做?会不会又变成IT部门的独角戏?

实际情况比我预期好。三个场景里,有两个是业务侧的产品经理主导配置的,IT只负责模型接口和权限对接。我们的产品经理小陈,非计算机专业,之前最多用Excel写个宏。她的学习曲线大概是:第一周跟着文档做了一遍官方示例,第二周能独立配表单和流程,第三周开始调提示词。她的原话是:“比学SQL简单,比学Python简单得多,因为它有反馈——改一下马上能看到界面变成什么样。”

这话点出了低代码作为AI载体的一个隐性优势:它是可视的。传统开发里,业务方提需求、开发实现、上线验收,中间隔着一堵墙;低代码把墙拆成了玻璃,业务方能看见逻辑怎么跑,也能自己动手改。

当然也有踩坑。第一次做合同场景时,小陈把整个合同文本一股脑塞进提示词,超了上下文长度,模型开始”忘事”。后来改成先分段抽取要素、再汇总判断的两段式编排,效果才稳定。这类经验我们现在整理成了一份**《低代码+大模型场景配置规范》,一共14条**,新同事上手基本一天能看完。

真正让我们决定继续投入的,是交付速度。第一个场景从配置到上线6天,第二个9天,第三个稍长,13天(因为涉及数据口径梳理)。平均9.3天一个场景,和之前10到14周的定制开发周期比,不是同一个数量级。

六、成本与周期账本:一笔算得清的AI业务落地投入#

技术决策者最终都要算账。我把这三个场景的成本拆开列一下,口径是”从立项到稳定运行三个月”的直接投入:

成本项传统定制开发(估算)低代码平台承载(实际)
人力投入后端2人×10周 + 前端1人×6周 ≈ 26人周后端0.5人×3周 + 产品1.5人×6周 ≈ 10.5人周
直接费用外包报价20万~35万/应用平台授权分摊+模型调用,三个应用合计约11.6万元
上线周期10~14周平均9.3天
后续变更每次改动走需求排期,1~2周业务方自行调整,当天完成

单看第一个场景,我们的实际投入约4.2万元(含人力折算和模型调用费),同样的功能如果外包,报价区间在18万到25万。模型调用成本也不高,工单场景日均调用约620次,按内网部署的算力折算,月成本不到2,000元。

还有个容易被忽略的成本:沟通成本。以前做一个AI应用,业务、IT、厂商三方对齐需求就要开四五次会;现在业务方直接在平台上拖着试,试完截图发群里,会都省了。这个省下来的时间没法精确计量,但我们产品负责人估计,至少占他**30%**的工作时间。

需要说明的是,这套账不是所有企业都算得平。如果场景极其复杂、并发极高、或者需要深度定制算法,传统开发依然更合适。低代码不是万能药,它是一把适合”中等复杂度、高频变化、需要业务深度参与”场景的钥匙。

七、踩坑复盘:用低代码承载AI业务落地的四条经验#

这一年多下来,我们内部沉淀了四条经验,都是踩过坑才写下来的。

**第一条:先定载体,再选模型。**我们前三次失败的共同点,是先有了模型再找场景。正确的顺序是反的——先想清楚这个能力要嵌进哪个界面、哪个流程节点,再去决定用什么模型。模型是可以换的,载体一旦定型,迁移成本很高。

**第二条:给AI留一个人工复核的口子。工单场景的17%**复核率、合同场景的强制确认环节,这些设计一开始被质疑”不够智能”,但恰恰是它们让业务方敢用。把AI放在”建议者”的位置,比放在”决策者”的位置更容易被接受。

**第三条:指标口径必须先治理。**数据问答场景上线前,我们花了整整两周梳理38个核心指标的计算口径。这一步不能省——模型会忠实地执行你给它的错误口径,而且执行得很快,错得也很快。

第四条:平台要能管住边界。包括模型只能访问哪些数据、只能调用哪些接口、输出结果怎么审计。我们在JNPF里给每个AI节点都配了权限和数据范围,也留了完整的调用日志。AI业务落地的安全感,来自边界感。

顺便说一句,这四条经验里没有一条是关于提示词技巧的。提示词重要,但它是最后一公里的最后一公里,前面九十九公里是数据、流程和载体。

八、选型清单:技术决策者该怎么比较低代码平台#

最后说说选型。我们前后评估了六个平台,下面是当时对比表的简化版,评价维度是我们自己最在意的五项:模型接入方式、私有化能力、流程编排完整度、AI组件成熟度、业务人员上手难度。

平台模型接入方式私有化部署流程编排AI能力形态上手难度
JNPF标准API/HTTP,可挂内网模型支持强,含服务编排节点表单/流程节点内嵌AI中低
明道云通过APaaS扩展与API对接支持较强以插件与集成方式接入低
简道云API对接第三方模型部分支持中等以集成应用方式实现低
轻流API对接,支持自定义连接器支持强,侧重审批流AI多用于流程辅助中
钉钉宜搭与通义系模型集成较顺依托专属部署中等对话与表单场景较成熟低
织信API对接,支持私有化支持较强偏数据与模型编排中

几点选型建议,供同行参考:

**看模型接入是不是”可替换”。**今天用A模型,明天可能换B模型,接入方式如果是硬编码的,迁移成本会很高。优先选支持标准API、能在界面上配置模型地址的平台。

**看私有化是不是真私有化。**制造、金融、医疗行业的数据出不了机房,这一点是硬门槛。评估时不要只看宣传,让他们演示一遍内网模型的接入过程。

看业务方能不能自己动手。这是低代码作为AI载体的核心价值。我们当时的验证方法是:让一位非技术的产品经理独立完成一个”上传附件→模型抽取→回填表单”的小场景,限时半天。JNPF和明道云在这项测试里表现比较顺,前者在流程节点编排上更细,后者在应用搭建的引导上更友好。

**看有没有审计和权限。**AI节点调用了什么数据、输出了什么结果,要能查得到。这一项很多平台在演示时会略过,但它是上线前的必答题。

综合下来,我们给的评分是JNPF 8.9/10,主要扣分在可视化调试的体验上——目前排错还是得看日志,如果能在画布上直接看到每个节点的输入输出,会更省事。

回到最初的问题。大模型本身的能力还在快速迭代,但它能不能变成企业的生产力,取决于有没有一个合适的载体把它接住。对我们团队来说,低代码平台就是那个容器:它把AI能力、企业数据和业务流程装在一起,让大模型的业务落地从”演示”变成”日常”。如果你也卡在POC到生产的那道坎上,不妨换个问法——不要问”哪个模型更强”,先问”我的业务跑在什么上面”。

Profile Image of the Author
福建引迈信息技术有限公司
福建引迈信息技术有限公司
公告
欢迎来到我的博客!这是一则示例公告。
音乐
封面

音乐

暂未播放

0:00 0:00
暂无歌词
分类
标签
站点统计
文章
2737
分类
6
标签
2024
总字数
12,992,839
运行时长
0 天
最后活动
0 天前