AI 百宝箱——把分散的 AI 项目资产,沉淀为统一可复用的企业级能力平台
围绕公司内部 AI 建设初期的“烟囱式建设”问题,通过能力中台化、模型策略治理、能力产品化和 Agent 编排,构建统一的企业级 AI 平台,为办公提效、知识问答、投顾辅助、文档处理等场景提供标准化能力底座。
项目判断
我的核心职责
1. 业务背景:AI 建设初期,内部出现典型“烟囱式建设”
2023 年底大模型开始在公司内部落地,各业务线都在尝试建设自己的 AI 应用,但缺少统一底座,导致大量重复建设和资源浪费。
能力重复建设
不同团队重复接入模型、重复建设知识库、重复封装 Prompt 与工具能力,缺少统一标准。
资源与治理分散
算力资源、权限控制、日志审计、效果评估分别建设,导致成本高、治理难、数据难复用。
上线效率与产出受限
新应用上线周期长,通用能力无法沉淀,单点项目难形成复利,整体 AI 投入产出比不高。
2. 建设目标:把分散能力沉淀成统一、标准化、可复用的 AI 中台
平台建设不是简单做一个应用集合,而是为全公司建立可持续复用的 AI 能力底座,支撑应用快速搭建和后续专业智能体演进。
统一能力底座
统一沉淀模型、知识库、工具、Prompt、RAG、Agent 等 AI 能力,避免重复造轮子。
统一治理框架
统一权限、日志、审计、监控、模型路由和资源调度,满足金融场景对安全和合规的要求。
统一交付方式
通过标准 API、工具组件、技能中心和低代码能力,帮助业务方更快搭建应用和 Agent。
统一演进路径
让平台不仅支撑问答和办公助手,也能为后续专业智能体、超级智能体和多 Agent 协同提供基础。
3. 平台架构:从能力抽象到应用落地的企业级 AI 中台
我参与设计了“数据层、模型层、能力层、应用层”的整体能力框架,并结合记忆层、基础平台层和基础设施层,形成完整的平台型架构。
数据层
- 企业知识、业务数据、文档数据、用户数据
- 为知识问答、RAG、数据分析和个性化能力提供底层数据基础
模型层
- 私有化模型、第三方模型、业务专用模型
- 统一模型接入、模型路由、推理策略与成本控制
能力层
- 封装知识问答、文档处理、语音识别、数据分析、报告生成、Agent 等标准能力
- 通过 API、组件、工具和技能中心对外提供可复用能力
应用层
- 面向办公提效、知识问答、投顾辅助、文档处理等具体业务场景
- 在统一能力底座上快速搭建 AI 应用、专业智能体与超级智能体
4. 三个核心动作:能力架构、模型策略、能力产品化
我在这个项目中主要做了三类关键设计,让平台既能“搭起来”,也能“真正用起来”。
一、能力架构抽象
- 参与设计四层能力架构,对视觉、语音、大模型、知识库、Prompt、RAG、Agent 等能力进行分层解耦。
- 通过统一 API 和标准组件输出,解决不同应用重复接入和重复封装的问题。
- 让平台具备“底层可治理、上层可复用、场景可扩展”的结构基础。
二、模型与资源策略
- 采用“私有化模型 + 第三方模型 + 业务专用模型”的混合策略。
- 合规敏感场景优先走内部可控能力,通用办公提效类场景可接入外部成熟能力。
- 在安全、效果、成本与响应速度之间取得平衡,避免一刀切地依赖单一模型路线。
三、能力产品化
- 把底层能力封装成标准工具和技能,如知识问答、文档总结、数据分析、报告生成、语音识别等。
- 沉淀 50 多类 Prompt 模板与 RAG 组件,帮助业务方低代码快速构建 AI 应用。
- 后续进一步引入 Agent 编排能力,支持任务拆解、技能调用与结果汇总。
标准输出形式
统一 API、工具组件、技能中心、Prompt 模板、RAG 组件、Agent 编排框架。
典型工具能力
知识问答、文本生成、文档处理、数据分析、报告生成、语音识别、OCR 等。
平台治理能力
权限控制、调用监控、审计日志、效果评估、资源调度、技能管理、版本管理。
支撑场景
办公提效、知识问答、投顾辅助、文档处理、系统操作、企业服务协同等。
5. 超级智能体:让平台从“能力集合”升级为“任务执行入口”
在能力沉淀相对成熟后,我们进一步引入 Agent 编排能力,让系统不仅能回答问题,还能理解任务、拆解步骤、调用技能并组织结果。
为什么要做超级智能体
- 单一问答或单次工具调用,无法覆盖跨步骤、跨系统、跨技能的复杂任务场景。
- 企业内部越来越多需求不是“问一个答案”,而是“完成一项任务”。
- 因此需要让平台具备规划、执行、验证、反思和持续优化的能力。
它在平台中的位置
- 以平台沉淀的 Skills Hub 为工具底座,以短期/长期记忆为上下文支持。
- 由 Planner 负责任务理解与步骤规划,由 Executor 负责多 Agent 执行。
- 通过结果评估与反馈闭环,不断优化记忆、技能和执行策略。
🤖 超级智能体(Super Agent)流程图
该图完整展示了用户输入后,系统如何进行 Query 理解与重写、记忆读取、任务规划、技能调用、多 Agent 执行、结果生成与反馈闭环。
6. 业务成效:平台化之后,效率和复用价值开始显现
AI 百宝箱不是停留在架构设计层面,而是已经形成实际业务落地,明显提升了应用建设效率与业务使用效率。
平台层价值
统一沉淀能力之后,后续新应用不需要再从模型、工具、知识库、Prompt 开始重复搭建,真正形成平台复用效应。
业务层价值
办公提效、知识问答、投顾辅助、文档处理等场景都能复用底层能力,明显缩短交付周期,提高业务响应速度。
组织层价值
平台让 AI 建设从“各做各的”逐步走向“统一标准、统一治理、统一演进”,为公司后续 AI 建设打下更可持续的基础。
7. 项目核心价值:把 AI 从单点工具升级为企业级能力平台
我认为 AI 百宝箱真正重要的,不只是上线了多少个 AI 应用,而是它改变了公司建设 AI 能力的方式。
8. 我的贡献:产品规划、架构设计和落地推进
这个项目的关键不只是技术选型,而是需要把平台思路、业务落地和组织协同真正串起来。我在其中承担的是偏核心的产品与架构角色。
我重点负责的内容
- 完成企业级 AI 能力平台的产品规划,明确平台定位、建设目标和能力边界。
- 参与整体架构设计,推动数据、模型、能力、应用等多层能力解耦与统一封装。
- 制定模型与资源策略,兼顾金融场景下的安全、成本、效果和治理要求。
- 推动能力产品化落地,沉淀技能、Prompt 模板、RAG 组件和 Agent 能力。
- 推动平台从“能力中台”进一步演进到“超级智能体”阶段。