从0到1构建AI应用?AI原生应用框架让你事半功倍

新闻

作者：微信文章
点击上方「蓝字」关注我们

近年来，随着AI技术的飞速发展，越来越多的企业开始将AI融入自身的业务之中。从智能客服到个性化推荐，AI正成为企业提升竞争力、优化用户体验的关键。然而，当前行内AI应用开发存在以下痛点：
1. 技术依赖性强：现有AI能力多基于第三方接口或云服务，核心技术自主可控性不足；
2. 开发效率低：AI能力集成碎片化，缺乏统一开发框架，导致应用构建周期长、复用性差；
3. 基础设施割裂：AI模型服务与行内开发技术栈未深度整合，资源利用率与运维效率受限。

01什么是中原银行AI原生应用框架？

结合我行“技术自主可控”战略，中原银行在开源框架Spring AI的基础上建设了自主创新的AI应用开发框架，旨在实现AI开发标准化、服务化与私有化部署的模型适配。改变行内AI应用“散、慢、险”的现状。它不仅能够大幅缩短开发周期，降低开发成本，还能通过其强大的可扩展性和灵活性，满足企业多样化的业务需求。

AI 原生应用框架（ARD）简化了AI 原生应用的开发流程，还提供了丰富的API和工具集，使得AI应用的开发变得更加直观和高效。目前已经正式发布，提供以下核心能力：

模型通讯标准化：框架封装私有化部署通义系列模型及其他开源模型（如DeepSeek）的差异化接口，提供统一的SDK调用方式。

动态配置：基于配置化策略实现多模型切换、超时控制、模型参数调整等能力。

AI应用脚手架：提供预置模板，支持通过 IDE 插件一键生成项目框架。

共享组件：提供可复用的AI能力组件（如智能助手、AI 翻译、AI 评测等），支持快捷引入。

02企业级生态集成

在 AI 原生应用生产落地过程中，用户需要解决Prompt 管理、Token 上下文、MCP 工具集成、可视化 Tracing 、AI效果评估等各种问题。ARD框架通过与中原银行 API 治理平台、AI 网关、一站式可观测平台、企业知识库等深度集成，提供全面的智能AI 应用企业级技术方案，加速 AI 原生应用从 Demo 走向生产环境业务场景落地。


企业级 MCP 部署与代理方案

ARD AI 原生应用框架MCP 通过建设 MCP 网关，联动中原银行API 治理平台。对于存量Http restful API应用，支持零代码改造实现 API 到 MCP 服务发布，开发者可通过API 治理平台配置自己的 MCP 工具要素，即可支持MCP 网关 MCP 工具元数据的自动加载生效。

AI 网关集成提升模型调用稳定性与灵活性

使用ARD AI 原生应用框架访问 LLM，所有请求将默认通过中原银行的 AI 网关代理访问真正的 LLM服务。通过AI 网关能力实现负载均衡/QPS限流/健康检查等流量治理，完成配置热生效与基础调用监控的可视化。

降低企业数据整合成本，提升数据应用效果

2024 年中原银行引入通义灵码建设智能研发平台，它提供 RAG 知识库管理能力。简单来讲，开发人员可以将私有知识和数据资产上传到内网的通义灵码知识库，借助平台的数据解析、切片、向量化等能力实现数据向量化预处理，处理后的数据可用于后续 AI 原生应用检索增强能力建设。

可观测与效果评估，加速应用生产落地

应用框架在多个关键节点都做了 SDK 默认埋点，用来记录运行过程中的 metrics 与 tracing 信息，这包括模型调用、工具调用等关键环节的请求数据。框架 tracing 信息兼容 OpenTelemetry，可通过配置快速接入行内一站式可观测平台。

03快速开始

开发第一个AI原生应用

在 Spring Boot 工程中添加以下依赖，就可以开始你的 AI 应用开发之旅了。
<dependency>    <groupId>cn.com.zybank.ard</groupId>    <artifactId>ard-ai-lingma-starter</artifactId></dependency>
<dependencyManagement>    <dependencies>        <dependency>            <groupId>cn.com.zybank.ard</groupId>            <artifactId>ard-ai-bom</artifactId>            <version>1.0.3-SNAPSHOT</version>            <type>pom</type>            <scope>import</scope>        </dependency>    </dependencies></dependencyManagement>应用脚手架

另外我们还提供了一种更加快捷的方式，通过 IDE 插件一键搭建AI 原生工程。





可以参考发布在内网 Wiki（pageId=46045501）的快速开始了解详细的步骤。

应用示例

    //在构造方法中注入要使用的 LLM 对应自动装配的ChatClient    public LingmaChatClientController(            @Qualifier("lingmaChatClient") ChatClient chatClient) {        this.chatClient = chatClient;    }        //使用 ChatClient Fluent API 完成对话    @PostMapping("/ai/client/chat")    public String clientChat(@RequestParam String message) {        return chatClient.prompt()                .user(message)                .advisors(advisorSpec ->                        advisorSpec.param(                                ChatMemory.CONVERSATION_ID, "001"))                .call()                .content();    }

04共享组件

框架目前已发布 5个 AI 应用开发通用组件，可通过 spring boot starter 方式快速引入到 AI 应用中。

1ard-plugin-db-memory 基于db的聊天记忆持久化组件

LLM 本身是无状态的，这意味着模型不会保存历史交互的信息。如果需要多轮会话或多个会话中保待上下文，需要通过对历史会话内容进行存储。框架默认提供了聊天内容的jvm内存存储，但不适用于生产环境。基于db的聊天记忆持久化组件提供了基于项目的数据库进行聊天消息持久化的开箱即用。
2ard-plugin-mcp-webmvc-client 通用智能MCP客户端组件

通用智能 MCP 客户端组件，本质上是一个集成了企业知识库 RAG 和 MCP 客户端（默认连接行内 MCP 公共网关服务）能力的智能对话组件。AI应用程序通过 pom 依赖引入组件后，搭配前端技术框架提供的 js sdk，即可快速完成系统级智能客服的搭建。
3ard-plugin-ai-evaluation AI效果评测组件

测试AI 原生应用程序的功能，需要考虑测试和评估 LLM 生成内容的准确性，通过评估结果来不断优化和迭代应用程序设计，如优化 Prompt 工程，优化 RAG 流程等。LLM 效果评估可以采用人工判断，但是人工判断耗时耗力，框架提供了 AI 评测组件，通过AI 对程序的输出结果和用户的预期结果进行对比判断，做出效果评价，为优化提供依据。
4ard-plugin-mockcache 本地 mock 测试组件

在应用进行AI 评测的迭代优化的过程中，一些跟模型输出相关串联的场景，或是多应用协作的场景中，由于“请求时间”的不可逆，可能出现在同一组输入参数的条件下，中间步骤的可变性，导致增加AI 应用调优的复杂度。本地mock 测试组件用于控制减少测试过程中的中间变量，减轻由于“时间”变化而导致的测试链路中间环节的多变性（如模型回答的随机性，数据库不同时间查询结果不同等）。
5ard-plugin-ai-translator 通用AI 翻译组件

通用AI 翻译组件提供了一种开箱即用的使用AI 大模型完成翻译任务的方法，可通过参数指定各类语言之间的互相翻译。系统可集成后用在各类国际化的场景和任务中，提升用户体验。

05后续规划

框架自身的持续迭代优化，如基于 Spring AI 最新设计升级内部实现，优化性能和稳定性，提供更丰富的智能体开发工具与组件。

可观测指标的完善，提供更完善的监控与效果评估能力。

IDE “新建工程”插件升级优化，提高自动化构建程度，提升研发效率。

实现NL2SQL，帮助研发人员实现自然语言交互的数据分析，理解用户的数据库 schema，帮助用户自动生成 SQL 查询语句。

06结语

在这个充满机遇与挑战的AI时代，AI 原生框架无疑为开发者们提供了一个强大的武器。它不仅能够帮助我们更加高效地开发出高质量的AI原生应用，还能让我们在享受AI带来的便利的同时，不断推动业务的进步与创新。所以，如果你也渴望在AI的浪潮中乘风破浪，那么不妨现在就动动小手，写个 demo，立刻体验AI原生框架的魅力吧！

点个在看 你最好看