我爱免费 发表于 2025-7-24 17:34

AI Cloud标准体系 |《人工智能云 AI网关能力要求》标准发布!

作者:微信文章
从数字化到云原生化,再到智能化,云计算始终是企业数智化转型的催化剂与加速器。AI大模型的兴起,进一步推动了云计算向智能云的跨越式发展。在此背景下,中国信息通信研究院(以下简称“中国信通院”)牵头组织推进人工智能云(AI Cloud)服务标准体系建设,旨在构建一套全面、系统的标准体系,规范和引导AI Cloud的健康发展,提升AI云服务的质量与安全性,推动产业技术创新与最佳实践。

AI Cloud标准体系工作持续进行中,其中《人工智能云 AI网关能力要求》标准经过多次研讨,由云计算标准和开源推进委员会牵头,阿里云、腾讯云、华为、中国移动、蚂蚁集团、普元信息、长亮科技、东方通、中移苏州、中国铁塔、谐云、联通数科、安易科技、中电信数智、江苏博云、天融信、网易数帆、中兴通讯、瑛菲网络等企业的专家积极参与,聚焦插件集管理、多模型适配能力、可观测性、模型服务集成能力、流量治理、安全防护、大模型工具信息交互协议等模块进行能力要求定义,为AI网关的应用和发展奠定了坚实的基础。



中国信通院于2025年7月23日举办的2025年可信云大会-大模型推理与信息交互分论坛上,携手阿里云、中兴通讯、网易数之帆、长亮科技等企业单位共同发布了《人工智能云 AI网关能力要求》标准。

AI Cloud人工智能云服务标准体系(持续建设中)



AI Cloud 人工智能云服务标准符合性验证评估

中国信通院同步开展AI Cloud人工智能云服务评估验证工作,面向AI云服务技术提供方和用户单位,包括AI网关能力、大模型推理性能、云原生AI能力成熟度模型、模型即服务(MaaS)能力、基础工具能力与场景化能力等方面,旨在评价人工智能云服务能力水平,为其建设提供参考和评价方法,确保该服务符合行业标准和规范。

人工智能云 AI网关能力要求评估介绍



AI网关是AI原生应用架构中连接后端大模型服务的关键中间件,具有统一接入多厂商模型、管理高并发流量、提供Fallback与Failover机制、确保业务连续性等核心能力。它能够监控大模型的流量特性,并审核大模型的输入输出内容。通过支持大模型外部信息交互协议,AI网关帮助企业快速部署AI原生应用,实现智能化服务能力的高效整合与稳定运行。

该评估面向AI云服务技术提供方、中间件厂商和用户单位,覆盖插件集管理、多模型适配能力、可观测性、模型服务集成能力、流量治理、安全防护、大模型工具信息交互支持七大能力板块,二十四个能力子项的评估要求。

人工智能云 大模型推理云服务性能测试介绍



面向算力服务商、云服务商、大模型服务厂商以及用户的大模型推理性能的优化方案。聚焦输入/输出序列长度、最大并发数、首token响应时间、增量token等核心性能指标,旨在为大模型服务厂商提供客观的推理云服务性能测试结果,同时为企业用户在大模型云服务选型时提供数据依据。

人工智能云 云原生AI能力成熟度评估介绍



AI Cloud Native(云原生AI)运用容器化、微服务架构、CI/CD流程及自动化基础设施管理等云原生技术特性,以简化AI系统的复杂性、提升性能和效率、降低成本并增强安全性。这不仅促进了AI应用的快速开发、部署与管理,还加速了智能应用的迭代周期,使企业能够敏捷应对市场变化,抓住商业机遇,从而推动AI市场的增长与创新。在此背景下,中国信通院推出Trusted AI Cloud可信AI云·AI Cloud Native云原生AI能力成熟度评估。该评估面向AI云服务技术提供方和用户单位,覆盖异构资源管理、编排调度、弹性伸缩、推理服务、数据加速、故障恢复、监测运维、AI仓库、AI工作负载管理支持、多集群统一管理与调度十大能力板块,二十一个能力子项的评估要求。

人工智能云 模型即服务(MaaS)平台能力评估介绍



评估面向AI云服务技术提供方和用户单位的模型即服务(MaaS)平台,针对C端用户和企业用户两种场景分别开展综合能力评估。综合评估模型工具链、应用开发工具链、SDK/API三大能力板块,包括从模型调优、评估、推理、部署等方面的模型服务能力以及工具支持、提示词工程、应用开发等方面的智能应用搭建能力。

人工智能云 场景化工具能力要求:金融场景尽调报告生成评估介绍



依托《人工智能云基础工具能力要求》和《人工智能云场景化工具能力要求》标准,面向用户单位和技术提供商,从基础能力和应用场景方面评估包含智能体能力、应用能力、应用运维管理三大能力板块,十四个能力子项。

AI Cloud 标准体系合作及相关评估咨询:

黄今非

电话:13301311917 (同微信)

邮箱:huangjinfei@caict.ac.cn
页: [1]
查看完整版本: AI Cloud标准体系 |《人工智能云 AI网关能力要求》标准发布!