中国信通院【首批】可信AI云 大模型安全网关评估正式启动!
作者:微信文章评估背景
2025 年,人工智能迎来新的发展阶段,云计算作为底层支撑,与大语言模型兴起形成协同效应,推动AI应用场景不断扩大。各种商业和自建模型依托云平台算力与存储能力,正促进不同领域的业务发展。然而,企业在应用AI时,面临着集成、稳定性、安全性和管理复杂性等诸多挑战,云资源调度与AI模型适配的衔接问题更添一层考验。在政务、金融、医疗、制造等垂直领域,大模型应用场景的扩展更是放大了AI集成、管理的重要性,对大语言模型的集成性、管理复杂性、安全性等提出了更高要求,也倒逼云服务与AI技术的深度融合升级。
当前,各家厂商纷纷推出大模型安全网关产品,在统一API调用、智能调度、全链路可观测、安全防护、模型管理等方面各具特色。大模型安全网关产品持续发展,越来越多的企业通过使用安全网关产品来提升大模型应用的使用效率、管理效能以及安全性。在市场快速发展的同时,如何评估安全网关产品的防护能力,成为用户方最为关注的核心问题。
为部署大模型安全网关落地应用,筑牢应用安全屏障,中国信通院结合过往工作经验积累,牵头撰写《可信AI云大模型安全网关能力要求》标准,并启动首批“可信AI云大模型安全网关评估”。本次评估工作主要面向大模型安全网关产品开展,助力企业强化大模型网关安全防护能力。
评估内容
评估依据标准《可信AI云大模型安全网关能力要求》,针对大模型安全网关产品,主要包括包含统一API调用、智能调度、全链路可观测、安全防护、内容安全、模型管理等方面。
评估价值
全面评估产品能力,提升技术成熟度
通过对统一API调用、智能调度、全链路可观测、安全防护、内容安全以及模型管理等关键能力模块的系统化评估,帮助大模型安全网关产品服务商全面掌握自身产品在实际应用场景下的真实能力与成熟水平,为持续优化和迭代提供参照。
驱动产品优化升级,增强市场竞争力
通过以评促建,服务商能够精准发现产品短板,有针对性地完善产品功能与管理流程,持续提升安全网关防护的效能与体系化能力,进一步增强产品在行业中的竞争优势。
促进创新应用落地,优化客户服务体验
基于评估结果,安全网关产品服务商可不断创新产品能力建设,打造更智能化、个性化的解决方案,助力客户获得更优质的AI体验和更高的服务满意度。
面向对象
大模型安全网关产品提供方或服务商,或自建大模型安全网关产品的行业用户均可参与评估。
业务联系人
马铭洋 | 开源和软件安全部
云计算与大数据研究所 | 中国信息通信研究院
邮箱:mamingyang@caict.ac.cn
电话:18600235069
卫 斌 | 开源和软件安全部 副主任
云计算与大数据研究所 | 中国信息通信研究院
邮箱:weibin@caict.ac.cn
电话:18618259777
长按二维码关注
链接云端,可信而安
页:
[1]