专场名称：AI 原生应用架构

9月21日 09:30 - 12:00 D3-5馆

基于大模型的 AI 原生应用越来越多，Java 开发者正扮演构建 AI 原生应用的重要力量；同时，容器和微服务为代表的云原生技术已加速渗透传统业务，安全、稳定和效率成为大家关注的重点。

本专场将聚焦 AI 原生应用的行业进程，分享企业借助 AI 原生技术加速业务创新和迭代过程中，应对效率和性能提升、成本优化和安全防护的实践，旨在为一线工程师、架构师和技术管理人员提供可借鉴的经验。

议题一：AI 时代，从 Spring Cloud Alibaba 到 Spring AI Alibaba

分享嘉宾：

李艳林，阿里云智能集团云原生微服务技术负责人，Spring AI Alibaba 发起人

演讲提纲

1. 应用框架的发展趋势

• AI 时代应用架构的演进趋势。
• AI Agent 框架的发展趋势。

2. Java 开发者视角的 AI 原生应用架构

• Spring-AI-Alibaba：让 Java 开发者一步迈入 AI 原生时代。
• Higress：零代码构建 AI 应用。
• Apache RocketMQ：事件驱动 AI 架构。
• LLM 观测技术栈。

3. AI 原生应用架构的落地&实践

• AI 场景&选型。
• AI 答疑专家的实践。
• AI 视频处理的实践。

需求或痛点

• 如何将 Java 的可移植性、模块化设计等设计原则融入 AI 应用的开发。
• Java 开发者如何快速开发 AI 应用。
• 从技术栈视角看，如何确保一致性。

亮点

• 发布 Spring-AI-Alibaba，为 Java 开发者提供开箱即用的 AI 框架。
• 发布 Higress 全新版本，提供完整的 AI 插件，零代码构建 AI 应用。
• 发布 RocketMQ Python SDK。
• 贡献 Java/GO/Python Agent 到 OT 社区，夯实 LLM 观测体系。

听众收益

• 了解完整的 AI 原生应用架构。
• 了解关键开源项目的进展和演进方向。
• 了解 AI 原生应用架构的落地实践。

议题二：从云原生到 AI 原生，网关的发展趋势和最佳实践

分享嘉宾：

谢吉宝，阿里云智能集团资深技术专家，云原生产品线中间件负责人

演讲提纲

1. 从云原生到 AI 原生，网关的机遇和挑战

• 软件架构演进过程中，网关的发展历程。
• AI 原生应用所带来的流量新特点，网关所遇到的痛点。
• 云原生 API 网关：高集成化解云原生和 AI 原生的复杂场景。

2. 云原生 API 网关的价值和优势

• 高集成：零代码构建 AI 应用。
• 零信任：AI 防护 & 内容合规。
• 高性能：软硬一体加速响应体验。
• 高可用：服务治理无损变更。

3. 云原生 API 网关的实践、典型客户和 Demo

• 云产品案例：通义APP、灵积、人工智能平台 PAI。
• 云上客户案例：零一万物、震坤行。
• 开源贡献：AI 原生的 API 网关 Higress。
• Demo：配置大模型代理、AI 统计、内容安全等插件。

需求或痛点

• AI 产业日均总流量达亿级别，流量的新特点给网关带来了新的痛点。
• LLM 应用的内容生成时间更长，对话连续性对用户体验至关重要，如果避免后端插件更新导致的服务中断？
• LLM 应用在服务端处理单个请求的资源消耗会大幅超过客户端，来自客户端的攻击成本更低，后端的资源开销更大，如何加固后端架构稳定性？
• 如何防止黑灰产爬取免费调用量封装成收费 API 所造成的资损？
• LLM 应用生成的内容则是基于人工智能推理，如果保障生产内容的合规和安全？

亮点

• 发布云原生 API 网关，统一流量网关、微服务网关、安全网关、AI 网关，高集成化解云原生和 AI 原生的复杂场景。
• 通义APP、灵积、人工智能平台 PAI 这些云产品如何基于云原生 API 网关构建网关架构。
• 零一万物、震坤行如何基于云原生 API 网关承载 LLM 应用。
• 开源网关 Higress 推出丰富的免费插件市场。

听众收益

• 了解网关的发展历程，升级网关在架构中的角色。
• 了解云原生 API 网关的应用场景。
• 了解云原生 API 网关的典型客户案例。

议题三：微服务引擎 MSE：打造通用的企业级微服务架构

分享嘉宾：

邢学超，阿里云智能集团高级技术专家

演讲提纲

1. 微服务技术的新趋势和新挑战

• 新趋势：开源标准化、跨语言架构、高可用成为企业标准诉求。
• 新挑战：开源维护成本高、跨语言复杂度高、高可用改造代价高。

2. 微服务引擎 MSE：打造通用企业级微服务架构

• 流量入口：跨语言、跨框架服务治理，默认高可用、高安全，高性能。
• 内部流量：内部 RPC 流量，通过注册中心进行寻址，集群可以通过配置中心整体管理 。
• 微服务治理：管理业务应用的治理，增强业务高可用能力 。
• 默认高可用、默认安全零信任、默认性能翻倍。

3. 微服务引擎 MSE：拥抱开源，坚持开放

• 引领国内微服务架构，相关开源项目有 60%市场份额。
• 快速构建 Spring AI 标准应用，提供 AI 场景下的最佳 Java 实践。
• 通过云原生让应用场景更加融入 AI，通过 AI 原生让更多云原生应用赋予智能。

4. 微服务引擎 MSE：最佳实践以及演示视频

• 应用上云迁移实践。
• 全链路灰度演示视频。

需求或痛点

• 开源虽然“自主可控”，但伴随业务增长，维护成本日益增高、风险日益放大，控制力日益减弱，如何一劳永逸提升效率、保障稳定性？
• 研发团队越来越多元化，跨语言越来越流行，如何统一治理跨语言服务？
• 业务的容灾诉求逐渐强烈，但改造迭代代价大，如何低成本、不改代码的提升容灾能力？

亮点

• MSE ScheduleX 发布 XXL-Job 实例型，0代码改造，自建 XXL-Job 平滑迁移到 ScheduleX XXL-Job 协议实例型，更稳定、更安全、更高性能。
• MSE 发布 Golang 治理能力，整合 GoLang 和 Java 应用服务框架 ，进行全局服务治理。

听众收益

• 了解微服务技术的新趋势和新挑战。
• 了解微服务引擎 MSE 的产品优势和原理。
• 了解微服务引擎 MSE 的应用场景。

若您对上方议题内容感兴趣，欢迎在云栖大会官网进行订阅。