新趋势、新开源、新实践|云栖大会 AI 原生应用架构专场邀您参会 | Nacos 官网
云栖回顾 | 2024 云栖大会微服务和网关相关演讲材料点此了解

新趋势、新开源、新实践|云栖大会 AI 原生应用架构专场邀您参会


专场名称:AI 原生应用架构

9月21日 09:30 - 12:00 D3-5馆

基于大模型的 AI 原生应用越来越多,Java 开发者正扮演构建 AI 原生应用的重要力量;同时,容器和微服务为代表的云原生技术已加速渗透传统业务,安全、稳定和效率成为大家关注的重点。

本专场将聚焦 AI 原生应用的行业进程,分享企业借助 AI 原生技术加速业务创新和迭代过程中,应对效率和性能提升、成本优化和安全防护的实践,旨在为一线工程师、架构师和技术管理人员提供可借鉴的经验。

议题一:AI 时代,从 Spring Cloud Alibaba 到 Spring AI Alibaba

分享嘉宾:

李艳林,阿里云智能集团云原生微服务技术负责人,Spring AI Alibaba 发起人

演讲提纲

1. 应用框架的发展趋势

  • AI 时代应用架构的演进趋势。
  • AI Agent 框架的发展趋势。

2. Java 开发者视角的 AI 原生应用架构

  • Spring-AI-Alibaba:让 Java 开发者一步迈入 AI 原生时代。
  • Higress:零代码构建 AI 应用。
  • Apache RocketMQ:事件驱动 AI 架构。
  • LLM 观测技术栈。

3. AI 原生应用架构的落地&实践

  • AI 场景&选型。
  • AI 答疑专家的实践。
  • AI 视频处理的实践。

需求或痛点

  • 如何将 Java 的可移植性、模块化设计等设计原则融入 AI 应用的开发。
  • Java 开发者如何快速开发 AI 应用。
  • 从技术栈视角看,如何确保一致性。

亮点

  • 发布 Spring-AI-Alibaba,为 Java 开发者提供开箱即用的 AI 框架。
  • 发布 Higress 全新版本,提供完整的 AI 插件,零代码构建 AI 应用。
  • 发布 RocketMQ Python SDK。
  • 贡献 Java/GO/Python Agent 到 OT 社区,夯实 LLM 观测体系。

听众收益

  • 了解完整的 AI 原生应用架构。
  • 了解关键开源项目的进展和演进方向。
  • 了解 AI 原生应用架构的落地实践。

议题二:从云原生到 AI 原生,网关的发展趋势和最佳实践

分享嘉宾:

谢吉宝,阿里云智能集团资深技术专家,云原生产品线中间件负责人

演讲提纲

1. 从云原生到 AI 原生,网关的机遇和挑战

  • 软件架构演进过程中,网关的发展历程。
  • AI 原生应用所带来的流量新特点,网关所遇到的痛点。
  • 云原生 API 网关:高集成化解云原生和 AI 原生的复杂场景。

2. 云原生 API 网关的价值和优势

  • 高集成:零代码构建 AI 应用。
  • 零信任:AI 防护 & 内容合规。
  • 高性能:软硬一体加速响应体验。
  • 高可用:服务治理无损变更。

3. 云原生 API 网关的实践、典型客户和 Demo

  • 云产品案例:通义APP、灵积、人工智能平台 PAI。
  • 云上客户案例:零一万物、震坤行。
  • 开源贡献:AI 原生的 API 网关 Higress。
  • Demo:配置大模型代理、AI 统计、内容安全等插件。

需求或痛点

  • AI 产业日均总流量达亿级别,流量的新特点给网关带来了新的痛点。
  • LLM 应用的内容生成时间更长,对话连续性对用户体验至关重要,如果避免后端插件更新导致的服务中断?
  • LLM 应用在服务端处理单个请求的资源消耗会大幅超过客户端,来自客户端的攻击成本更低,后端的资源开销更大,如何加固后端架构稳定性?
  • 如何防止黑灰产爬取免费调用量封装成收费 API 所造成的资损?
  • LLM 应用生成的内容则是基于人工智能推理,如果保障生产内容的合规和安全?

亮点

  • 发布云原生 API 网关,统一流量网关、微服务网关、安全网关、AI 网关,高集成化解云原生和 AI 原生的复杂场景。
  • 通义APP、灵积、人工智能平台 PAI 这些云产品如何基于云原生 API 网关构建网关架构。
  • 零一万物、震坤行如何基于云原生 API 网关承载 LLM 应用。
  • 开源网关 Higress 推出丰富的免费插件市场。

听众收益

  • 了解网关的发展历程,升级网关在架构中的角色。
  • 了解云原生 API 网关的应用场景。
  • 了解云原生 API 网关的典型客户案例。

议题三:微服务引擎 MSE:打造通用的企业级微服务架构

分享嘉宾:

邢学超,阿里云智能集团高级技术专家

演讲提纲

1. 微服务技术的新趋势和新挑战

  • 新趋势:开源标准化、跨语言架构、高可用成为企业标准诉求。
  • 新挑战:开源维护成本高、跨语言复杂度高、高可用改造代价高。

2. 微服务引擎 MSE:打造通用企业级微服务架构

  • 流量入口:跨语言、跨框架服务治理,默认高可用、高安全,高性能。
  • 内部流量:内部 RPC 流量,通过注册中心进行寻址,集群可以通过配置中心整体管理 。
  • 微服务治理:管理业务应用的治理,增强业务高可用能力 。
  • 默认高可用、默认安全零信任、默认性能翻倍。

3. 微服务引擎 MSE:拥抱开源,坚持开放

  • 引领国内微服务架构,相关开源项目有 60%市场份额。
  • 快速构建 Spring AI 标准应用,提供 AI 场景下的最佳 Java 实践。
  • 通过云原生让应用场景更加融入 AI,通过 AI 原生让更多云原生应用赋予智能。

4. 微服务引擎 MSE:最佳实践以及演示视频

  • 应用上云迁移实践
  • 全链路灰度演示视频。

需求或痛点

  • 开源虽然“自主可控”,但伴随业务增长,维护成本日益增高、风险日益放大,控制力日益减弱,如何一劳永逸提升效率、保障稳定性?
  • 研发团队越来越多元化,跨语言越来越流行,如何统一治理跨语言服务?
  • 业务的容灾诉求逐渐强烈,但改造迭代代价大,如何低成本、不改代码的提升容灾能力?

亮点

  • MSE ScheduleX 发布 XXL-Job 实例型,0代码改造,自建 XXL-Job 平滑迁移到 ScheduleX XXL-Job 协议实例型,更稳定、更安全、更高性能。
  • MSE 发布 Golang 治理能力,整合 GoLang 和 Java 应用服务框架 ,进行全局服务治理。

听众收益

  • 了解微服务技术的新趋势和新挑战。
  • 了解微服务引擎 MSE 的产品优势和原理。
  • 了解微服务引擎 MSE 的应用场景。

若您对上方议题内容感兴趣,欢迎在云栖大会官网进行订阅。