新一届 Ray Forward Meetup 即将闪亮登场!本次会议继续由 Ray 中文社区和蚂蚁集团主办,将于 2023 年 7 月 02 日在北京环球金融中心与你相约。
今年的主题为「Ray Forword-下一代 AI 计算」,我们特别邀请蚂蚁集团、Anyscale、潞晨、BentoML、VMware、字节跳动等多位专家进行最新分享,超多干货输出,让参与的你收获满满~
现在,活动已经开放报名啦!欢迎小伙伴们来到现场,加入我们,让我们齐聚一堂,听分享、谈见解、进行技术的交流和探索吧!
活动主题
Ray Forword-下一代 AI 计算
活动时间
2023 年 7 月 02 日(周日)
活动地点
北京环球金融中心 9F 大厅
活动议程
阮若夷:
《Ray 在蚂蚁集团 AI 方面的应用》
张喆:
《Ray:大模型时代的 AI Infra》
进入 2023 年以来,一个很明显的趋势是几乎所有公司都在现有的 AI 应用(比如搜索,推荐,广告)之上,加入大模型的元素。比如基于大模型的智能客服,以及代码补全。在这次分享中,我们会讨论 Ray 是怎样作为 AI Infra 层来支持这样的新一代 AI 应用。
你将收获:
Ray 最新动态和进展,开源社区现状;
Ray 在大模型场景的核心能力。
尤洋:
《大模型的落地与挑战》
大模型具有的强大能力可以有效提升多行业生产力,但目前企业级大模型的训练与应用仍有较大挑战。在本次分享中,我们将讨论潞晨对大模型落地做出的努力,包括采用的分布式训练技术、并行计算技术、内存优化技术等。
你将收获:
大模型基础知识和大模型目前的前景与挑战
大模型训练、微调和部署时使用的先进技术
企业级大模型落地的成功案例
赵申阳:
《BentoRay:BentoML + RayServe》
Ray 和 BentoML 是机器学习生态系统中两个受开发者喜爱的开发框架,因其独特的优势而备受青睐。在本次演讲中,我们将介绍 BentoRay,使开发者在不修改代码的情况下在 RayServe 架构上轻松运行单容器的 BentoML 工作负载(Bentos),并利用 Ray 集群中的资源管理和弹性扩展的优势。
你将收获:
如何利用 BentoML 构建 AI 应用程序
如何利用 BentoRay 将单容器部署转移到 Ray 集群的分布式微服务部署
陈铁军:
在 Ray 上无缝使能异构 AI 加速器到主流 ML 框架提升机器学习
面对机器学习从云端到边缘端的快速发展,Ray 利用独有的优势正演变为对AI负载的管理和编排的领先平台。但面对层出不穷的多样化异构的加速设备,Ray 所依赖的主流机器学习框架却局限于支持 GPU,并缺乏对 ML 性能的挖掘提升。另一方面,能支持且增强各种加速器的编译器技术蓬勃发展 – Apache TVM, Intel OpenVINO, Nvidia TensorRT, Xilinx vitisAI 等,但通常独立于框架之外或需要额外的使能。在这里,我们将探讨如何利用我们引入的透明后端的 Interposer 机制来使能编译器技术到主流 ML 框架,从而能让 Ray 用户无需修改任何代码却能以最佳性能无缝支持异构多样化的 AI 加速器,实现 Power AI is Everywhere。
你将收获:
Ray 和其学习框架的结合和价值
编译器技术的简介
从 Python 到 C++ 如何无缝拦截学习框架和后端衔接编译器
对 Ray 的 ML 能力提升
王万兴:
《Ray 在字节跳动的实践》
Ray 是近年来兴起的新一代计算引擎,相较于传统计算引擎具有更好的可编程性、异构资源调度支持等能力,在分布式计算尤其是机器学习领域的应用越来越广泛。Ray 在字节跳动有比较广泛的应用,比如图计算、机器学习、数据处理等。本议题主要介绍 Ray 在字节跳动的实践,包括应用场景、云原生部署方案、遇到的问题和解决方案等。
你将收获:
了解 Ray 在字节跳动的应用场景
了解使用 Ray 所遇到的问题和最佳实践
胡东文:
《Ray 在隐语联邦学习中的实践》
隐语是蚂蚁开源的通用隐私计算框架。通过 Ray/RayFed 的通用编程原语,隐语提供了一种统一架构,能够同时支持 MPC、TEE 和联邦学习的方案。应用开发者可以从中心化的视角出发,自由组合多种隐私计算方案,在编程体验接近单机程序的基础上,灵活地支持各种联邦学习范式。
了解联邦学习的概念
了解隐语的可编程设备抽象
了解如何中心化视角编写联邦学习程序
Ray 中文社区
Ray 中文社区是由蚂蚁集团和 Anyscale 共同运营的针对中国技术爱好者的宣传沟通渠道。
GitHub:https://github.com/ray-project/ray
Ray中文问答:https://ray.osanswer.net