热门城市
- 快召唤伙伴们来围观吧
- 微博 QQ QQ空间 贴吧
- 视频嵌入链接
- <iframe src="https://www.slidestalk.com/slidestalk/hekaisheng?embed&video" frame border="0" width="640" height="360" scrolling="no" allowfullscreen="true">复制
- 微信扫一扫分享
Xinference: 大模型时代的分布式推理平台-何开圣
点赞
8
收藏
0
何开圣-未来速度 CTO
未来速度 CTO，曾在阿里云计算平台负责 Python 生态的工作，参与设计开发多个分布式计算框架，多个开源项目核心开发者。
分享介绍：
1. 介绍当前大模型领域常用的推理框架以及功能，2. 分析目前大模型推理的需求，3. 如何做到生产可用的分布式管理，4. 讨论推理周边的技术栈以及工具链。
8点赞
0收藏
