何开圣-未来速度 CTO
未来速度 CTO,曾在阿里云计算平台负责 Python 生态的工作,参与设计开发多个分布式计算框架,多个开源项目核心开发者。
分享介绍:
1. 介绍当前大模型领域常用的推理框架以及功能,2. 分析目前大模型推理的需求,3. 如何做到生产可用的分布式管理,4. 讨论推理周边的技术栈以及工具链。
确定删除吗?