🌟 活动简介
1. 主题介绍
相较于 2023 年各路大模型破土出世的景象,2024 年大模型市场上的较量正拉开新的篇章,如何拓展大模型的应用场景?如何提高模型性能,减少资源消耗?如何在有限的计算资源条件下能够有效地训练和部署大型机器学习模型等问题带来了巨大的挑战。
本次技术沙龙将聚焦于大模型竞技与性能优化主题,将邀请业界知名专家,分享他们在大规模模型训练、推理加速、模型压缩、应用等方面的最佳实践和经验,并展示一些大模型应用的成功案例,探讨其背后的技术挑战和解决方案。
2. 主办方信息
主办单位:开源中国
联合主办:华为
支持单位:武汉光谷中心城建设服务中心、武汉光谷中心城建设投资有限公司
🌟 议程设置
演讲议题:大模型分析与趋势展望
演讲嘉宾:刘昊-武汉人工智能研究院创投转化部总监
议题简介:以多模态大模型为代表的人工智能技术已经成为新质生产力的重要组成力量,大模型正在推动人工智能从“可用”走向“好用”,面临场景需求碎片化、投入成本高、行业专家数据较少等落地痛点,大模型的加速了人工智能产业应用的进程, 实现从“作坊式”到“工业化”的生产范式转变,加速各行各业的创新性深度融合,催生新技术、新产品、新业态和新模式。在大算力、大模型、大数据的驱动下,持续赋能千行百业。
演讲议题:大模型优化技术在昇腾上的应用与落地
演讲嘉宾:王玺源-华为高级软件工程师 李树桥-软件工程师
议题简介:
本议程将介绍昇腾对于大模型训练、推理加速、模型压缩上的技术特点和技术优势。其中包括三部分内容:
1. 各种大模型加速/优化库的昇腾原生支持
在昇腾上如何使用 DeepSpeed 为模型“瘦身”和“加速”
如何使用 bitsandbytes 在昇腾上支持大模型量化
2. 昇腾自研大模型优化技术
昇腾提供 AscendSpeed 加速库,使能客户大模型业务快速迁移至昇腾设备,并且支持昇腾专有算法,确保开箱可用
3. 昇腾基于云原生的推理加速、生产落地技术
例如 Volcano 对于昇腾 NPU 的调度支持、算力切分等
演讲议题:大模型应用落地的产品方案与最佳实践
演讲嘉宾:赵建新-京东云产品总监
议题简介:大模型技术已步入应用落地的最后一公里,大模型智能体(Agent)是大模型应用落地的关键方向,通过在大模型的基础上增加环境感知、规划决策和行动执行等能力,能够最大限度地发挥企业现有数字化系统的存量优势,并赋予大模型的增量价值。京东在自身业务场景中已经落地大量基于大模型的应用,积累了诸多实践经验。本议题给出京东在这方面的整体思考及实践案例。
演讲议题:使用 Serverless 推理引擎 提升大模型推理效能
演讲嘉宾:林家桢-Gitee AI 专家顾问、清华大学高性能计算所
议题简介:大模型原生应用正在爆发,未来推理算力的需求可能将达到训练算力需求的数十余倍,据Gartner数据,2023年70%的AI应用基于 Serverless 技术开发。在实际生产中,越来越多的AI业务,比如自动驾驶、NLP等,也正在转向容器化部署。云原生理念是是否有机会帮助大模型降本增效?在这个过程中又遇到了哪些挑战?
演讲议题:昇思 MindSpore 技术创新进展和超大规模AI实践
演讲嘉宾:钱驾宏-华为 MindSpore 研发工程师
议题简介:
以大模型、大数据、大算力驱动的超大规模 AI 正成为下一代人工智能的突破口,也是迈向通用强人工智能最有潜力的技术方向之一。昇思 MindSpore 构建了多维度混合并行、多维度内存优化、图算融合等关键技术,支撑了 20+ 大模型的训练。并在 2021 年联合高校及科研院所协同创新,发布了鹏程盘古 NLP 大模型、中科院紫东太初图文音多模态大模型、鹏程神农蛋白质结构大模型、武大珞珈遥感大模型等。本次分享分享基于昇思 MindSpore 的大模型的最新进展和成果,介绍昇思 MindSpore 超大规模 AI 训练、微调、压缩、部署全流程关键技术,如何使用这些关键技术在昇腾大集群上训练大模型,以及昇思 MindSpore 上的大模型如何助力产业发展。
🌟 奖品池
🌟 合作伙伴
🌟 「邀请有礼」活动开启!
📒奖品获取攻略:1、参加武汉源创会 2、邀请身边开发者好友来一起参会3、开源中国精美周边get~ [哇][哇]
✍️具体规则:1. 发送活动报名链接给开发者好友,邀请TA一起参会2. 被邀请人需在报名表单 “邀请人姓名” 一栏中填写邀请人的名称3. 4 月 20 日活动现场,超 3 名被邀请人完成签到,则邀请人可获得 OSC 周边 T 恤或开源魔方 1 件
🌟 志愿者招募
如果你想打入 OSC 编辑部内部,如果你想了解一场技术沙龙是怎么组织起来的,如果你想 get OSC 精美周边,快来加入我们,成为现场志愿者吧!!!(请加微信:18655807197)
🌟 扫码加入活动交流群
🌟 关于源创会
OSC源创会是开源中国社区(oschina.net)主办,聚焦开源、创新的技术沙龙。源创会始终秉承“自由、开放、分享”的宗旨,聚集最优质的技术资源与行业案例,对话最优秀的技术领军人物,为广大开发者带来最新开源技术、前沿技术视角、以及落地实践经验。
🌟 关于开源中国
OSCHINA 成立于 2008 年 8 月,目前已建立了相当完善的开源软件分类数据库,收录全球知名开源项目近 10 万款,涉及几百个不同的分类。围绕这些开源项目,OSCHINA 为中国开发者提供了最新开源资讯、软件更新资讯、技术分享和交流的技术平台。2013 年,OSCHINA 建立了代码托管与 DevOps 平台“码云 Gitee”,为广大开发者提供团队协作、源码托管、代码质量分析、代码评审、测试、CI/CD 与代码演示等功能。
经过在开源领域超过十年的深耕,以及与中国本土开源环境的结合,推动了中国开源领域的快速发展。OSCHINA 目前已发展成为国内知名的开源技术社区,社区有 600 万开发者活跃,长期致力于推动国内开源软件的应用和发展,提升本土开源能力,以及为开源生态环境的优化提供支持。