活动背景
近年来,基于Web的机器学习框架不断涌现,具备人工智能能力的各种软件也更加广泛的应用在我们生活中。在本次活动中,来自英特尔及业界合作伙伴将共同探讨技术趋势,从Cloud-to-PC协助云端一体化,PWA(Progressive Web App)技术在国内的推到与落地,介绍Celadon开源项目的最新信息等。
活动时间
2022.08.27 13:30-17:30
活动介绍
议题及嘉宾介绍
演讲议题:利用Intel XPU加速基于Web的人工智能应用 演讲嘉宾:胡宁馨 嘉宾介绍: 胡宁馨于2005年加入英特尔,在过去的十多年中专注于Web平台的功能增强和性能优化,现为英特尔SATG SSE Web 平台工程团队 Web 机器学习方向软件架构师,同时参与W3C Web机器学习工作组,并担任Web Neural Network API规范的技术编辑,负责相关标准的制定和实现。 议题介绍:近年来,随着基于Web的机器学习框架不断涌现,比如TensorFlow.js和ONNXRuntime Web等,Web应用能够方便地在浏览器中直接运行机器学习模型,实现更智能的用户体验,例如图像识别、语音识别和自然语言处理等。而且相比于基于云端的方案,在浏览器中执行可以提供更好的隐私保护,更低的费用和更高的可用性。与此同时,包括英特尔在内的硬件供应商也在积极优化人工智能工作负载的能耗和性能,不仅在 CPU 和 GPU中增添了扩展指令,还引入了全新的硬件加速器,比如VPU。然而,由于Web平台缺少对这类专用硬件的支持,限制了Web平台上人工智能应用的能力和性能,拉大了和原生应用之间的差距。 针对这一问题,英特尔联合业界伙伴,不断在Web平台上进行优化和创新,旨在为Web平台上的人工智能应用提供基于多种处理单元(XPU)的硬件加速。这些工作包括:(1)利用CPU向量指令(SIMD)和多核并行能力增强WebAssembly,针对语音和自然语言处理类人工智能应用,提升推理性能和响应速度;(2)开发下一代Web平台GPU API——WebGPU,将高并发通用GPU计算(GPGPU)引入Web平台,针对图形图像类人工智能应用,减少时延,提升吞吐率;(3)发起全新的Web Neural Network API,为Web平台提供统一的编程接口访问人工智能专用硬件,针对持续运行的人工智能应用,减轻CPU/GPU的负载,提供最佳的性能/功耗比。通过优化基于Web的机器学习框架,Web平台上的人工智能应用可以充分开发底层XPU的硬件加速,从而实现接近原生应用的功能和性能。
演讲议题:利用云-端协同AI应用开发框架快速开发端上加速的AI应用 演讲嘉宾:Austin Zhang 嘉宾介绍: Austin Zhang是SATG SSE AEE team的软件研发lead,目前主要专注于基于Intel平台的AI应用功能和相关的软件系统及端到端方案的开发和优化。此前,他的工作主要集中于基于Intel平台上的不同客户端OS、系统软件以及IoT系统和功能的enabling,并在系统性能调优和功耗优化等方面拥有多年的研发经验。 议题介绍: 随着具备人工智能能力的各种软件在我们生活中的广泛应用,越来越多的开发者希望能够快速地在自己的应用实现中加入具有AI辅助或者支持的相关功能。但是开发AI相关的功能以及AI编程涉及到从输入数据处理,模型选择和优化,执行和优化推理任务到推理结果的后处理等等一系列过程和知识。同时,AI推理过程的大运算量的特点也对执行推理的平台的算力和效率提出了更高的要求。最后,通过在云上进行AI的推理并和端侧应用交互的方式的应用开发也面临着网络通讯延迟导致的用户体验降低,用户隐私数据保护以及网络带宽成本限制等问题。 如何使得用AI给应用赋能变得简单,同时又能够尽可能利用端侧底层硬件对推理的加速功能,并尽可能降低通讯延迟和带宽成本以及用户隐私保护带来的顾虑?是否有方案能够兼顾编程方便性、降低计算成本并且保护本地数据隐私? 本次分享我们将介绍针对以上问题提出的一个云-端结合的推理方案,该方案实现类似于云服务提供的API接口类型来简化开发,同时通过高层抽象API来简化AI功能在应用中的落地,并且通过对底层硬件加速功能和软件框架实现的封装来简化整个AI功能的开发。
演讲议题:Cloud-to-PC 编排系统 演讲嘉宾:赵娟 嘉宾介绍: 赵娟 (Amy) 是一位经验丰富的技术负责人,在半导体行业有着丰富的工作经验(服务英特尔 12年,服务VIA 2 年)。她在云优先客户端、图形、相机、计算机视觉、C++ 和软件工程管理方面具有很强的工程专业技能。 她在开发新用例方面与云服务客户有过密切的合作经验。 2016~2021年,Juan领导英特尔媒体框架团队,培训了6名FFmpeg/Gstreamer的维护者/提交者。 赵娟也是华中科技大学在职博士研究生,研究领域为“分布式深度学习”。 赵娟贡献了数十篇技术出版物和一本中文书籍《OpenCV 深度学习应用与性能优化》。 议题介绍: Cloud-to-PC协助云端一体化,用云计算的理念让计算在云和端上灵活的编排,致力于提供最佳的用户体验。服务提供商采用了Cloud-to-PC可以有很多好处,比如1. 充分利用端的能力提供更多的服务的弹性,2. 让计算更靠近数据源从而保护用户数据,3. 开发者可以只开发一次服务,这些服务可以灵活的运行在云或端。关于技术细节。Cloud-to-PC利用了云计算的理念,以容器的编排和Kubernetes为基础, 让服务灵活的部署于云或端。不同于传统云计算的是,CFC为了更好的提供弹性,由有计算余力的客户端发起的Orchestration(编排),而不是由云端掌控的。这样便提供了更多的扩展能力和弹性,同时也保护了用户的设备,避免客户端设备被云端完全接管。在端的设备可以提供算力的时候,CFC利用kubernetes的强大的编排能力,我们可以让提供服务的容器在端设备上运行。在端能力有限,我们又可以通过DNS的切换,把服务重新切回云端。在这一次的议题中,我们利用Cloud-to-PC可以向大家展示一下Jupiter Lab如何在客户端简单搭建起来并工作。
演讲议题:利用Intel Celadon在PC平台上构建Android的生态 演讲嘉宾:陈夕华 嘉宾介绍: 陈夕华是Intel Celadon团队的OS软件研发工程师,有15年的Android平台研发经验(服务Intel有8年),他熟悉Android平台底层BSP和Framework,以及Android在虚拟机运行等技术,在Android的bootloader、kernel驱动、启动优化、性能调优、OTA Update和软件工程管理方面具有很强的工程专业技能。 议题介绍: 陈夕华是Intel Celadon团队的OS软件研发工程师,有15年的Android平台研发经验(服务Intel有8年),他熟悉Android平台底层BSP和Framework,以及Android在虚拟机运行等技术,在Android的bootloader、kernel驱动、启动优化、性能调优、OTA Update和软件工程管理方面具有很强的工程专业技能。
议题介绍: Android在移动操作系统取得了巨大的成功,根据数据调研机构StockApps.com的最新数据显示, 2022年1月,Android系统全球移动市场份额为69.74%,仅仅在Google的Play Store就有超过250万个APP。从苹果的 M1 芯片和 macOS Big Sur 开始,我们可以看到移动端和 PC 端逐渐融合已经成为未来操作系统的发展趋势,微软也在 Windows 11 发布会上宣布新系统将支持 Android 应用,其中发挥关键作用的技术是由Intel提供的 Bridge 技术。 Intel的Android团队为了能够更快更好地为Intel的x86架构提供支持,我们开源了Celadon项目。Celadon项目是针对Intel架构的Android参考实现,它建立在标准的Android和Linux内核之上,同时结合了一系列基于Intel x86架构上优化的开源组件。我们希望通过Celadon能够为开发者加快基于Android创新项目的开发,提高基于x86硬件平台的开发效率,并且易于推广到不同的应用场景和工作负载。目前已经应用到面向教育行业的HP智能教育本,实现了PC端和移动APP的融合。 本议题将简单介绍Celadon在智能教育本场景中如何进行Intel x86的PC端上支持Android应用的实现,以及如何在Intel的Celadon平台上充分利用硬件所固有的快速特性来进行APP的开发。
演讲议题:Kylin教育版平板操作系统在Intel平台应用方案介绍 演讲嘉宾:宁思光 嘉宾介绍: 宁思光就职于麒麟软件终端研发部,任职研发经理,主要负责Linux平板操作系统的研发工作,带领团队从无到有完成平板操作系统开发,目前已经完成V1.0、V1.1、V1.2、V1.3四个版本的迭代,同时V2.0预览版本已经在openkylin社区上发布,初步完成基于UKUI的平板桌面环境技术方案搭建,形成一套较完整的平板桌面环境。同时也负责大屏操作系统的研发工作,负责整体技术路线的规划。 议题介绍: 随着Linux操作系统在国内不断普及,各行各业都能看到Linux操作系统的身影;但大多数都是服务器操作系统和桌面操作系统,很少能看到基于Linux的平板操作系统。受疫情影响,学生们上网课需求激增,针对教育市场,kylin联合Intel一起打造一款PC-平板二合一操作系统。UKUI是麒麟团队基于Linux发行版开发的轻量级桌面环境,目前已经经历UKUI1.0、UKUI2.0、UKUI3.0三个大版本的迭代,在UKUI3.1中加入了对平板模式的支持,使其从单一的PC模式,变成PC和平板的双模式,以同时满足PC和平板两种使用场景的需求。目前我们已经从底层服务到上层应用初步形成一套PC、平板多模式融合的解决方案,这些方案包括:1)状态管理服务统一控制系统整体模式的切换;2)多端的窗口管理功能使用户在不同模式下满足不同的操作习惯;3)手势管理模块提供全局的手势支持(长按、边缘手势、屏幕内手势等);4)应用生命周期管理,实现对应用启动和销毁的应用全生命周期管理,优化系统功耗,提升系统续航;5)优化UI布局,提高触摸操作体验;同时我们还在进行新方案的开发,比如小部件框架、平板模式输入法框架等。在教育版OS上我们引入了很多Intel提供的解决方案,比如AVM方案的引入使教育版OS在x86平台上可以适配很多很多安卓应用,丰富系统生态;CCAI框架和DNS方案解决了环境噪音问题,在视频会议场景下有一个良好的用户体验;虚拟摄像头方案的引入,使系统可以支持MIPI摄像头接口,满足用户高清拍照的需求等。
演讲议题:PWA 再前行 演讲嘉宾:张敏 嘉宾介绍: Belem Zhang 于 2013 年加入英特尔,现为 SATG SSE Web 平台工程团队 Web 机器学习 及 PWA 方向的软件技术经理,参与了 Crosswalk、WebNN、渐进式 Web 应用(PWA)等 Web 项目。 在 2007 年之前,他是 Opera Software 的软件工程经理并领导了客户端运营和关键数据产品团队。 Belem 在浏览器产品及质量、网站兼容性、Web API 及应用等方面有多年经验,Belem 正和团队一起努力将英特尔 XPU 的强大功能引入到 Web,并且推动 PWA 技术在国内的发展和落地。 议题介绍: 互联网早已融入到了每个人的生活,甚至从每天的扫码开始。而这扫码的背后,却有着传统 App, 小程序、快应用、以及现在原子化服务等等的多边竞争。这些竞争帮助厂商获取到了流量,但同时它们自己也逐步被隔绝在相应的信息孤岛中。 而在国外,另一种应用形态却在如火如荼地发展着。它开放,共享,跨端,从手机端到 PC 桌面,这就是渐进式 Web 应用 (Progressive Web Apps,PWA),无数的厂商转向 PWA 并且获得成功。我们认为未来流量的战场应该是开放的,互联互通,数据共享,PWA 在这个方向努力前行。 另一方面,阻碍 PWA 落地的很多技术障碍不断地被解决,新兴的 Web API 快速地消除了和原生应用的功能及性能差距。功能上,File System Access API,Shared Storage API,Web Share API,Notifications API 等等简化了 PWA 应用对系统的访问和使用,降低了前端的开发成本;性能上, 英特尔 Web 团队领导以及参与的 Web Assembly / SIMD, WebGPU 以及 WebNN 等等项目,都在充分地利用 Intel XPU 的能力,并将 PWA 的性能极大地提高到和原生应用接近的水平。 我们看到了移动互联网不断地侵蚀着 PC 端的商业价值,而随着 Web API 的不断增强,以及微软 Windows 对 PWA 的大力支持,跨端的 PWA 正在帮助我们重新赢得开发者,并影响着中国的应用生态。PWA,再前行。
演讲议题:回归初心,重温 PWA 技术的现实意义 演讲嘉宾:宋青见 嘉宾介绍: 从业 20 余年,历经软件开发到产品经理,前端应用到云计算之间的风云变幻。曾在英特尔工作了 14 年,主要从事与性能优化、GPU 驱动程序和 Chromium 内核优化相关的软件开发和团队管理。之后,受 Chromium 新架构/创新的启发,有一段短暂的 H5 WebOS 创业经历,2016 年加入微软云计算团队,在 Azure RDS for MySQL 和区块链 PaaS 服务上工作了4年多,作为 Chormium 忠粉,在微软 Edge 浏览器全面采用 Chromium 内核后,加入 Edge PWA 团队,为构建 WebOS 的梦想再出发!
主办方:英特尔 合作方:麒麟软件 微软Edge 合作媒体:示说