MS Reactor+Intel - AutoML - Mark Chen

1 .AI/ML Technical Specialist Global Black Belt Microsoft Asia 

2 .数据科学项目的构建基块 DevOps for data 构建和训练模型 超参数调优 实验和管道 部署 science Classical ML Data sources Deep learning 

3 . Azure上的机器学习 已练好的复杂模型 (Sophisticated pretrained models) … To simplify solution development Vision Speech Language Search 熟悉的数据科学工具(Familiar Data Science Tools) To simplify model development PyCharm Jupyter Visual Studio Code Command line 全面支持主流框架 (Popular frameworks) To build advanced deep learning solutions Pytorch TensorFlow Keras Onnx 高效的AI开发服务 (Productive services) To empower data science and development teams Azure Azure Machine Learning Databricks Machine Learning VMs 强大的基础架构 (Powerful infrastructure) To accelerate deep learning 灵活的部署方式 (Flexible deployment) To deploy and manage models on intelligent cloud and edge On-premises Cloud Edge 

4 .Azure上的机器学习服务 Python Azure 云服务集 SDK 这使您能够： ✓ 准备数据 ✓ 管理模型 ✓ 生成模型 ✓ 跟踪实验 ✓ 训练模型 ✓ 部署模型 

5 .设计ML解决方案 问题 解决方案 一系列连续的、相互关联的决策 • 重新缩放数据？ • 算法的选择？ • Regression tree, random forest, SVM model? • Linear vs. non- linear kernel? CRISPR 基因编程 • Lengthscale of non-linearity? *** 𝑝 < 1 × 10−7 

6 .优化机器学习 转换特征 确定模型 调整参数 

7 .Machine Learning Complexity 机器学习的复杂性 來源 : http://scikit-learn.org/stable/tutorial/machine_learning_map/index.html 

8 . 典型的超参数调谐"手动"方法 Dataset 复杂、乏味、重复、耗时、昂贵 Model Training Training Training Infrastructure Algorithm 1 Model 1 Algorithm 2 Model 2 Model 3 Model 4 Hyperparameter Hyperparameter Hyperparameter Values – config 1 Values – config 2 Hyperparameter Values – config 3 Values – config 4 

9 .自动机器学习概念概述 

10 . Machine Learning Pipeline Hyper Data Data Data Feature Model Model Parameter Predictions Acquisition Exploration Preparation Engineering Selection Training Tuning AutoML Workflow Traditional Machine Learning Workflow Hyper Data Data Data Feature Model Model Parameter Predictions Acquisition Exploration Preparation Engineering Selection Training Tuning 

11 .自动机器学习优势 Azure 自动机器学习允许 • 过程自动化 • 更高效地使用资源 • 针对预期结果优化模型 • 控制资源预算 • 可视化所有配置 

12 . 自动化机器学习当前的能力 Category Value Compute Target 

13 . 支持的自动化机器学习算法 Classification Regression Time Series Forecasting sklearn.linear_model.LogisticRegression sklearn.linear_model.ElasticNet sklearn.linear_model.ElasticNet sklearn.linear_model.SGDClassifier sklearn.ensemble.GradientBoostingRegressor lightgbm.LGBMRegressor sklearn.naive_bayes.BernoulliNB sklearn.tree.DecisionTreeRegressor sklearn.ensemble.GradientBoostingRegressor sklearn.naive_bayes.MultinomialNB sklearn.neighbors.KNeighborsRegressor sklearn.tree.DecisionTreeRegressor sklearn.svm.SVC sklearn.linear_model.LassoLars sklearn.neighbors.KNeighborsRegressor sklearn.svm.LinearSVC sklearn.linear_model.SGDRegressor sklearn.linear_model.LassoLars sklearn.calibration.CalibratedClassifierCV sklearn.ensemble.RandomForestRegressor sklearn.linear_model.SGDRegressor sklearn.neighbors.KNeighborsClassifier sklearn.ensemble.ExtraTreesRegressor sklearn.ensemble.RandomForestRegressor sklearn.tree.DecisionTreeClassifier lightgbm.LGBMRegressor sklearn.ensemble.ExtraTreesRegressor sklearn.ensemble.RandomForestClassifier xgboost.sklearn.XGBModel sklearn.ensemble.ExtraTreesClassifier tf.estimator.DNNRegressor sklearn.ensemble.GradientBoostingClassifier tf.estimator.LinearRegressor lightgbm.LGBMClassifier pmdarima.arima.auto_arima fbprophet.Prophet 

14 .通过 Python SDK 或 UI 使用自动机器学习 Classification Regression Time Series Forecasting 

15 .演示 如何使用自动机器学习： 使用用户界面实现自动机器学习 

16 .DevOps MLOps 代码可重复性 模型可重复性 代码测试 模型验证 应用程序部署 模型部署 模型重新训练 

17 . 共同作业 建构应用程序 测试应用程序 发布应用程序 监控应用程序 应用程序开发人员 训练模型 验证模型 部署模型 监控模型 使用 Azure Devops 审计跟踪管理和模型可解释性 数据科学家使用 重新训练模型 Azure 机器学习 模型可重复性 模型验证 模型部署 模型重新训练 

18 .Many Models Solution Accelerator （预览） 建置在 Azure Machine Learning 中， 使用自动化机器学习定型、操作及管 理上百个或甚至数千个机器学习模型 https://github.com/microsoft/solution-accelerator-many-models 

19 .AutoML与ONNX 

20 .学习资源 • https://azure.microsoft.com/en-us/services/machine-learning/automatedml/ • https://docs.microsoft.com/en-us/azure/machine-learning/concept- automated-ml • https://docs.microsoft.com/en-us/azure/machine-learning/how-to- configure-auto-train • https://github.com/Azure/MachineLearningNotebooks/tree/master/how-to- use-azureml/automated-machine-learning 

21 .THANKS