- 快召唤伙伴们来围观吧
- 微博 QQ QQ空间 贴吧
- 视频嵌入链接 文档嵌入链接
- 复制
- 微信扫一扫分享
- 已成功复制到剪贴板
openLooKeng在光大银行多源查询场景的探索与实践-程一舰
主要介绍openLooKeng在光大银行多源查询场景的探索与实践,并分享在典型数据源Connector应用过程中遇到的问题与具体优化实践。
程一舰,中国人民大学计算机应用技术专业2017级硕士,2020年6月毕业加入中国光大银行总行,现任中国光大银行多源查询平台负责人。主要从事大数据查询计算引擎相关的技术研究、应用与推广。具有openLooKeng的性能优化和Connector研发相关经验
展开查看详情
1 .openLooKeng在光大银行多源查询场景 的探索与实践 程一舰 中国光大银行-总行信息科技部 openLooKeng社区Committer
2 .目录 1 openLooKeng引入背景 2 openLooKeng的使用定位 3 Connector的使用与优化 4 下一步的探索 2
3 .openLooKeng引入背景 3
4 .openLooKeng引入背景(续) 4
5 .目录 1 openLooKeng引入背景 2 openLooKeng的使用定位 3 Connector的使用与优化 4 下一步的探索 5
6 .openLooKeng使用定位 数据探查类 联机报表类 1.数据科学家、数据分析师的 1.通过FineBI、tableau、 建模探查 jupyter、Power BI等方式接 2.有跨数据源或者跨数据集群 入的报表类需求 联合查询需求的人员 2.通过Java JDBC API方式接 3.生产数据核对(例如跑批数 入的联机类查询 据核对、准实时数据版本核对 等) 6
7 .目录 1 openLooKeng引入背景 2 openLooKeng的使用定位 3 Connector的使用与优化 4 下一步的探索 7
8 .Hive Connector 8
9 .Hive Connector 问题一:hive version4(CDP版本)下的Connector写兼容问题 9
10 .Hive Connector 10
11 .Hive Connector 11
12 .Hive Conector 问题二:访问权限控制问题 12
13 .Hive Connector 13
14 .Hive Connector 14
15 .Hive Connector 15
16 .Hive Connector 16
17 .Hive Connector 17
18 .Hive Connector 18
19 .Hive Connector 19
20 .GaussDB Connector机制及痛点分析 20
21 .GaussDB Connector机制及痛点分析(续) 21
22 .GaussDB Connector机制及痛点分析(续) 22
23 .GaussDB Connector机制及痛点分析(续) 23
24 .PostgreSQL FDW机制 24
25 .PostgreSQL FDW机制 25
26 .基于高速协议的MPP Connector设计(HDFS) 26
27 .MPP Connector(HDFS)流程 27
28 .Linux Fuse机制 28
29 .Alluxio及其Fuse机制 29