OSS 数据湖实践 —— 使用EMR JindoFs Cache提升性能
2020-05-27 13:58
417 查看
通过使用cache缓存机制,减少数据分析处理过程中直读OSS的次数,不仅能够提高性能,更能减少与OSS的交互流量,减少数据分析成本与时间开销。
前提条件
- 已注册阿里云账号,详情请参见注册云账号。
- 已开通E-MapReduce服务和OSS服务。
- 已完成云账号的授权,详情请参见角色授权。
- 已创建Haoop集群,且带有Hive组件,且配置OSS数据源。
步骤一:设置JindoFs Cache
打开smartdata服务中client配置,
把jfs.cache.data-cache.enable为1, 表示打开JindoFs的cache功能打开
步骤二:进行作业测试
数据分析作业具体可看其他OSS数据湖实践文档功能
OSS Spark 实践文档
OSS Flink 实践文档
OSS Hive 实践文档
相关文章推荐
- 【Java/Android性能优 4】PreloadDataCache支持预取的数据缓存,使用简单,支持多种缓存算法,支持不同网络类型,扩展性强
- .Net最佳实践3:使用性能计数器收集性能数据
- 缓存Integer等类型的频繁使用的数据和对象,大幅度提升性能
- 使用软Raid 发挥多块SSD硬盘的性能并提升数据安全性
- 使用ADO.NET2.0提升数据交互性能(1)
- 使用ADO.NET2.0提升数据交互性能 使用SqlBulkCopy批量写入数据库
- .Net最佳实践3:使用性能计数器收集性能数据
- 使用ADO.NET2.0提升数据交互性能(5)
- 使用图片和数据缓存技术提升App性能(第4章) 之一
- 使用ADO.NET2.0提升数据交互性能(1)
- 使用ADO.NET2.0提升数据交互性能(1)
- .net最佳实践二:使用finalize/dispose模式提升垃圾回收器性能
- 使用ADO.NET2.0提升数据交互性能 DataSet 数据表
- OpenJDK源码研究笔记(五)-缓存Integer等类型的频繁使用的数据和对象,大幅度提升性能(一道经典的Java笔试题)
- 使用ADO.NET2.0提升数据交互性能(2)
- 使用ADO.NET2.0提升数据交互性能(3)
- 使用原始的Titanic数据,通过特征筛选,一步步提升性能(特征如何提取)
- 实践:使用了CompletableFuture之后,程序性能提升了三倍
- OpenJDK源码研究笔记(五)-缓存Integer等类型的频繁使用的数据和对象,大幅度提升性能(一道经典的Java笔试题)
- 使用ADO.NET2.0提升数据交互性能