最新文章专题视频专题问答1问答10问答100问答1000问答2000关键字专题1关键字专题50关键字专题500关键字专题1500TAG最新视频文章推荐1 推荐3 推荐5 推荐7 推荐9 推荐11 推荐13 推荐15 推荐17 推荐19 推荐21 推荐23 推荐25 推荐27 推荐29 推荐31 推荐33 推荐35 推荐37视频文章20视频文章30视频文章40视频文章50视频文章60 视频文章70视频文章80视频文章90视频文章100视频文章120视频文章140 视频2关键字专题关键字专题tag2tag3文章专题文章专题2文章索引1文章索引2文章索引3文章索引4文章索引5123456789101112131415文章专题3
当前位置: 首页 - 科技 - 知识百科 - 正文

hive优化之自动合并输出的小文件

来源:动视网 责编:小采 时间:2020-11-09 15:11:14
文档

hive优化之自动合并输出的小文件

hive优化之自动合并输出的小文件:1.先在hive-site.xml中设置小文件的标准.<property> <name>hive.merge.smallfiles.avgsize</name> <value>536870912</value> <description>When the average ou
推荐度:
导读hive优化之自动合并输出的小文件:1.先在hive-site.xml中设置小文件的标准.<property> <name>hive.merge.smallfiles.avgsize</name> <value>536870912</value> <description>When the average ou


1.先在hive-site.xml中设置小文件的标准.

<property>
 <name>hive.merge.smallfiles.avgsize</name>
 <value>536870912</value>
 <description>When the average output file size of a job is less than this number, Hive will start an additional map-reduce job to merge the output files into bigger files. This is only done for map-only jobs if hive.merge.mapfiles is true, and for map-reduce jobs if hive.merge.mapredfiles is true.</description>
</property>

2.为只有map的mapreduce的输出并合并小文件.

<property>
 <name>hive.merge.mapfiles</name>
 <value>true</value>
 <description>Merge small files at the end of a map-only job</description>
</property>

3.为含有reduce的mapreduce的输出并合并小文件.

<property>
 <name>hive.merge.mapredfiles</name>
 <value>true</value>
 <description>Merge small files at the end of a map-reduce job</description>
</property>

更多相关教程请访问 MySQL视频教程

文档

hive优化之自动合并输出的小文件

hive优化之自动合并输出的小文件:1.先在hive-site.xml中设置小文件的标准.<property> <name>hive.merge.smallfiles.avgsize</name> <value>536870912</value> <description>When the average ou
推荐度:
标签: 输出 优化 小文件
  • 热门焦点

最新推荐

猜你喜欢

热门推荐

专题
Top