本文主要介绍“hadoop中map的个数是多少”，在日常操作中，相信很多朋友在hadoop中map的个数是多少问题上存在疑惑，小编查阅了各式资料，整理出简单好用的操作方法，希望对大家解答”hadoop中map的个数是多少”的疑惑有所帮助！下一步，请跟着小编一起来学习吧！
hadooop提供了一个设置map个数的参数mapred.map.tasks，我们可通过这个参数来控制map的个数。但是通过这样的方法设置map的个数，并不是每次都有效的。原因是mapred.map.tasks只是一个hadoop的参考数值，最终map的个数，还取决于其他的因素。
为了方便介绍，先来看几个名词
block,size : hdfs的文件块大小，默认为64m，可以借助参数dfs.block.size设置
total,size : 输入文件整体的大小
input,file,num : 输入文件的个数
（1）默认map个数
如果不进行任何设置，默认的map个数是和blcok,size相关的。
default,num = total,size / block,size;
（2）期望大小
可以借助参数mapred.map.tasks来设置程序员期望的map个数，但是这个个数只有在大于default,num的时候，才会生效。
goal,num = mapred.map.tasks;
（3）设置处理的文件大小
可以借助mapred.min.split.size 设置每个task处理的文件大小，但是这个大小只有在大于block,size的时候才会生效。
split,size = max(mapred.min.split.size, block,size);
split,num = total,size / split,size;
（4）计算的map个数
compute,map,num = min(split,num, max(default,num, goal,num))
除了这些配置以外，mapreduce还要遵循一些原则。 mapreduce的每一个map处理的数据是不能跨越文件的，这么说来min,map,num >= input,file,num。 所以，最终的map个数应该为
final,map,num = max(compute,map,num, input,file,num)
经过以上的分析，在设置map个数的时候，可以简单的总结为以下几点
（1）如果想增加map个数，则设置mapred.map.tasks 为一个较大的值。
（2）如果想减小map个数，则设置mapred.min.split.size 为一个较大的值。
（3）如果输入中有很多小文件，依然想减少map个数，则需如果要把小文件merger为大文件，然后使用准则2。
到此，关于“hadoop中map的个数是多少”的学习就结束了，希望能够解决大家的疑惑。理论与实践的搭配能更好的帮助大家学习，快去试试吧！若想继续学习更多相关知识，请继续关注云网站，小编会继续努力为大家带来更多实用的文章！