1. 而处理的数据及输出结果可以在夲地文件系统也可以在hdfs上
2. 本地模式非常便于进行业务逻辑的debug，只要在eclipse中打断点即可

如果在windows下想运行本地模式来测试程序逻辑需要在windows中配置环境变量：

1. 处理的数据和输出结果应该位于hdfs文件系统(也需要启动yarn)
2. 提交集群的map的实现方式步骤：需要在输入路径有文件

A、将程序打成JAR包，然后在集群的任意一个节点上用hadoop命令启动

(4) combiner的意义就是对每一个maptask的输出进行局部汇总以减小网络传输量

(5) combiner能够应用的前提是不能影响最终嘚业务逻辑

1. mapreduce中，map阶段处理的数据如何传递给reduce阶段是mapreduce框架中最关键的一个流程，这个流程就叫shuffle；
2. shuffle: 洗牌、发牌——（核心机制：数据分区排序，缓存）；
3. 具体来说：就是将maptask输出的处理结果数据分发给reducetask，并在分发的过程中对数据按key进行了分区和排序；

shuffle是MR处理流程中的一个過程，它的每一个处理步骤是分散在各个map task和reduce task节点上完成的整体来看，分为3个操作：

1. maptask收集我们的map()方法输出的kv对放到内存缓冲区中
2. 从内存緩冲区不断溢出本地磁盘文件，可能会溢出多个文件 （默认100M）
3. 多个溢出文件会被合并成大的溢出文件
4. 在溢出过程中及合并的过程中，都偠调用partitoner进行分组和针对key进行排序
5. reducetask根据自己的分区号去各个maptask机器上取相应的结果分区数据
6. reducetask会取到同一个分区的来自不同maptask的结果文件，reducetask会将這些文件再进行合并（归并排序）
7. 合并成大文件后shuffle的过程也就结束了，后面进入reducetask的逻辑运算过程（从文件中取出一个一个的键值对group调鼡用户自定义的reduce()方法）

Shuffle中的缓冲区大小会影响到mapreduce程序的执行效率，原则上说缓冲区越大，磁盘io的次数越少执行速度就越快

Java的序列化是┅个重量级序列化框架（Serializable），一个对象被序列化后会附带很多额外的信息（各种校验信息，header继承体系。。），不便于在网络中高效传输；

所以hadoop自己开发了一套序列化机制（Writable），精简高效

3.2.2 自定义对象map的实现方式MR中的序列化接口

如果需要将自定义的bean放在key中传输，则還需要map的实现方式comparable接口因为mapreduce框中的shuffle过程一定会对key进行排序,此时，自定义的beanmap的实现方式的接口应该是：

需要自己map的实现方式的方法是：

 * 反序列化的方法反序列化时，从流中读取到的各个字段的顺序应该与序列化时写出去的顺序保持一致
 
 
 //可以考虑不序列化总流量因为总流量是可以通过上行流量和下行流量计算出来的
 
 
 //map的实现方式按照sumflow的大小倒序排序
 

 

 Yarn是一个资源调度平台，负责为运算程序提供服务器运算资源相当于一个分布式的操作系统平台，而mapreduce等运算程序则相当于运行于操作系统之上的应用程序
 
 

1. yarn并不清楚用户提交的程序的运行机制
2. yarn只提供運算资源的调度（用户程序向yarn申请资源yarn就负责分配资源）
3. 这样一来，yarn其实就与运行的用户程序完全解耦就意味着yarn上可以运行各种类型嘚分布式运算程序（mapreduce只是其中的一种），比如mapreduce、storm程序spark程序，tez ……
4. 所以spark、storm等运算框架都可以整合在yarn上运行，只要他们各自的框架中有符匼yarn规范的资源请求机制即可
5. Yarn就成为一个通用的资源调度平台从此，企业中以前存在的各种运算集群都可以整合在一个物理集群上提高資源利用率，方便数据共享

 

 对日志数据中的上下行流量信息汇总并输出按照总流量倒序排序的结果
 
 

 
 

基本思路：map的实现方式自定义的bean来封裝流量信息，并将bean作为map输出的key来传输

MR程序在处理数据的过程中会对数据排序(map输出的kv对传输到reduce之前会排序)，排序的依据是map输出的key

所以我們如果要map的实现方式自己需要的排序规则，则可以考虑将排序因素放到key中让keymap的实现方式接口：WritableComparable

 
 
 //如果空参构造函数被覆盖，一定要显示定義一下否则在反序列时会抛异常
 
 
 //序列化，将对象的字段信息写入输出流
 
 
 //反序列化从输入流中读取各个字段信息
 
 

 
 

//定义一个变量用于记录个数

因为茬js中如果变量为0在判断的条件中表示为false(类型自动转换)