1、对原始的数据进行分割（Split），得到N个不同的数据分块。2、对每一个数据分块都启动一个Map进行处理。采用桶排序的方法，每个Map中按照首字母将字符串分配到26个不同的桶中。3、对于Map之后得到的中间结果，启动26个Reduce。按照首字母将Map中不同桶中的字符串集合放置到相应的Reduce中进行处理。

由于MapReduce在成百上千台机器上处理海量数据，所以容错机制是不可或缺的。总的来说，MapReduce通过重新执行失效的地方来实现容错。Master失效Master会周期性地设置检查点（checkpoint），并导出Master的数据。一旦某个任务失效，系统就从最近的一个检查点恢复并重新执行。由于只有一个Master在运行，如果Master失效了，则只能终止整个MapReduce程序的运行并重新开始。Worker失效Master会周期性地给Worker发送ping命令，如果没有Worker的应答，则Master认为Worker失效，终止对这个Worker的任务调度，把失效Worker的任务调度到其他Worker上重新执行。

1）MapReduce函数首先把输入文件分成M块2）分派的执行程序中有一个主控程序Master3）一个被分配了Map任务的Worker读取并处理相关的输入块4）这些缓冲到内存的中间结果将被定时写到本地硬盘，这些数据通过分区函数分成R个区5）当Master通知执行Reduce的Worker关于中间<key,value>对的位置时，它调用远程过程，从MapWorker的本地硬盘上读取缓冲的中间数据6）ReduceWorker根据每一个唯一中间key来遍历所有的排序后的中间数据，并且把key和相关的中间结果值集合传递给用户定义的Reduce函数7）当所有的Map任务和Reduce任务都完成的时候，Master激活用户程序

JefferyDean设计一个新的抽象模型，封装并行处理、容错处理、本地化计算、负载均衡的细节，还提供了一个简单而强大的接口，这就是MapReduce。MapReduce这种并行编程模式思想最早是在1995年提出的。与传统的分布式程序设计相比，MapReduce封装了并行处理、容错处理、本地化计算、负载均衡等细节，还提供了一个简单而强大的接口。MapReduce把对数据集的大规模操作，分发给一个主节点管理下的各分节点共同完成，通过这种方式实现任务的可靠执行与容错机制。

1、大规模集群安装技术GFS集群中通常有非常多的节点，需要相应的技术支撑2、故障检测技术GFS构建在不可靠廉价计算机之上的文件系统，由于节点数目众多，故障发生十分频繁3、节点动态加入技术新的ChunkServer加入时，只需裸机加入，大大减少GFS维护工作量4、节能技术Google采用了多种机制降低服务器能耗，如采用蓄电池代替昂贵的UPS

1、GFS采用副本的方式实现ChunkServer的容错2、每一个Chunk有多个存储副本（默认为三个）3、对于每一个Chunk，必须将所有的副本全部写入成功，才视为成功写入4、相关的副本出现丢失或不可恢复等情况，Master自动将该副本复制到其他ChunkServer5、GFS中的每一个文件被划分成多个Chunk，Chunk的默认大小是64MB6、每一个Chunk以Block为单位进行划分，大小为64KB，每一个Block对应一个32bit的校验和

1、采用中心服务器模式可以方便地增加ChunkServerMaster掌握系统内所有ChunkServer的情况，方便进行负载均衡不存在元数据的一致性问题2、不缓存数据文件操作大部分是流式读写，不存在大量重复读写，使用Cache对性能提高不大ChunkServer上数据存取使用本地文件系统从可行性看，Cache与实际数据的一致性维护也极其复杂3、在用户态下实现利用POSIX编程接口存取数据降低了实现难度，提高通用性POSIX接口提供功能更丰富用户态下有多种调试工具Master和ChunkServer都以进程方式运行，单个进程不影响整个操作系统GFS和操作系统运行在不同的空间，两者耦合性降低

1、客户端首先访问Master节点，获取交互的ChunkServer信息，然后访问这些ChunkServer，完成数据存取工作。这种设计方法实现了控制流和数据流的分离。2、Client与Master之间只有控制流，而无数据流，极大地降低了Master的3、Client与ChunkServer之间直接传输数据流，同时由于文件被分成多个Chunk进行分布式存储，Client可以同时访问多个ChunkServer，从而使得整个系统的I/O高度并行，系统整体性能得到提高。

1、Client（客户端）Client是GFS提供给应用程序的访问接口，以库文件的形式提供2、Master（主服务器）Master是GFS的管理节点，负责整个文件系统的管理3、ChunkServer（数据块服务器）ChunkServer负责具体的存储工作

1、用户交互接口向应用以WebServices方式提供访问接口，获取用户需求。2、用户交互接口向应用以WebServices方式提供访问接口，获取用户需求。3、系统管理模块负责管理和分配所有可用的资源，其核心是负载均衡。4、配置工具负责在分配的节点上准备任务运行环境。5、监视统计模块负责监视节点的运行状态，并完成用户使用节点情况的统计。