Data_Skew_static package skew-CSDN博客

网站介绍:文章浏览阅读274次。文章目录1 原理2 示例MockData2.1 重新设计key2.1.1 Mapper2.1.2 Mapper22.1.3 Reducer2.2 设计随机分区1 原理Shuffle的时候,按照Key进行 同一个key分配到一个reducer task来进行处理造成两种现象个别Task执行很慢OOM(JVM Out Of Memory) , 单个JVM压力过大 失败2 示例MockDatapackage DataSkew;import java.io.*;import java.u_static package skew