Spark---Shuffle调优之调节map端内存缓冲与reduce端内存占比_map task缓冲区所占内存大小-CSDN博客

网站介绍:文章浏览阅读2k次。1、map端内存缓冲,reduce端内存占比概述map端内存缓冲,reduce端内存占比;很多资料、网上视频,都会说,这两个参数,是调节shuffle性能的不二选择,很有效果的样子,实际上,不是这样的。以实际的生产经验来说,这两个参数没有那么重要,往往来说,shuffle的性能不是因为这方面的原因导致的但是,有一点点效果的,broadcast,数据本地化等待时长;这两个shuffl_map task缓冲区所占内存大小