本文作者:站长

Spark性能调优实战 一站式加速Spark作业执行性能

站长 2021-05-28 430 抢沙发
Spark性能调优实战 一站式加速Spark作业执行性能摘要: 目前,Spark已然成为分布式数据处理技术的事实标准,也在逐渐成为各大头部互联网公司的标配。对于数据领域的任何一名工程师来说,Spark开发都是一项必备技能;而想要进入大厂,就更得...

Spark性能调优实战 一站式加速Spark作业执行性能资源简介:

 目前,Spark已然成为分布式数据处理技术的事实标准,也在逐渐成为各大头部互联网公司的标配。对于数据领域的任何一名工程师来说,Spark开发都是一项必备技能;而想要进入大厂,就更得有丰富的Spark性能调优经验。

Spark性能调优实战 一站式加速Spark作业执行性能

可现实情况是,我们想要快速上手开发应用很容易,把握应用的执行性能却总也找不到头绪,比如:

明明都是内存计算,为什么我用了RDD/DataFrame Cache,性能反而更差了?

网上吹得神乎其神的调优手段,为啥到了我这就不好使呢?

并行度设置得也不低,为啥我的CPU利用率还是上不去?

节点内存几乎全都划给Spark用了,为啥我的应用还是OOM?

为此,我们特意邀请到了吴磊老师,他根据自己多年的数据处理经验,梳理出了一套关于性能调优的方法论,帮助你在有效加速 Spark 作业执行性能的同时,也建立起以性能为导向的开发习惯。

除此之外,他还会手把手教你打造一个分布式应用,带你从不同角度洞察汽油车摇号的趋势和走向,让你对性能调优技巧和思路的把控有一个“质的飞跃”。

你将获得

深入浅出的 Spark 核心原理

全面解析 Spark SQL 性能调优

应用开发、配置项设置实操指南

手把手带你实现一个分布式应用

文件目录

开篇词  Spark性能调优,你该掌握这些“套路”.mp3

开篇词  Spark性能调优,你该掌握这些“套路”.pdf

01  性能调优的必要性:Spark本身就很快,为啥还需要我调优?.mp3

01  性能调优的必要性:Spark本身就很快,为啥还需要我调优?.pdf

02  性能调优的本质:调优的手段五花八门,该从哪里入手?.mp3

02  性能调优的本质:调优的手段五花八门,该从哪里入手?.pdf

03  RDD:为什么你必须要理解弹性分布式数据集?.mp3

03  RDD:为什么你必须要理解弹性分布式数据集?.pdf

04   DAG与流水线:到底啥叫“内存计算”?.pdf

04  DAG与流水线:到底啥叫“内存计算”?.mp3

05  调度系统:“数据不动代码动”到底是什么意思?.mp3

05  调度系统:“数据不动代码动”到底是什么意思?.pdf

06  存储系统:空间换时间,还是时间换空间?.mp3

06  存储系统:空间换时间,还是时间换空间?.pdf

07   内存管理基础:Spark如何高效利用有限的内存空间?.pdf

07  内存管理基础:Spark如何高效利用有限的内存空间?.mp3

08  应用开发三原则:如何拓展自己的开发边界?.mp3

08 应用开发三原则:如何拓展自己的开发边界?.pdf

文章版权及转载声明

作者:站长本文地址:https://www.xiazai.red/post/56418.html发布于 2021-05-28
文章转载或复制请以超链接形式并注明出处下载集

赞(0)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

微信扫一扫打赏

分享

发表评论

快捷回复:

评论列表 (暂无评论,430人围观)参与讨论

还没有评论,来说两句吧...