Spark Streaming技術內幕及源碼剖析

Spark Streaming技術內幕及源碼剖析
定價:294
NT $ 256
  • 作者:王家林夏陽
  • 出版社:清華大學出版社
  • 出版日期:2017-05-01
  • 語言:簡體中文
  • ISBN10:730246491X
  • ISBN13:9787302464914
  • 裝訂:251頁 / 普通級 / 1-1
 

內容簡介

本書以大數據處理引擎Spark的穩定版本1.6.x為基礎,從應用案例、原理、源碼、流程、調優等多個角度剖析Spark上的實時計算框架SparkStreaming。

在勾勒出SparkStreaming架構輪廓的基礎上,從基本源碼開始進行剖析,由淺入深地引導已具有Spark和Spark Streaming基礎技術知識的讀者進行Spark Streaming的進階學習,理解Spark Streaming的原理和運行機制,為流數據處理的決策和應用提供了技術參考;結合Spark Streaming的深入應用的需要,對Spark Streaming的性能調優進行了分析,也對Spark Streaming功能的改造和擴展提供了指導。

本書適合大數據領域CTO、架構師、高級軟件工程師,尤其是Spark領域已有Spark Streaming基礎知識的從業人員閱讀,也可供需要深入學習Spark、Spark Streaming的高校研究生和高年級本生參考。

王家林:中國著名的Spark培訓專家,Apache Spark、Android 技術中國區布道師,DT大數據夢工廠創始人和首席專家,Android軟硬整合專家。徹底研究了 Spark 從 0.5.0 到 2.1.0 中共 28個版本的 Spark 源碼,目前致力於開發優化的 Spark 中國版本。尤其擅長 Spark 在生產環境下各種類型和場景故障的排除和解決,痴迷於 Spark 生產環境下任意類型(例如 Shuffle 和各種內存問題及數據傾斜問題等)的 Spark 程序的深度性能優化。從 2014 年 6 月 24 日起,已開啟免費的 Spark 公開課《決勝大數據時代 Spark100 期公益大講堂》。在 2015 年 6月 27 日成立 DT 大數據夢工廠,開啟 IMF(Impossible Mission Force)行動,率先在全球開展以 Spark 為核心的,免費為社會培養 100 萬企業級實戰高級大數據人才行動計划,截止目前已有數千人參與到這個行動之中。

夏陽,系統架構師,從事平台和應用軟件研發工作多年,行業閱歷豐富,對行業技術發展有獨到見解和精准判斷,近幾年先后就職於中創中間件公司、蟻坊軟件公司、任子行網絡技術股份有限公司,從事大數據相關的技術研發工作。對大數據處理、機器學習、圖計算、文本處理等技術領域有豐富工作經驗和濃厚興趣。

 

目錄

第1章 Spark Streaming應用概述
1.1 Spark Streaming應用案例
1.2 Spark Streaming應用剖析

第2章 Spark Streaming基本原理
2.1 Spark Core簡介
2.2 Spark Streaming設計思想
2.3 Spark Streaming整體架構
2.4 編程接口

第3章 Spark Streaming運行流程詳解
3.1 從StreamingContext的初始化到啟動
3.2 數據接收
3.3 數據處理
3.4 數據清理
3.5 容錯機制
3.5.1 容錯原理
3.5.2 Driver容錯機制
3.5.3 Executor容錯機制
3.6 No Receiver方式
3.7 輸出不重復
3.8 消費速率的動態控制
3.9 狀態操作
3.10 窗口操作
3.11 頁面展示
3.12 Spark Streaming應用程序的停止

第4章 Spark Streaming 性能調優機制
4.1 並行度解析
4.1.1 數據接收的並行度
4.1.2 數據處理的並行度
4.2 內存
4.3 序列化
4.4 Batch Interval
4.5 Task
4.6 JVM GC

第5章 Spark 2.0中的流計算
5.1 連續應用程序
5.2 無邊界表unbounded table
5.3 增量輸出模式
5.4 API簡化
5.5 其他改進
網路書店 類別 折扣 價格
  1. 新書
    87
    $256