欧美色欧美亚洲另类七区,惠美惠精品网,五月婷婷一区,国产亚洲午夜

Spark培訓大綱如下：

　　培訓目標：

　　1. 全面了解大數據實時處理技術的相關知識。

　　2. 學習Spark的核心技術方法以及應用特征。

　　3. 深入使用Spark在大數據實時處理中的使用。

　　4. 掌握BDAS相關工具及其主要功能。

　　培訓大綱：

　　第一部分：

　　第一講 Spark大數據實時處理技術

　　1)大數據處理技術的背景

　　2)Spark實時處理技術及案例介紹

　　3)Spark架構實例分析

　　4)Spark應用場景分析

　　5)Spark與Hadoop、Storm的關系及選項

　　第二講 Spark安裝配置及監控

　　1)Centos環境的準備

　　2)Hadoop2.X和Scala

　　3)搭建Spark開發環境

　　4)Spark監控管理

　　第三講 Scala編程語言使用概述

　　1) Scala編程語言

　　2) 基本數據類型

　　3) 操作基本數據類型

　　4) 類和對象

　　5) 組合和繼承

　　第四講 Spark分布式計算框架及案例分析

　　1)Spark計算模型及案例分析

　　2)彈性分布式數據集RDD及使用場景

　　3)Spark的數據存儲

　　4)Transformation算子分類及功能

　　5)Actions算子分類及功能

　　第五講 Spark內部工作機制詳解

　　1) Spark底層實現原理

　　2) Spark應用執行機制

　　3) Spark調度與任務分配模塊

　　4) FIFO和FAIR調度算法

　　第六講 Spark數據讀取與存儲

　　1)Spark的I/O機制

　　2)Spark中的數據壓縮

　　3)Spark的數據讀取與存儲

　　4)Spark數據讀寫流程

　　第二部分：

　　第七講 Spark通信模塊和容錯機制

　　1)Spark通信模塊

　　2)通信框架AKKA

　　3)容錯機制和Lineage依賴

　　4)檢查點機制進行容錯

　　5)Shuffle過程

　　第八講 SQL On Spark

　　1) 關系數據庫與NoSql數據庫的選型對比

　　2)SQL On Spark的適用場景

　　3) BDAS數據分析軟件棧

　　4) SQL On Spark

　　5) Spark SQL工具使用

　　6) Shark工具使用

　　7) Hive on Spark工具

　　8) Spark操作HBase中的數據

　　第九講 Spark流數據處理工具Streaming

　　1) 流數據處理工具Streaming的適用場景

　　2) Spark Streaming架構

　　3) Spark Streaming原理

　　4) Spark Streaming實例

　　第十講 Spark中的大數據挖掘工具MLlib

　　1)大數據挖掘工具MLlib及適用場景

　　2)MLlib的數據存儲

　　3)MLlib中的聚類和分類

　　4)MLlib算法應用實例

　　5)利用MLlib進行推薦

　　第十一講 Spark大規模圖處理工具GraphX

　　1)大規模圖處理工具GraphX

　　2)GraphX的運行架構

　　3)GraphX操作使用

　　4)GraphX使用實例

　　第十二講 Spark在業界的應用案例

　　1)Spark在Amazon的應用

　　2)Spark在Yahoo!的應用

　　3)Spark在Telefonica的應用

　　4)Spark在淘寶的應用