Hadoop EDW 數據庫管理員培訓
Hadoop EDW 數據庫管理員培訓
課程目標:
此課程面向公司系統管理員、數據庫管理員,希望轉型的DBA 等。以及對Hadoop感興趣的各類技術人員。通過此課程的培訓，學員可以深入理解Hadoop技術架構,對Hadoop
運作機制有清晰全面的認識，可以獨立規劃及部署生產環境的Hadoop集群，掌握Hadoop基本運維思路和方法，對Hadoop集群進行管理和優化。
目標學員:軟件工程師、高級軟件工程師、數據庫開發人員、互聯網服務后臺開發人員、運維人員????
???
培訓大綱
一、集群安裝和管理?????
?
模塊一、Hadoop的來源和動機
??????
·傳統大規模系統存在的問題
??????
· 對一種新的解決方案的需求
?
模塊二、EasyHadoop安裝和部署準備
??????
·Hadoop系統模塊組件概述
??????
·Hadoop試驗集群的部署結構
??????
·Hadoop 安裝依賴關系
??????
·Hadoop 生產環境的部署結構
?
模塊三、EasyHadoop集群安裝和部署
??????
·Red hat Linux基礎環境搭建 上機實驗
??????
·Hadoop 單機系統版本 安裝配置 上機實驗
??????
·Hadoop 集群系統版本 安裝和啟動配置 上機實驗
??????
·Hadoop 集群異常Debug 方法
??????
·Hadoop 集群簡單測試方法
??????
·使用 Hadoop MapReduce Streaming 快速測試系統
?
模塊四、Hadoop組件詳解???
??????
·Hadoop HDFS 基本結構
??????
·Hadoop HDFS 副本存放策略
??????
·Hadoop NameNode 詳解
??????
·Hadoop SecondaryNameNode 詳解
??????
·Hadoop DataNode 詳解
??????
·Hadoop JobTracker 詳解
??????
·Hadoop TaskTracker 詳解
?
模塊五、EasyHadoop集群配置詳解???
??????
·Hadoop core-site,hdfs-site,mapred-site 配置詳解
??????
·Hadoop 高可用配置方法
二、集群優化和管理?????
?
模塊六、EasyHadoop集群配置:機架感知,開啟壓縮和任務均衡???
???????
·Hadoop 集群安裝和開啟LZO壓縮 上機實驗
???????
·Hadoop 配置集群具備機架感知? 上機實驗
???????
·Hadoop 集群開啟公平任務調度器 上機實驗
???????
·Hadoop 集群開啟能力任務調度器 上機實驗
?
模塊七、Hadoop 集群維護與管理???
???????
·查看集群狀態
???????
·HDFS數據管理
???????
·Mapreduce 任務管理
???????
·HDFS安全模式
???????
·模擬集群Namenode,jobtrack失效
???????
·添加刪除節點
???????
·數據平衡
???????
·文件數據跨集群拷貝
???????
·集群升級
?
模塊八、Hadoop 集群規劃和測試???
???????
·集群規劃(硬件,系統,網絡)
???????
·集群性能測試"
?
模塊九、Hadoop 集群監控和運維???
???????
·使用Ganglia 監控Hadoop集群
???????
·使用Cacti 監控操作系統"
?
模塊十、Hadoop HDFS高可用???
???????
·Hadoop 元數據NFS備份方案
???????
·Hadoop SecondaryNameNode備份方案
???????
·Hadoop CheckpointNode備份方案
???????
·Hadoop BackupNode備份方案
???????
·Hadoop Cloudera HA Namenode 方案
三、EasyHive EasyPig 數據倉庫??????
?
模塊一、EasyHive倉庫集群
??????
·Hive的作用和原理說明
??????
·Hadoop倉庫和傳統數據倉庫的協作關系
??????
·Hadoop/Hive倉庫數據數據流
??????
·Hive 部署和安裝
??????
·Hive Cli 的基本用法
??????
·HQL基本語法
?
模塊二、EasyHive倉庫集群高級
??????
·使用JDBC 連接Hive進行查詢和分析
??????
·使用正則表達式加載數據
??????
·HQL高級語法
??????
·編寫UDF函數
??????
·編寫UDAF自定義函數"
?
模塊三、EasyHive倉庫優化
??????
·使用Hive分區優化查詢
??????
·使用Lzo壓縮優化數據存儲容量
??????
·HiveServer HA (使用haproxy提高HiveServer可用性)
??????
·編寫Hive自定義MapReduce腳本優化查詢
??????
·Hive數據傾斜和查詢性能優化"
?
模塊四、EasyHive倉庫外圍系統???
??????
·使用Sqoop進行數據分析
??????
·使用oozie配置工作流
??????
·phpHiveAdmin 安裝和使用
?
?
?
?
?
?
?
合作伙伴與授權機構
shuhaipeixun
1299983702
總部李老師
