北京大數(shù)據(jù)分析挖掘

關(guān)于舉辦“大數(shù)據(jù)分析挖掘-基于Hadoop/Mahout/Mllib的大數(shù)據(jù)挖掘（含Spark、Storm和Docker應(yīng)用介紹）”培訓(xùn)的通知

各有關(guān)單位：

中國(guó)科學(xué)院計(jì)算技術(shù)研究所是國(guó)家專門(mén)的計(jì)算技術(shù)研究機(jī)構(gòu)，同時(shí)也是中國(guó)信息化建設(shè)的重要支撐單位，中科院計(jì)算所培訓(xùn)中心是致力于高端IT類人才培養(yǎng)及企業(yè)內(nèi)訓(xùn)的專業(yè)培訓(xùn)機(jī)構(gòu)。中心憑借科學(xué)院的強(qiáng)大師資力量，在總結(jié)多年大型軟件開(kāi)發(fā)和組織經(jīng)驗(yàn)的基礎(chǔ)上，自主研發(fā)出一整套課程體系，其目的是希望能夠切實(shí)幫助中國(guó)軟件企業(yè)培養(yǎng)高級(jí)軟件技術(shù)人才，提升整體研發(fā)能力，迄今為止已先后為國(guó)家培養(yǎng)了數(shù)萬(wàn)名計(jì)算機(jī)專業(yè)人員，并先后為數(shù)千家大型國(guó)內(nèi)外企業(yè)進(jìn)行過(guò)專門(mén)的定制培訓(xùn)服務(wù)。

隨著互聯(lián)網(wǎng)、移動(dòng)互聯(lián)網(wǎng)和物聯(lián)網(wǎng)的發(fā)展，我們已經(jīng)切實(shí)地迎來(lái)了一個(gè)大數(shù)據(jù)的時(shí)代。大數(shù)據(jù)是指無(wú)法在一定時(shí)間內(nèi)用常規(guī)軟件工具對(duì)其內(nèi)容進(jìn)行抓取、管理和處理的數(shù)據(jù)集合，對(duì)大數(shù)據(jù)的分析已經(jīng)成為一個(gè)非常重要且緊迫的需求。目前對(duì)大數(shù)據(jù)的分析工具，的是Hadoop/Yarn平臺(tái)。Hadoop/Yarn在可伸縮性、健壯性、計(jì)算性能和成本上具有無(wú)可替代的優(yōu)勢(shì)，事實(shí)上已成為當(dāng)前互聯(lián)網(wǎng)企業(yè)主流的大數(shù)據(jù)分析平臺(tái)。為解決廣大系統(tǒng)設(shè)計(jì)人員深入研究與開(kāi)發(fā)大數(shù)據(jù)技術(shù)的需要，培訓(xùn)中心特在“大數(shù)據(jù)處理技術(shù)-基于Hadoop/Yarn的實(shí)戰(zhàn)”課程的基礎(chǔ)上，針對(duì)已有或即將建立Hadoop/Yarn集群，擁有海量數(shù)據(jù)，需要做用戶推薦、產(chǎn)品聚類，信息分類等大數(shù)據(jù)分析用戶，舉辦“大數(shù)據(jù)分析挖掘-基于Hadoop/Mahout/MLlib的大數(shù)據(jù)挖掘”培訓(xùn)班，具體事宜通知如下：

一、培訓(xùn)對(duì)象

1，系統(tǒng)架構(gòu)師、系統(tǒng)分析師、高級(jí)程序員、資深開(kāi)發(fā)人員。

2，牽涉到大數(shù)據(jù)處理的數(shù)據(jù)中心運(yùn)行、規(guī)劃、設(shè)計(jì)負(fù)責(zé)人。

3，政府機(jī)關(guān)，金融保險(xiǎn)、移動(dòng)和互聯(lián)網(wǎng)等大數(shù)據(jù)來(lái)源單位的負(fù)責(zé)人。

4，高校、科研院所牽涉到大數(shù)據(jù)與分布式數(shù)據(jù)處理的項(xiàng)目負(fù)責(zé)人。

二、學(xué)員基礎(chǔ)

1，對(duì)IT系統(tǒng)設(shè)計(jì)有一定的理論與實(shí)踐經(jīng)驗(yàn)。

2，數(shù)據(jù)倉(cāng)庫(kù)與數(shù)據(jù)挖掘處理有一定的基礎(chǔ)知識(shí)。

3，對(duì)Hadoop/Yarn/Spark大數(shù)據(jù)技術(shù)有一定的了解。

三、師資

由業(yè)界知名大數(shù)據(jù)專家親自授課：

楊老師 主要研究網(wǎng)絡(luò)信息分析以及云計(jì)算相關(guān)技術(shù)，長(zhǎng)期從事通信網(wǎng)管系統(tǒng)、網(wǎng)絡(luò)信息處理、商務(wù)智能(BI)以及電信決策支持系統(tǒng)的研究開(kāi)發(fā)工作，主持和參與了多個(gè)國(guó)家和省部級(jí)基金項(xiàng)目，具有豐富的工程實(shí)踐及軟件研發(fā)經(jīng)驗(yàn)。

四、培訓(xùn)要點(diǎn)

互聯(lián)網(wǎng)點(diǎn)擊數(shù)據(jù)、傳感數(shù)據(jù)、日志文件、具有豐富地理空間信息的移動(dòng)數(shù)據(jù)和涉及網(wǎng)絡(luò)的各類評(píng)論，成為了海量信息的多種形式。當(dāng)數(shù)據(jù)以成百上千TB不斷增長(zhǎng)的時(shí)候，我們?cè)趦?nèi)部交易系統(tǒng)的歷史信息之外，需要一種基于大數(shù)據(jù)分析的決策模型和技術(shù)支持。

大數(shù)據(jù)通常具有：數(shù)據(jù)體量(Volume)巨大,數(shù)據(jù)類型(Variety)繁多,價(jià)值(Value)密度低,處理速度(Velocity)快等四大特征。如何有效管理和高效處理這些大數(shù)據(jù)已成為當(dāng)前亟待解決的問(wèn)題。大數(shù)據(jù)處理意味著更嚴(yán)峻的挑戰(zhàn)，更好地管理和處理這些數(shù)據(jù)也將會(huì)獲得意想不到的收獲。

Google發(fā)布的GFS和MapReduce等高可擴(kuò)展、高性能的分布式大數(shù)據(jù)處理框架，證明了在處理海量網(wǎng)頁(yè)數(shù)據(jù)時(shí)該框架的優(yōu)越性。在此基礎(chǔ)上，Apache Hadoop開(kāi)源項(xiàng)目開(kāi)發(fā)團(tuán)隊(duì)，克隆并推出了Hadoop/Yarn系統(tǒng)。該系統(tǒng)已受到學(xué)術(shù)界和工業(yè)界的廣泛認(rèn)可和采納，并孵化出眾多子項(xiàng)目(如Hive，Zookeeper和Mahout等)，日益形成一個(gè)易部署、易開(kāi)發(fā)、功能齊全、性能優(yōu)良的系統(tǒng)。在此基礎(chǔ)上，以Berkley牽頭設(shè)計(jì)的Spark/BDAS技術(shù)，實(shí)現(xiàn)了內(nèi)存級(jí)別的分布式處理模式，使用戶無(wú)需關(guān)注復(fù)雜的內(nèi)部工作機(jī)制，無(wú)需具備豐富的分布式系統(tǒng)知識(shí)及開(kāi)發(fā)經(jīng)驗(yàn)，即可實(shí)現(xiàn)大規(guī)模分布式系統(tǒng)的部署與大數(shù)據(jù)的并行處理。

本課程從大數(shù)據(jù)挖掘分析技術(shù)實(shí)戰(zhàn)的角度，結(jié)合理論和實(shí)踐，全方位地介紹Mahout和 MLlib等大數(shù)據(jù)挖掘工具的開(kāi)發(fā)技巧。本課程涉及的主題包括：大數(shù)據(jù)挖掘及其背景，Mahout和 MLlib大數(shù)據(jù)挖掘工具，推薦系統(tǒng)及電影推薦案例，分類技術(shù)及聚類分析，以及與流挖掘和Docker技術(shù)的結(jié)合，分析了大數(shù)據(jù)挖掘前景分析。

本課程教學(xué)過(guò)程中還提供了案例分析來(lái)幫助學(xué)員了解如何用Mahout和 MLlib挖掘工具來(lái)解決具體的問(wèn)題，并介紹了從大數(shù)據(jù)中挖掘出有價(jià)值的信息的關(guān)鍵。

本課程不是一個(gè)泛泛的理論性、概念性的介紹課程，而是針對(duì)問(wèn)題討論Mahout和 MLlib解決方案的深入課程。教師對(duì)于上述領(lǐng)域有深入的理論研究與實(shí)踐經(jīng)驗(yàn)，在課程中將會(huì)針對(duì)這些問(wèn)題與學(xué)員一起進(jìn)行研究，在關(guān)鍵點(diǎn)上還會(huì)搭建實(shí)驗(yàn)環(huán)境進(jìn)行實(shí)踐研究，以加深對(duì)于這些解決方案的理解。通過(guò)本課程學(xué)習(xí)，希望推動(dòng)大數(shù)據(jù)分析挖掘項(xiàng)目開(kāi)發(fā)上升到一個(gè)新水平。

五、培訓(xùn)內(nèi)容

第一講大數(shù)據(jù)挖掘及其背景

1)數(shù)據(jù)挖掘定義

2)Hadoop相關(guān)技術(shù)

3)大數(shù)據(jù)挖掘知識(shí)點(diǎn)

第二講 MapReduce/DAG計(jì)算模式

1）分布式文件系統(tǒng)DFS

2）MapReduce計(jì)算模型介紹

3）使用MR進(jìn)行算法設(shè)計(jì)

4）DAG及其算法設(shè)計(jì)

第三講 云挖掘工具M(jìn)ahout/MLib

1）Hadoop中的Mahoutb介紹

2）Spark中的Mahout/MLib介紹

3）推薦系統(tǒng)及其Mahout實(shí)現(xiàn)方法

4）信息聚類及其MLlib實(shí)現(xiàn)方法

5）分類技術(shù)在Mahout/MLib中的實(shí)現(xiàn)方法

第四講 推薦系統(tǒng)及其應(yīng)用開(kāi)發(fā)

1）一個(gè)推薦系統(tǒng)的模型

2）基于內(nèi)容的推薦

3）協(xié)同過(guò)濾

4）基于Mahout的電影推薦案例

第五講 分類技術(shù)及其應(yīng)用

1）分類的定義

2）分類主要算法

3）Mahout分類過(guò)程

4）評(píng)估指標(biāo)以及評(píng)測(cè)

5）貝葉斯算法新聞分類實(shí)例

第六講 聚類技術(shù)及其應(yīng)用

1）聚類的定義

2）聚類的主要算法

3）K-Means、Canopy及其應(yīng)用示例

4）Fuzzy K-Means、Dirichlet及其應(yīng)用示例

5）基于MLlib的新聞聚類實(shí)例

第七講 關(guān)聯(lián)規(guī)則和相似項(xiàng)發(fā)現(xiàn)

1）購(gòu)物籃模型

2）Apriori算法

3）抄襲文檔發(fā)現(xiàn)

4）近鄰搜索的應(yīng)用

第八講 流數(shù)據(jù)挖掘相關(guān)技術(shù)

1）流數(shù)據(jù)挖掘及分析

2）Storm和流數(shù)據(jù)處理模型

3）流處理中的數(shù)據(jù)抽樣

4）流過(guò)濾和Bloom filter

第九講 云環(huán)境下大數(shù)據(jù)挖掘應(yīng)用

1）與Hadoop/Yarn集群應(yīng)用的協(xié)作

2）與Docker等其它云工具配合

3）大數(shù)據(jù)挖掘行業(yè)應(yīng)用展望

六、培訓(xùn)目標(biāo)

1, 全面了解大數(shù)據(jù)處理技術(shù)的相關(guān)知識(shí)。

2，學(xué)習(xí)Hadoop/Yarn/Spark的核心數(shù)據(jù)分析技術(shù)。

3，深入學(xué)習(xí)Mahout/MLlib挖掘工具在大數(shù)據(jù)中的使用。

4，掌握Storm流處理技術(shù)和Docker等技術(shù)與大數(shù)據(jù)挖掘結(jié)合的方法。

七、培訓(xùn)時(shí)間、地點(diǎn)

時(shí)間： 2018年5月30日-6月1日 地點(diǎn)：北京

八、證書(shū)

培訓(xùn)結(jié)束，頒發(fā)中科院計(jì)算所職業(yè)培訓(xùn)中心“大數(shù)據(jù)分析挖掘-基于Hadoop/Mahout/MLlib的大數(shù)據(jù)挖掘”結(jié)業(yè)證書(shū)。

九、費(fèi)用

培訓(xùn)費(fèi)：5800元/人（含教材、證書(shū)、午餐、學(xué)習(xí)用具等）。住宿協(xié)助安排，費(fèi)用自理。