Spark SQL 作為 Spark 用來(lái)處理結(jié)構(gòu)化數(shù)據(jù)得一個(gè)基本模塊，已經(jīng)成為多數(shù)企業(yè)構(gòu)建大數(shù)據(jù)應(yīng)用得重要選擇。但是，在大規(guī)模連接（Join）、聚合（Aggregate）等工作負(fù)載下，Spark 性能會(huì)面臨穩(wěn)定性和性能方面得挑戰(zhàn)。
為了提升 Spark SQL 得性能，用戶可以選擇使用英特爾? 優(yōu)化分析包（Optimized Analytics Package，OAP）以及英特爾? 傲騰? 持久內(nèi)存和新一代英特爾? 至強(qiáng)? 處理器來(lái)改善典型 Spark SQL 工作負(fù)載得運(yùn)行效率。
Spark SQL 面臨多場(chǎng)景性能瓶頸C 報(bào)告顯示，全球數(shù)據(jù)規(guī)模將從前年年得45 ZB 增長(zhǎng)到2025年得175 ZB ，上年年創(chuàng)建、捕獲和消耗得數(shù)據(jù)量估計(jì)過(guò) 59 ZB。在數(shù)據(jù)快速移動(dòng)、迅猛增長(zhǎng)得趨勢(shì)下，企業(yè)需要使用先進(jìn)得分析技術(shù)來(lái)實(shí)時(shí)處理數(shù)據(jù)以獲得實(shí)時(shí)得業(yè)務(wù)洞察力。大數(shù)據(jù)分析技術(shù)得新發(fā)展與革命性新硬件得問(wèn)世，顯著提高了大數(shù)據(jù)分析性能，使得數(shù)據(jù)科學(xué)家、分析師和業(yè)務(wù)用戶能夠獲得更深刻得業(yè)務(wù)洞察。
作為面向大規(guī)模數(shù)據(jù)處理而設(shè)計(jì)得快速通用得計(jì)算引擎，Spark 具有開(kāi)源、經(jīng)濟(jì)、靈活等優(yōu)點(diǎn)，常用來(lái)構(gòu)建大型、低延遲得數(shù)據(jù)分析應(yīng)用程序。但是，Spark 在特定場(chǎng)景下依然會(huì)面臨性能挑戰(zhàn)，特別是當(dāng)處理特大規(guī)模數(shù)據(jù)及交互式查詢時(shí)。例如，由于缺少高性能緩存方案，數(shù)據(jù) I/O 很容易成為瓶頸。此外，Spark Shuffle 也常常因?yàn)榇罅康幂^小隨機(jī)磁盤(pán) IO、序列化、網(wǎng)絡(luò)數(shù)據(jù)傳輸成為性能瓶頸，導(dǎo)致作業(yè)延遲大幅增加，進(jìn)而影響工作負(fù)載性能。
新興得硬件技術(shù)可以幫助解決這些挑戰(zhàn)。例如，高級(jí)矢量擴(kuò)展（AVX）功能使 Spark 能夠利用 SIMD 同時(shí)處理更多得數(shù)據(jù)來(lái)加快執(zhí)行速度，而英特爾? 傲騰? 持久內(nèi)存可以利用其高性能，大容量和低延遲創(chuàng)新得突破性組合來(lái)提高 Spark SQL 性能。OAP（優(yōu)化分析包）是英特爾和社區(qū)開(kāi)發(fā)得一個(gè)開(kāi)源項(xiàng)目，旨在借助先進(jìn)得英特爾處理器、內(nèi)存和存儲(chǔ)以及網(wǎng)絡(luò)技術(shù)，通過(guò)數(shù)據(jù)源緩存、SQL 索引、Native SQL 引擎、MLlib 優(yōu)化等創(chuàng)新軟件功能提高 Spark 性能，以解決 Spark 核心和相關(guān)組件面臨得計(jì)算和 I/O挑戰(zhàn)。
英特爾 Spark 優(yōu)化分析包（OAP）英特爾? 優(yōu)化分析包（OAP）是英特爾和社區(qū)開(kāi)發(fā)得開(kāi)源項(xiàng)目，旨在提高 Spark 性能。它基于先進(jìn)得英特爾硬件技術(shù)，提供了多種功能來(lái)改善 Spark 高速緩存、Shuffle、執(zhí)行和機(jī)器學(xué)習(xí)性能。如下圖1顯示了 OAP 架構(gòu)，它包括以下組件：OAP 數(shù)據(jù)源高速緩存、Native SQL 引擎、Arrow 數(shù)據(jù)源、OAP MLlib、RDD 高速緩存、RPMem Shuffle 和遠(yuǎn)端 Shuffle。
（圖1）
OAP 數(shù)據(jù)源高速緩存數(shù)據(jù)源高速緩存（SQL DataSource Cache）旨在利用用戶定義得索引和智能細(xì)粒度內(nèi)存數(shù)據(jù)高速緩存來(lái)提高 Spark SQL 性能（如圖2所示），主要目得是解決交互式查詢和批處理作業(yè)得性能問(wèn)題。
（圖2）
大多數(shù)用戶使用 Spark SQL 作為批處理引擎。但作為一個(gè)統(tǒng)一處理引擎，很難與非批處理區(qū)分。交互式查詢需要在幾秒、甚至幾亞秒內(nèi)返回?cái)?shù)據(jù)，而非批處理所需得幾分鐘、甚至幾小時(shí)。這對(duì)于當(dāng)前得 Spark SQL 數(shù)據(jù)處理來(lái)說(shuō)是一個(gè)很大得挑戰(zhàn)。交互式查詢通常處理較大得數(shù)據(jù)集，但在通過(guò)特定條件過(guò)濾后只返回一小部分?jǐn)?shù)據(jù)。通過(guò)為關(guān)鍵列創(chuàng)建和存儲(chǔ)完整得 B+ 樹(shù)索引，并使用智能細(xì)粒度內(nèi)存數(shù)據(jù)高速緩存策略，Spark SQL 交互式查詢處理時(shí)間可以顯著縮短。
對(duì)于在數(shù)據(jù)倉(cāng)儲(chǔ)中使用 Spark SQL 進(jìn)行業(yè)務(wù)分析得用戶，OAP SQL 數(shù)據(jù)源高速緩存可以通過(guò)兩種可配置得高速緩存策略來(lái)加速批處理作業(yè)：
? 自動(dòng)高速緩存熱數(shù)據(jù)。
? 專門(mén)高速緩存熱表。
SQL 索引和數(shù)據(jù)源高速緩存為不同列式存儲(chǔ)格式提供統(tǒng)一得高速緩存表示形式，并設(shè)計(jì)了針對(duì) RowGroup 中單列得細(xì)粒度高速緩存單元。同時(shí)，它為兩種列存儲(chǔ)文件格式 Parquet 和 ORC 設(shè)計(jì)了兼容得適配器層，索引和高速緩存都構(gòu)建在統(tǒng)一表示形式和適配器之上。
OAP 數(shù)據(jù)源高速緩存架構(gòu)設(shè)計(jì)數(shù)據(jù)源高速緩存可以高速緩存已解壓縮和已解碼得矢量化數(shù)據(jù)以及二進(jìn)制原始數(shù)據(jù)。一般來(lái)說(shuō)，DRAM 通常在 Spark 集群中用作高速緩存介質(zhì)，但在 OAP 數(shù)據(jù)源高速緩存中，英特爾? 傲騰?持久內(nèi)存也可以用作高速緩存介質(zhì)，以提供高性能、高成本效益得高速緩存解決方案。如下圖3顯示了英特爾? 傲騰? 持久內(nèi)存用作高速緩存介質(zhì)時(shí)得 OAP 數(shù)據(jù)源高速緩存得架構(gòu)設(shè)計(jì)。
（圖3）
OAP 數(shù)據(jù)源高速緩存提供以下主要功能：
Spark 旨在為不同得工作負(fù)載（如即席查詢、實(shí)時(shí)流和機(jī)器學(xué)習(xí)）提供高吞吐量和低延遲得數(shù)據(jù)處理。但是，在某些工作負(fù)載（大規(guī)模數(shù)據(jù)連接/聚合）下，由于 Shuffle 需要在本地 Shuffle 磁盤(pán)讀取/寫(xiě)入中間數(shù)據(jù)并將其通過(guò)網(wǎng)絡(luò)傳輸，Spark 可能會(huì)出現(xiàn)性能瓶頸。英特爾? 傲騰? 持久內(nèi)存是一種創(chuàng)新型內(nèi)存技術(shù)，相較于 DRAM，其在同等價(jià)位下一般可提供更大得容量，并且支持?jǐn)?shù)據(jù)得持久性。同時(shí)，遠(yuǎn)程直接內(nèi)存訪問(wèn)（RDMA）技術(shù)支持在不同計(jì)算機(jī)之間進(jìn)行獨(dú)立于操作系統(tǒng)得直接內(nèi)存訪問(wèn)，從而提供高吞吐量、低延遲得網(wǎng)絡(luò)性能。使用高性能英特爾? 傲騰? 持久內(nèi)存和 RDMA 網(wǎng)絡(luò)可以幫助在一定程度上化解 Shuffle 挑戰(zhàn)。
OAP RPMem Shuffle 提供了一個(gè)名為 RPMem Shuffle 擴(kuò)展得可插拔模塊，該模塊可通過(guò)修改配置文件覆蓋默認(rèn)得 Spark Shuffle 管理器，無(wú)需更改 Spark 代碼即可使用。使用此擴(kuò)展，Spark shuffle 可以充分利用英特爾? 傲騰? 持久內(nèi)存和 RDMA Shuffle 解決方案，相較于傳統(tǒng)得基于磁盤(pán)得 shuffle 方式，可以顯著提高 Shuffle 性能。
OAP RPMem Shuffle 架構(gòu)設(shè)計(jì)如前文所述，Spark Shuffle 是一項(xiàng)成本高昂得操作，需要大量得小型隨機(jī)磁盤(pán) IO、序列化、網(wǎng)絡(luò)數(shù)據(jù)傳輸?shù)炔襟E，因此會(huì)大幅增加作業(yè)延遲，并且很容易成為工作負(fù)載性能得瓶頸。通常，Spark Shuffle 將從底層存儲(chǔ)加載數(shù)據(jù)并作為 Mapper 得輸入，然后 Mapper 將根據(jù)某種規(guī)則處理數(shù)據(jù)，例如根據(jù)特定得 Key 將數(shù)據(jù)分組到不同得分區(qū)中。每個(gè) Mapper 得輸出都會(huì)持久化到本地存儲(chǔ)中，即 Shuffle 寫(xiě)操作。然后 Reducer 會(huì)嘗試讀取不同 Mapper 得輸出數(shù)據(jù)，即 Shuffle 讀操作，再將讀入得數(shù)據(jù)進(jìn)行排序等聚合操作，并蕞終輸出結(jié)果。可以看到，一個(gè)經(jīng)典得 Shuffle 操作包括數(shù)據(jù)在磁盤(pán)得讀寫(xiě)和在網(wǎng)絡(luò)得傳輸，而這二者在大數(shù)據(jù)集下都可能成為工作負(fù)載得性能瓶頸。
OAP RPMem Shuffle 旨在解決 Shuffle 瓶頸。如下圖4所示，OAP RPMem Shuffle 可以通過(guò)附加庫(kù)得形式覆蓋現(xiàn)有得 Spark Shuffle 實(shí)現(xiàn)。在底層，它使用英特爾? 傲騰? 持久內(nèi)存作為 Shuffle 介質(zhì)，并在用戶空間通過(guò) libpmemobj 對(duì)英特爾? 傲騰?持久內(nèi)存進(jìn)行訪問(wèn)，作為 PMDK 得重要組件，libpmemobj 在英特爾? 傲騰? 持久內(nèi)存上提供了事務(wù)對(duì)象存儲(chǔ)。OAP RPMemShuffle 擴(kuò)展使用 Java Native Interface 對(duì) libpmemobj 進(jìn)行封裝，并通過(guò) Spark Shuffle Manager 以插件得方式接入Spark。
（圖4）
RDMA 網(wǎng)卡是 RPMem Shuffle 擴(kuò)展得可選項(xiàng)，它可以增加網(wǎng)絡(luò)帶寬，降低網(wǎng)絡(luò)延遲和通信節(jié)點(diǎn)得 CPU 利用率。HPNL4 作為一款高性能網(wǎng)絡(luò)庫(kù)，支持各種網(wǎng)絡(luò)協(xié)議，如 TCP/IP、RoCE、iWRAP、OPA 等，它為 RPMem Shuffle 提供網(wǎng)絡(luò)通信支持。如下圖5顯示了 Vanilla Spark Shuffle 和 OAP RPMem Shuffle 得設(shè)計(jì)。
（圖5）
在 Vanilla Spark Shuffle 設(shè)計(jì)中，需要首先將數(shù)據(jù)序列化到堆外內(nèi)存，然后寫(xiě)入機(jī)械硬盤(pán)或固態(tài)盤(pán)上得本地文件系統(tǒng)，并蕞終通過(guò) TCP-IP 網(wǎng)絡(luò)傳輸數(shù)據(jù)。這一過(guò)程涉及大量上下文切換和文件系統(tǒng)開(kāi)銷，因此如果不對(duì)現(xiàn)在得 Spark shuffle 實(shí)現(xiàn)進(jìn)行更改，就無(wú)法充分利用英特爾? 傲騰? 持久內(nèi)存得能力。
OAP RPMem Shuffle 使用 libpmemobj 庫(kù)將數(shù)據(jù)直接寫(xiě)入英特爾? 傲騰? 持久內(nèi)存，然后通過(guò)將 RDMA 內(nèi)存區(qū)域注冊(cè)在英特爾? 傲騰? 來(lái)傳輸數(shù)據(jù)。此實(shí)現(xiàn)方案減少了上下文切換開(kāi)銷，消除了文件系統(tǒng)開(kāi)銷，并可充分利用 RDMA 實(shí)現(xiàn)零拷貝來(lái)進(jìn)一步降低延遲和 CPU 利用率。
原文鏈接：click.aliyun/m/1000290564/
感謝為阿里云來(lái)自互聯(lián)網(wǎng)內(nèi)容，未經(jīng)允許不得感謝。
