一句話說，在Spark中對數(shù)據(jù)的操作其實(shí)就是對RDD的操作，而對RDD的操作不外乎創(chuàng)建、轉(zhuǎn)換、調(diào)用求值。
什么是RDD
RDD（Resilient Distributed Dataset），彈性分布式數(shù)據(jù)集。
它定義了如何在集群的每個(gè)節(jié)點(diǎn)上操作數(shù)據(jù)的一系列命令，而不是指真實(shí)的數(shù)據(jù)，Spark通過RDD可以對每個(gè)節(jié)點(diǎn)的多個(gè)分區(qū)進(jìn)行并行的數(shù)據(jù)操作。
之所以稱彈性，是因?yàn)槠溆懈呷蒎e(cuò)性。默認(rèn)情況下，Spark會(huì)在每一次行動(dòng)操作后進(jìn)行RDD重計(jì)算，如想在多個(gè)行動(dòng)操作中使用RDD,可以將其緩存（以分區(qū)的方式持久化）到集群中每臺(tái)機(jī)器的內(nèi)存或者磁盤中。當(dāng)一臺(tái)機(jī)器失效無法讀取RDD數(shù)據(jù)時(shí)，可通過此特性重算丟掉的分區(qū)，從而恢復(fù)數(shù)據(jù)，此過程對用戶透明。
如何創(chuàng)建RDD
可通過以下幾種方式創(chuàng)建RDD：
通過讀取外部數(shù)據(jù)集 （本地文件系統(tǒng)/HDFS/...）
通過讀取集合對象 （List/Set/...）
通過已有的RDD生成新的RDD
延伸閱讀
- ssh框架 2016-09-30
- 阿里移動(dòng)安全 [無線安全]玩轉(zhuǎn)無線電——不安全的藍(lán)牙鎖 2017-07-26
- 消息隊(duì)列NetMQ 原理分析4-Socket、Session、Option和Pipe 2024-03-26
- Selective Search for Object Recognition 論文筆記【圖片目標(biāo)分割】 2017-07-26
- 詞向量-LRWE模型-更好地識(shí)別反義詞同義詞 2017-07-26
- 從棧不平衡問題 理解 calling convention 2017-07-26
- php imagemagick 處理 圖片剪切、壓縮、合并、插入文本、背景色透明 2017-07-26
- Swift實(shí)現(xiàn)JSON轉(zhuǎn)Model - HandyJSON使用講解 2017-07-26
- 阿里移動(dòng)安全 Android端惡意鎖屏勒索應(yīng)用分析 2017-07-26
- 集合結(jié)合數(shù)據(jù)結(jié)構(gòu)來看看(二) 2017-07-26
學(xué)習(xí)是年輕人改變自己的最好方式