01月02日假期学习

并行化集合

要创建并行化集合，请在驱动程序中的现有集合上调用SparkContext的parallelize方法。复制集合的每个元素以形成可以并行操作的分布式数据集。

val info = Array(1, 2, 3, 4)  
val distinfo = sc.parallelize(info)

Scala

现在，可以操作分布式数据集(distinguishedfo)，例如：distinfo.reduce((a, b) => a + b)。

外部数据集

在Spark中，可以从Hadoop支持的任何类型的存储源(如HDFS，Cassandra，HBase甚至本地文件系统)创建分布式数据集。Spark提供对文本文件，SequenceFiles和其他类型的Hadoop InputFormat的支持。

SparkContext的textFile方法可用于创建RDD的文本文件。此方法获取文件的URI(计算机上的本地路径或hdfs://)并读取文件的数据。

现在，可以通过数据集操作来操作数据，例如使用map和reduceoperations来添加所有行的大小，如下所示：data.map(s => s.length).reduce((a, b) => a + b)。