001. Spark를 설치해서 무작정 돌려보자.

Spark를 설치해서 무작정 돌려보자.

---

일단 Spark 다운로드... 현재 최신 버전은 1.2.1이다.(2015/02/26 기준)

https://spark.apache.org/downloads.html 에 접속해서 spark 다운로드를 받는다. 

hadoop을 포함한 pre-built 버전으로 설치해 본다. (추후 소스코드 받아서 compile해보자.)

위 처럼 지정하고 Download 받아 압축을 해제하면 된다.

편의상 심볼릭 링크를 생성해 두었다.

---

설치 끝? Spark-Shell을 이용하여 Spark를 간단히 돌려보자.

./bin/spark-shell 을 수행하면 아래처럼 확인할 수 있다.

({SPARK_HOME} 설치 디렉토리에서 위처럼 수행하자. 테스트 샘플 데이터 파일이 Spark 설치 디렉토리에 존재하니.)

# README.md 파일을 읽어서 count()와 first()를 돌려보자.

var textFile = sc.textFile("README.md") textFile.count() textFile.first()

라인수와 첫 라인 정보를 확인할 수 있다.(아직까진 어려운게 없다)

# filter() 를 통해 변환을 해보자.

# Spark 단어를 포함한 라인만 추출하기.

var textFile = sc.textFile("README.md") var linesWithSpark = textFile.filter(line => line.contains("Spark")) linesWithSpark.count() linesWithSpark.first()

Spark라는 단어를 포함한 라인은 19줄이며, 첫번째 라인은 "# Apache Spark" 임을 확인할 수 있다.

이외에도 spark-shell을 이용하여 여러 가지를 수행해 볼 수 있다.

좀 더 많은 샘플을 보고 싶으면 https://spark.apache.org/docs/latest/quick-start.html 에 참조하길 바란다.

샘플을 보면 scala 언어를 사용하고 있는데, spark-shell은 scala 언어를 사용한다. python도 사용이 가능한데, ./bin/pyspark를 이용하면 된다. java는 interactive shell을 지원하지 않는다.

---