티스토리 뷰

Developer/Spark

Windows7에 spark 설치

데브포유 2017. 5. 11. 18:09
반응형

1. 스파크 다운로드

http://spark.apache.org/downloads.html 에서 Pre-built for hadoop 으로 다운로드 후 


c:\spark  에 풀기...



2. windows용 hadoop 설치 (하둡을 사용하지 않아도 winutils.exe 가 필요함으로 설치)

http://www.barik.net/archive/2015/01/19/172716/


c:\hadoop 에 풀기



3. spark-shell2.cmd 를 열어서 HADOOP_HOME, JAVA_HOME, SPARK_HOME 설정


set HADOOP_HOME=c:\hadoop

set SPARK_HOME=c:\spark


4. hive에러 방지용 명령어 실행 ( c:\tmp\hive 디렉토리가 없으면 만듬)

c\hadoop\bin\winutils.exe chmod 777 c:\tmp\hive



4번까지 수행후에 c:\spark\bin\spark-shell  를 수행시키면 에러 없이 스칼라 명령해석기가 수행되면 성공이다.



ps) jdk는 1.7 이상 설치해 두어야 함.

    Eclipse나 Intelij IDEA를 사용할 경우에는 HADOOP_HOME, SPARK_HOME를 환경변수에 등록해서 사용하면 됨


- 끝 -




반응형