빅데이터(BigData)/Spark

dataframe(데이터프레임)으로 hive table(테이블) 생성하거나 데이터를 입력하기

leebaro 2020. 10. 2.
728x90

데이터프레임으로 테이블을 만들어야 하는 경우에는 아래 같이 코드를 작성하면 된다.

 

테이블을 생성하고 데이터를 넣기

df.write.mode("overwrite").saveAsTable("스키마.테이블명")

# 데이터 조회하기
spark.sql("select * from 스키마.테이블명").show()

 

기존에 존재하는 테이블에 데이터만 넣기

df.write.mode("append").saveAsTable("스키마.테이블명")
spark.sql("select * from 스키마.테이블명").show()

 

참고

kontext.tech/column/spark/294/spark-save-dataframe-to-hive-table

728x90