09 spark连接mysql数据库

spark连接mysql数据库

安装启动检查Mysql服务。
netstat -tunlp (3306)

 spark 连接mysql驱动程序。

–cp /usr/local/hive/lib/mysql-connector-java-5.1.40-bin.jar /usr/local/spark/jars

 启动 Mysql shell，新建数据库spark，表student。

select * from student;

 

 spark读取MySQL数据库中的数据

spark.read.format("jdbc").option("url", "jdbc:mysql://localhost:3306/spark?useSSL=false") ...  .load()

df=spark.read.format("jdbc")\
 .option("driver","com.mysql.jdbc.Driver")\
 .option("url","jdbc:mysql://localhost:3306/spark?useSSL=false")\
 .option("dbtable","student")\
 .option("user","root")\
 .option("password","mysql")\
 .load()

 spark向MySQL数据库写入数据

studentDF.write.format(‘jdbc’).option(…).mode(‘append’).save() 

 studentRDD = spark.sparkContext.parallelize(["5 xiaom  26","6 wang  27"]).map(lambda line:line.split(" "))