用Python解析dolphinscheduler的json并存入到mysql
第一步 连接dolphinscheduler数据库
SELECT * FROM dolphinscheduler2.t_ds_process_definition
WHERE project_id=150005;
把process_definition_json值的内容复制出来,保存成json文件。
第二步 导入Json文件
import json
import pandas as pd
file = open('D:\Wor\DB_ERP.json','rb')
json = json.load(file);
tasksdata = json['tasks']
print(tasksdata)
第三步 连接数据库
from sqlalchemy import create_engine
-- 我自己是把解析结果放到本机数据库了,xxxx是root的密码,ds是数据库名
engine = create_engine('mysql+pymysql://root:xxxx@localhost:3306/ds')
第四步 解析需要的列存成DataFrame
代码贴上去后,格式错乱,就不贴了。
大概步骤就是,声明list,for循环取json的值,然后list.append,最后赋值到df。
肯定有更简单的写法,但当前时间比较紧张,只考虑结果。如果有更好的,请共享,谢谢~
第五步 保存成表
将DataFrame储存为MySQL中的数据表,不储存index列。
只有下面这一句脚本,结束~
df.to_sql('dp_task', engine, if_exists='append',index= True)
最后再去数据库刷新下表即可。
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· Manus重磅发布:全球首款通用AI代理技术深度解析与实战指南
· 被坑几百块钱后,我竟然真的恢复了删除的微信聊天记录!
· 没有Manus邀请码?试试免邀请码的MGX或者开源的OpenManus吧
· 园子的第一款AI主题卫衣上架——"HELLO! HOW CAN I ASSIST YOU TODAY
· 【自荐】一款简洁、开源的在线白板工具 Drawnix