doris踩坑csv格式分割问题

简单记录一下问题和解决方法
doris,spark-doirs-connector
Reason: actual column number in csv file is  more than  schema column number.actual number: 26, schema column number: 25; line delimiter: [
], column separator: [	], result values:

报错信息如上,解决如下
默认的读取是以csv进行,在行列值分割时候导致分割失败,数据插入失败,转换为以json方式读取可以避免问题出现,另外官方文档里面也有一些参数可以优化
        map.put("doris.sink.properties.format","json");//   http-outgoing-5 >> read_json_by_line: true
        map.put("doris.sink.batch.size","5000");

posted @   堕落先锋  阅读(49)  评论(0编辑  收藏  举报
相关博文:
阅读排行:
· 分享一个免费、快速、无限量使用的满血 DeepSeek R1 模型,支持深度思考和联网搜索!
· 25岁的心里话
· 基于 Docker 搭建 FRP 内网穿透开源项目(很简单哒)
· 闲置电脑爆改个人服务器(超详细) #公网映射 #Vmware虚拟网络编辑器
· ollama系列01:轻松3步本地部署deepseek,普通电脑可用
历史上的今天:
2020-01-09 排序001选择排序于冒泡排序
点击右上角即可分享
微信分享提示