如何处理同步文件名加后缀问题

如何处理同步文件名加后缀问题

• 来源:网络
• 更新日期:2020-05-22

摘要：数据集成同步数据到OSS/FTP/SFTP/HDFS时将并行多线程写入，由于对应文件系统限制，只能生成多个不重名文件才可以保证同步任务的并发运行，所以在每个文件后面加上一串随机字符串防止文件名冲突。

OSS/FTP/SFTP/HDFS同步后文件名加后缀的原因：

数据集成同步数据到OSS/FTP/SFTP/HDFS时将并行多线程写入，由于对应文件系统限制，只能生成多个不重名文件才可以保证同步任务的并发运行，所以在每个文件后面加上一串随机字符串防止文件名冲突。

解决方法

目前只有OSS插件支持并发写入单个文件并且不会在文件后面加后缀，_FTP/SFTP/HDFS插件不支持_

OSS插件操作方法

在[脚本模式]增加如下配置："writeSingleObject": true

特别提醒：如果您自定义资源组上面设置上面的参数不生效是因为您datax版本比较老建议升级版本。