各位热爱 Apache SeaTunnel 的小伙伴们,今年 4 月份月报更新啦!这里将记录 SeaTunnel 社区每月的重要更新,欢迎关注!
在本月的众多更新中,最令人关注的一项新特性是——TDengine 多表 Sink 功能的支持(由 @jia17 提交)。这一功能的引入,标志着 SeaTunnel 在面向时序数据库的数据写入能力上迈出了关键一步。
在工业物联网、智慧能源、智能制造等场景中,传感器数据往往分布在多个逻辑表中,原有的单表 Sink 显然难以满足复杂的数据落盘需求。此次更新实现了 TDengine 多表动态写入能力,用户可以灵活地根据业务逻辑将数据路由到不同的目标表中,极大提升了数据写入的灵活性与效率。
更重要的是,整个功能的设计兼顾了 Schema 解析、字段匹配和异常处理等细节,具有较强的工程实用性,未来也有望扩展到更多支持多表写入场景的连接器中。
SeaTunnel 正在不断强化与主流数据系统的融合能力,这项更新正是一次面向实际业务需求的有力回应。
月度Merge之星
感谢以下小伙伴上个月为 Apache SeaTunnel 所做的精彩贡献(排名不分先后):
@hawk9821,@eyys,@liunaijie,@corgy-w,@CosmosNi,@FrommyMind,@maozhen520,@Hisoka-X,@litiliu,@JeremyXin,@Alberne,@rbowen,@mrtisttt,@RongHaa,@misi1987107,@kehan-zhou,@ocean-zhc,@qifanlili,@jia17,@xxsc0529,@hailin0
apache/seatunnel仓库
修复
- [Bugfix][CI]修复Transform检查 @hailin0
- [Fix][CI]在测试用例中释放文件资源 @CosmosNi
- [Fix][Config]修复 seatunnel.yaml 中无效的遥测日志配置 @mrtisttt
- [Fix][Zeta]修复检查点线程池过早关闭导致任务状态异常的问题 @Hisoka-X
- [Fix][Core]修复配置解析中带有 \"\" 的错误 @Hisoka-X
- [Bugifx][kafka]修复 Kafka 枚举器分配拆分时的空指针异常 NPE @hailin0
- [Fix][Doc]删除_test和_sink前的空格 @kehan-zhou
- [Fix][Connector-V2]修复Kafka数据库名称 @corgy-w
- [Fix][Zeta]在HdfsStorage中不使用volatile关键字修复双重检查锁定问题 @maozhen520
- [Fix][Serialize]防止 JSON 输出中的十进制数字采用科学计数法 @misi1987107
- [Fix][CI]升级操作作业运行主机版本 @Hisoka-X
- [Fix][Doc]调整explode函数的描述 @CosmosNi
- [Fix][Connector-V2]修复TDengine sink中当列或标签包含null值时出现的NullPointerException @jia17
- [Fix][connector-file-base]修复 parquet int32 转换错误 @JeremyXin
- [Fix][Connector-V2]修复了 StarRocks 连接器中缺少的时间戳精度问题 @corgy-w
- [Fix][Zeta]调整调用枚举器打开方法的时机 @Hisoka-X
- [Fix][Connector-V2]修复MaxCompute多平行写入问题 @Hisoka-X
- [Fix][Connector-V2][OceanBase]OceanBase 支持简单的向量索引。 @xxsc0529
- [Fix][API]修复未调用 SinkAggregatedCommitter 的初始化方法的问题 @Hisoka-X
- [Bugfix][Elasticsearch]修复添加列事件 @hailin0
- [Bugfix][Csv]修复 CSV 格式分隔符 @hailin0
- [Fix][Connector-V2]修复 Postgres CDC 使用 debezium_json 格式时无法解析没有小数位的数字的问题。 @FrommyMind
- [Fix]修复 DateUtils 无法解析带有本地时区的日期时间字符串的问题。 @Hisoka-X
- [Fix][Connector-V2]修复SqlServer中数据库名称含点号时创建表的问题 @Hisoka-X
- [Fix][MongoDB]Long 类型无法处理科学计数法表示的字符串值 @qifanlili
优化
- [improve]Qdrant选项 @liunaijie
- [Feature][Connector-V2]为DataHub使某些sink参数成为可选的 @jia17
- [Improve][connector-iceberg]修复架构更改事件 @CosmosNi
- [Feature][Connector-V2]支持TDengine的多表sink功能 @jia17
- [Feature][Connector-V2]Datahub 支持多表 Sink(写入多个表) @jia17
- [Doc][Improve] support chinese [docs/zh/connector-v2/source/Cloudberry.md]优化中文文档支持 @jia17
- [Doc][Improve] support chinese [docs/zh/connector-v2/source/Github.md]优化中文文档支持 @jia17
- [Improve][Zeta]添加日志以打印每个任务的执行位置 @CosmosNi
- [Feature][Transform]添加表格过滤转换 @hailin0
- [Feature][doc]修复md文档格式 @CosmosNi
- [Feature][Zeta]为Web UI支持基本身份验证 @CosmosNi
- [improve]派蒙选项 @liunaijie
- [improve]OpenMLDB 选项 @liunaijie
- [improve]Milvus选项 @liunaijie
- [improve]Neo4j 选项 @liunaijie
- [Improve]MaxCompute选项 @liunaijie
- [Improve]Kudu选项 @liunaijie
- [Improve][Doc]统一标题格式,并修复一些格式异常的文档。 @Hisoka-X
- [Feature][connector-elasticsearch]Elasticsearch 源支持 PIT(Point in Time) @CosmosNi
- [Feature][Zeta]在任务运行管理页面上格式化异常消息 @ocean-zhc
- [Improve][Doc]调整trim系列SQL函数的描述 @Hisoka-X
- [Improve][Connector-V2][Http]支持基于游标的分页 #9109 @Alberne
- [Feature][Transform]为 SQL 转换支持布尔类型 @hawk9821
- [Feature][Checkpoint]添加检查脚本来检测源/目标状态类中缺少 serialVersionUID。 @CosmosNi
- [Feature][Transform]支持定义 sink 列的类型 @hailin0
- [Improve][connector-doris]改进的德瑞斯来源枚举器为子任务分配算法的分割算法 @JeremyXin
- [Improve][seatunnel-engine-ui]改进正在运行的任务和已完成任务的排序 @ocean-zhc
- [Improve][Transform]更新元数据转换配置继承 @hailin0
- [Improve][Zeta]支持恢复执行保存模式 @hailin0
- [improve]更新文件连接器配置 @misi1987107
- [Improve][Doc]更新Kafka文档中的Kerberos部分 @Hisoka-X
- [Improve][Transform-V2]支持try_cast表达式 @corgy-w
- [Feature][Connector-V2]支持 GraphQL 连接器 #8557 @eyys
- [Improve][Connector-V2]优化JDBC中的方言选择 @corgy-w
其他
- [Doc][zh-CN]添加Jira连接器中文文档 @RongHaa
- [Feat][Connector-v2][Iceberg]在冰山来源中支持过滤条件 @litiliu
- [Chore]将 actions/cache@v2 升级到 actions/cache@v4 @hailin0
apache/seatunnel-website仓库
修复
- [Fix][Doc]修复连接器的链接 @rbowen
优化
- [Improve][Team]添加名为 Chao Wang 的提交者 @corgy-w