news 2026/5/9 14:20:50

记一次flink任务因sink表被锁住而引发的flink雪崩问题

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
记一次flink任务因sink表被锁住而引发的flink雪崩问题

前段线上用户频繁反馈,flink任务运行一段时间就失败了。然后查看flink UI管理界面,发现整个taskmanager都挂了

问题分析

收集了用户flink日志,主要是taskmanager日志

image

发现非内存因素OOM的,而是自主退出的。

关键因素由于取消任务超时180s引起的,taskmanager误判服务异常,自主退出

接着跟踪日志,找到经过多次重试,尝试恢复任务的地方

第一次重试

image

第二次重试,刚好间隔60s

image

总共重试3次了。超过180s

taskmanager打印退出日志

排查到根因是因为mysql业务操作引起的sink表被锁住导致无法写入。

接着排查60s时间,询问客户发现配置的数据源的socketTimeout为60s,对于实时场景,该超时时间过大了。

解决方案

业务层面,告知用户flink实时任务,尽量保证链路的纯粹,不要因为类似操作影响实时性。

flink层面:默认180s取消任务超时时间适当调大一些,task.cancellation.timeout

数据源层面: socket超时时间,不要过长,不然容易引起任务线程IO阻塞等待过大,无法及时响应一些内部状态变更,从而引发雪崩。

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/5/1 8:01:09

ABAQU Sim连接器插拔力仿真——从新手到进阶

连接器插拔力abaqus CAE仿真,提供原仿真 3D模型,已经处理好的CAE文件 此模型整体难度中等,适合初学者和自己有点基础的abaqus学习者。ABAQU Sim 是一款强大的工具,特别适合进行复杂的仿真分析,比如连接器的插拔力分析。…

作者头像 李华
网站建设 2026/5/1 16:42:57

Linux软连接在Web开发中的5个实用场景

快速体验 打开 InsCode(快马)平台 https://www.inscode.net输入框内输入如下内容: 开发一个Web应用演示项目,展示Linux软连接在Web开发中的多种用途。包括:1. 使用软连接实现多版本PHP切换 2. 共享静态资源文件 3. 快速切换测试和生产环境配…

作者头像 李华
网站建设 2026/5/3 7:40:01

网络安全证书的含金量究竟有多高?

收藏!网络安全证书不是智商税:5张黄金认证助你敲开大厂门,避坑法则全解析 文章解析了网络安全证书的价值定位,强调其是行业"敲门砖"而非"智商税"。重点介绍了CISSP、CEH等5张高含金量认证及其优势&#xff0…

作者头像 李华
网站建设 2026/5/3 14:02:37

常见的五大网络安全模型

网络安全学习指南:五大核心安全模型详解实战资源包(强烈建议收藏) 文章详细介绍了网络安全的五大核心模型:基本模型、访问模型、PPDR模型、PDRR模型和MPDRR模型,阐述了各模型的组成要素和特点。同时提供了网络安全学习…

作者头像 李华
网站建设 2026/5/1 15:48:42

1小时搭建数据泄漏监控原型:快马平台实战

快速体验 打开 InsCode(快马)平台 https://www.inscode.net输入框内输入如下内容: 在InsCode平台快速开发数据泄漏监控原型,需求:1. 用户输入邮箱 2. 检查预设的模拟泄露数据库 3. 返回简单JSON结果 4. 基础前端展示 5. 可一键部署。使用Pyt…

作者头像 李华