、KeyedState 样例 1:MapState 实现直播间数据统计 1,需求说明 大致需求是这样的,需要统计平台中每个主播在直播间内收到的礼物信息、点赞、关注等指标,以直播间为单位进行统计。 2,实现逻辑 (1)由于用户每次开播都会生成一个新的直播间 vid.......
一、KeyedState 样例 1:使用 ValueState 实现温度告警 1,需求说明 大致需求是这样的,某机房内的多个设备会实时上报温度信息,在 Flink 任务内部需要对设备最近两次的温度进行对比,如果温差超过了 20 度,则需要发送告警信息,说明设备出问题了......
一、基本介绍 1,什么是 State? (1)在流式计算中,State(状态)用于保存任务的中间数据或上下文信息。状态可以帮助任务跟踪事件间的依赖关系,从而实现复杂的业务逻辑,例如聚合、窗口计算或故障恢复。 (2)下图里面显示了 Flink 在对金融数据实现实时累加求和时的业务场景......
我在之前的文章中讲到在某些特殊情况下会导致任务无法从 Savepoint 中恢复。下面来针对两个比较常见的故障场景进行分析: 故障情况1:未手工设置 uid,重启时任务中增加了新的算子 故障情况2:未手工设置 uid,重启时算子并行度发生了变化......
一、手工触发 Savepoint 1,准备任务 jar 包 (1)首先我们准备一个有状态的单词计数案例 (2)然后将其打包,并将生成的 jar 包上传到集群服务器中。 2,运行测试 (1)我们首先通过在终端运行如下命令来启动一个监听本地 9999 端口的 TCP socket......
一、基本介绍 1,什么是 Savepoint? (1)Checkpoint 是为了保证应用在出现故障时可以顺利重启恢复。而 Savepoint 是为了有计划的备份任务,实现任务升级后可恢复。 任务升级主要包括:增减并行度、调整业务逻辑、以及升级 Flink 版本时的任务迁移......
WebP 是一种高效的图像格式,但由于兼容性问题,某些场景可能需要将 WebP 转换为 JPG。本教程将介绍在苹果 Mac 系统上使用终端命令行工具来批量将一个文件夹内所有的 webp 格式图片转换为 jpg。 1,安装 WebP 工具 打开终端(Terminal)应用程序......
一、保存多个 Checkpoint 1,需求说明 (1)默认情况下,如果在任务中开启了 Checkpoint,则 Flink 只会保留最近成功生成的 1 份 Checkpoint 数据。当 Flink 程序故障重启时,可以从最近的这份 Checkpoint 数据来进行恢复。 (2)但有时我们希望能够保留多份 Checkpoint 数据......
本文我们结合合具体的案例来演示一下 Checkpoint 是如何对状态数据进行持久化保存。以及当任务故障后,我们又如何基于 Checkpoint 产生的数据进行恢复。 1,编写样例程序 (1)首先我们开发一个有状态的单词计数案例,并且在代码中开启 checkpoint......
三月头条:恐龙语言的反击 有趣的是,一些非常古老的编程语言正悄然进入 TIOBE 榜单的前 20 名。Fortran 和 Delphi 正在争夺前十名的位置,而 COBOL 和本月新上榜的 Ada 则排名稍低。不过,所有这些语言都呈现出上升趋势。这是为什么呢......