我在之前的文章中讲到在某些特殊情况下会导致任务无法从 Savepoint 中恢复。下面来针对两个比较常见的故障场景进行分析: 故障情况1:未手工设置 uid,重启时任务中增加了新的算子 故障情况2:未手工设置 uid,重启时算子并行度发生了变化......
一、手工触发 Savepoint 1,准备任务 jar 包 (1)首先我们准备一个有状态的单词计数案例 (2)然后将其打包,并将生成的 jar 包上传到集群服务器中。 2,运行测试 (1)我们首先通过在终端运行如下命令来启动一个监听本地 9999 端口的 TCP socket......
一、基本介绍 1,什么是 Savepoint? (1)Checkpoint 是为了保证应用在出现故障时可以顺利重启恢复。而 Savepoint 是为了有计划的备份任务,实现任务升级后可恢复。 任务升级主要包括:增减并行度、调整业务逻辑、以及升级 Flink 版本时的任务迁移......
WebP 是一种高效的图像格式,但由于兼容性问题,某些场景可能需要将 WebP 转换为 JPG。本教程将介绍在苹果 Mac 系统上使用终端命令行工具来批量将一个文件夹内所有的 webp 格式图片转换为 jpg。 1,安装 WebP 工具 打开终端(Terminal)应用程序......
一、保存多个 Checkpoint 1,需求说明 (1)默认情况下,如果在任务中开启了 Checkpoint,则 Flink 只会保留最近成功生成的 1 份 Checkpoint 数据。当 Flink 程序故障重启时,可以从最近的这份 Checkpoint 数据来进行恢复。 (2)但有时我们希望能够保留多份 Checkpoint 数据......
本文我们结合合具体的案例来演示一下 Checkpoint 是如何对状态数据进行持久化保存。以及当任务故障后,我们又如何基于 Checkpoint 产生的数据进行恢复。 1,编写样例程序 (1)首先我们开发一个有状态的单词计数案例,并且在代码中开启 checkpoint......
三月头条:恐龙语言的反击 有趣的是,一些非常古老的编程语言正悄然进入 TIOBE 榜单的前 20 名。Fortran 和 Delphi 正在争夺前十名的位置,而 COBOL 和本月新上榜的 Ada 则排名稍低。不过,所有这些语言都呈现出上升趋势。这是为什么呢......
二、开启 Checkpoint 1,基本用法 (1)使用 enableCheckpointing 方法即可开启 Checkpoint: // 创建执行环境 val env = StreamExecutionEnvironment.getExecutionEnvironment // 每隔5000 ms执行一次Checkpoint(设置Checkpoint的周期......
Flink 是一个分布式的流处理引擎,而流处理的其中一个特点就是 7X24。为了保障 Flink 作业的持续运行。Flink 的内部会将应用状态(state)存储到本地内存或者嵌入式的 kv 数据库(RocksDB)中,由于采用的是分布式架构,Flink 需要对本地生成的状态进行持久化存储......
在远程服务器管理和开发运维中,一款高效、易用的 SSH 工具至关重要。目前老牌的 SSH 工具有 Xshell、Finalshell、MobaXterm、Putty 等,但这些工具或多或少都存在一些不足。 Xterminal 作为一款新兴的跨平台终端工具,凭借其 AI 赋能、功能集成和高颜值设计......