二、开启 Checkpoint 1,基本用法 (1)使用 enableCheckpointing 方法即可开启 Checkpoint: // 创建执行环境 val env = StreamExecutionEnvironment.getExecutionEnvironment // 每隔5000 ms执行一次Checkpoint(设置Checkpoint的周期......
Flink 是一个分布式的流处理引擎,而流处理的其中一个特点就是 7X24。为了保障 Flink 作业的持续运行。Flink 的内部会将应用状态(state)存储到本地内存或者嵌入式的 kv 数据库(RocksDB)中,由于采用的是分布式架构,Flink 需要对本地生成的状态进行持久化存储......
在远程服务器管理和开发运维中,一款高效、易用的 SSH 工具至关重要。目前老牌的 SSH 工具有 Xshell、Finalshell、MobaXterm、Putty 等,但这些工具或多或少都存在一些不足。 Xterminal 作为一款新兴的跨平台终端工具,凭借其 AI 赋能、功能集成和高颜值设计......
当使用 Flink ON YARN 模式提交任务时,我们会发现 flink 任务停止之后就无法再查看 flink 的 web 界面了,这样也就无法查看历史任务的执行信息。这是因为这个 flink 任务停止之后,对应的那个 yarn-session(Flink 集群)也就停止了。我们使用 Spark 的时候其实也遇到过这种问题......
在实际工作中,当 Flink 代码开发完成并在本地调试完毕后,需要将其打包提交到集群中执行。前文我介绍了如何将任务提交到 Standalone 模式的集群上。在而生产环境下通常采用 on yarn 这种模式比较多,因为这样可以综合利用集群资源。此时就需要安装一个 Flink 客户端用于向集群提交任务......
1,问题描述 (1)使用苹果电脑时,当我们通过系统自带工具截图后,会发现图片尺寸比实际截图尺寸大一倍。比如截取的区域大小是 200*100,最后生成的截图的大小确是 400*200,整整大了一倍。 (2)这是由于在 Retina 显示屏上进行截图引起的......
一、Standalone 模式介绍 1,基本介绍 (1)Flink 的 Standalone 模式 是 Flink 集群的一种部署方式,特点是独立运行在一组物理或虚拟机上,无需依赖外部的资源管理框架(如 Hadoop YARN 或 Kubernetes)。 (2)在这种模式下,用户需要手动配置集群中的各个节点......
一、基本介绍 1,什么是 parallelism(并行度)? (1)一个 Flink 程序由多个组件组成(Source、Transformation 和 Sink)。 一个组件由多个并行实例(线程)来执行, 一个组件的并行实例(线程)数目就被称为该组件的并行度。 (2)举两个例子 比如 kafka 某个 topic 数据量太大......
在日常的工作和学习过程中,图表(如流程图、思维导图、ER 图等)是梳理逻辑、呈现信息的重要工具。通常来说,我们会使用 Visio 等专业图表软件进行绘制,但由于其价格昂贵、操作复杂,并且不支持苹果 macOS 系统,让许多用户望而却步。这里我推荐一款完全免费、功能强大且零门槛的在线工具......
一、功能说明 1,整体架构介绍 (1)下面是一个某电商网站数据大屏整体架构: 当用户在 PC 或 App 上提交一个订单后,业务系统会通过日志的方式记录这条订单的相关数据。 使用 Filebeat 这个日志采集工具采集前端业务机器上的日志数据。这里采集的日志数据其实就是用户的订单数据......