1,HDFS 的起源 (1)HDFS 源于 Google 在 2003 年 10 月份发表的论文 The Google File System(GFS),它其实就是 GFS 的一个开源简化版本。 (2)HDFS 属于 Hadoop 项目中的核心组件,主要负责海量数据存储。 (3)Hadoop 重要版本的发展历程如下,目前在企业中常用的版本是......
消息队列(Message Queue)是一种异步服务到服务的通信方式,通过队列存储和转发消息。它在分布式系统中起着至关重要的作用,广泛用于实现异步处理、削峰填谷、系统解耦等功能。下面整理了一些常见的关于消息队列,特别是 Kafka 的面试题......
在大数据处理领域,Hadoop 分布式文件系统(HDFS)是一个核心组件,负责存储和管理大规模数据集。本文将介绍如何在 Spring Boot 项目中整合 Hadoop 客户端,并展示具体的 HDFS 操作样例。 1,准备工作 (1)在 Spring Boot 项目的 pom.xml 文件中添加 Hadoop 客户端的依赖......
1,问题描述 有时新购买的电脑带的是未激活的 Office,或者当我们使用微软官方的安装包安装 Office 后,如果没有密钥进行激活,窗口上方会显示“产品通知 Word 未激活。若要无中断地继续使用 Word,请在 XXXX 年 XX 月 XX 日之前激活。”提示。 2,免费激活方法......
1,问题描述 (1)我在之前写过文章介绍如何使用 VSCode 实现远程开发: VSCode - 实现远程开发教程(远程编辑服务器文件,远程执行命令) (2)但是每次进入服务器文件夹都需要输入密码略显麻烦......
我在之前的文章中介绍了如何使用 VSCode 连接远程 linux 服务器进行远程开发,而服务器在连接时会自动下载并安装 vscode server。但如果服务器是在内网环境,无法连接外网,那么就会导致安装失败,无法进行远程开发。 为了解决这一问题,我们可以采用手动方式安装 vscode serve......
1,CMAK 介绍 (1)CMAK 是目前最受欢迎的 Kafka 集群管理工具,最早由雅虎开源(原名为 KafkaManager) (2)通过 CMAK 用户可以在 Web 界面上操作 Kafka 集群可以轻松检查集群状态(Topic、Consumer、Offset、Brokers、Replica、Partition) 2,下载安装包......
1,问题描述 最近想使用 Chrome 的开发者工具(DevTools)的控制台(Console)进行 JSON 数据格式化, 当我将字符串粘贴进来后就报如下错误: Warning: Don’t paste code into the DevTools Console that you don’t understand or haven’t reviewed......
1,问题描述 最近在 Intellij IDEA 上安装了个 Big Data Tools 大数据插件,当连接服务器上的 HDFS 时报如下错误: IllegalStateException: HADOOP_HOME is not defined. On Windows you should have the HADOOP_HOME environment variable defined......
Kafka 本身使用了很多手段来保证高性能,包括零拷贝、page cache(页缓存)、顺序读写、分区分段与索引、批量处理、压缩。其中零拷贝和顺序读写最重要。下面我将分别进行介绍。 一、零拷贝技术 1,什么是零拷贝? (1)零拷贝(zero copy)是中间件广泛使用的一个技术......