" />
首页
时间轴
复制地址
文章分类
复制内容
百度搜索
警告:即将离开本站
点击"继续"将前往其他页面,确认后跳转。
继续
取消
首页
学习笔记
工作记录
分类
时间轴
留言板
友链
关于
项目
跑的比公交车快
累计撰写
19
篇文章
累计创建
2
个标签
累计收到
0
条评论
栏目
首页
学习笔记
工作记录
分类
时间轴
留言板
友链
关于
项目
目 录
CONTENT
以下是
dengdz
的文章
使用 yuque-dl 下载语雀知识库
在日常工作和学习中,我们经常会使用语雀来管理和分享知识库。然而,有时我们需要将语雀知识库下载到本地,以便离线查看或备份。yuque-dl 是一个非常方便的工具,可以帮助我们轻松实现这一目标。下面将详细介绍如何使用 yuque-dl 下载语雀知识库。 前提条件 在使用 yuque-dl 之前,请确保你
2025-02-10
17
0
0
分布式算法面对脑分裂(Split-brain)问题
脑分裂(Split-brain)问题是指在分布式系统中,网络分区或节点故障导致集群中的不同子集失去通信,从而各自独立运行,形成多个相互不一致的“脑”或“主控”节点。每个分区中的节点都认为自己是集群的主节点,产生了不同的决策或操作,导致数据的不一致,甚至是冲突的结果。 1. 脑分裂的发生场景 脑分裂通
2025-01-10
56
0
0
Zookeeper
Paxos、Raft 和 ZAB 分布式算法
1. Paxos 算法 1.1. 核心思想: Paxos 是一种分布式一致性算法,它的提出就是为了解决多个节点之间就某个值达成一致的问题,即保证分布式系统中的多个副本能够对同一值进行一致的决策。Paxos 的基本步骤包括: 提议阶段(Propose): 提议者(Proposer)选择一个提案编号,并
2025-01-10
21
0
0
Zookeeper
自定义KafkaLogAppender搭建日志管理分析系统
1. 项目背景 在生产环境中,我们的 Flink 应用程序运行过程中遇到了以下日志管理难题: 日志体量大 程序长期运行产生海量日志 单个日志文件过大,难以获取和分析 存储和检索效率低下 日志检索困难 缺乏有效的检索机制 错误定位耗时 系统监控不及时
2025-01-02
23
0
0
Spark
Flink
SQL统计每天的变化量和累计值
1. 背景 今天业务提出了一个小需求,希望查看舆情事件中涉及的预警事件,近几日内作品量和触达量的变化曲线 2. 基础数据
2024-12-18
27
0
0
使用Apache Commons Exec扩展Java外部执行进程
在我当前的项目中,有一些场景需要在 Java 程序中调用外部命令和脚本,例如执行一些系统维护脚本、调用 Python 脚本或者 Go 脚本进行数据处理等。使用 Java 自带的 Runtime.exec() 或 ProcessBuilder 来执行这些命令通常很麻烦(日志打印、参数传递、进程管理等)
2024-12-18
31
0
0
Flink SQL(二)
1. 底层实现 Flink通过Apache另一个开源项目calcite作为SQL解析器将SQL语句解析为AST,最终转换为Flink的执行逻辑。核心流程包括: SQL 解析与验证 逻辑计划生成 查询优化(RBO 和 CBO) 物理计划生成 任务执行与调度
2024-12-16
32
0
0
Flink
Flink基础(一)
1. Flink基础 1.1. 架构 JobManager和TaskManager组成 TaskManager中最小的资源调度单元是task slot 1.2. 运行模式 Standalone Yarn Session:先启动flink集群常驻yarn,
2024-12-16
14
0
1
Flink
frp客户端&服务端设置
1. 简介 frp 是一个专注于内网穿透的高性能的反向代理应用,支持
2024-12-04
50
0
1
Linux
Flink异步I/O提高维度关联效率
在本人当前项目架构中有多个Flink作业需要在数据处理过程中查询并关联HBase中的数据。由于对最终的结果展现有时间上的要求,所以引出了本次关于HBase外部数据系统的查询方面的优化。 1. 同步I/O 传统情况下Flink查询HBase时是同步I/O连接。在查询a和b两条数据时,只有a的请求发送到
2024-12-02
20
0
1
HBase
Flink
1
2