" />
首页
时间轴
复制地址
文章分类
复制内容
百度搜索
警告:即将离开本站
点击"继续"将前往其他页面,确认后跳转。
继续
取消
首页
学习笔记
工作记录
分类
时间轴
留言板
友链
关于
项目
跑的比公交车快
累计撰写
19
篇文章
累计创建
2
个标签
累计收到
0
条评论
栏目
首页
学习笔记
工作记录
分类
时间轴
留言板
友链
关于
项目
目 录
CONTENT
以下是
工作记录
相关的文章
自定义KafkaLogAppender搭建日志管理分析系统
1. 项目背景 在生产环境中,我们的 Flink 应用程序运行过程中遇到了以下日志管理难题: 日志体量大 程序长期运行产生海量日志 单个日志文件过大,难以获取和分析 存储和检索效率低下 日志检索困难 缺乏有效的检索机制 错误定位耗时 系统监控不及时
2025-01-02
26
0
0
Flink
Spark
SQL统计每天的变化量和累计值
1. 背景 今天业务提出了一个小需求,希望查看舆情事件中涉及的预警事件,近几日内作品量和触达量的变化曲线 2. 基础数据
2024-12-18
28
0
0
使用Apache Commons Exec扩展Java外部执行进程
在我当前的项目中,有一些场景需要在 Java 程序中调用外部命令和脚本,例如执行一些系统维护脚本、调用 Python 脚本或者 Go 脚本进行数据处理等。使用 Java 自带的 Runtime.exec() 或 ProcessBuilder 来执行这些命令通常很麻烦(日志打印、参数传递、进程管理等)
2024-12-18
36
0
0
Flink异步I/O提高维度关联效率
在本人当前项目架构中有多个Flink作业需要在数据处理过程中查询并关联HBase中的数据。由于对最终的结果展现有时间上的要求,所以引出了本次关于HBase外部数据系统的查询方面的优化。 1. 同步I/O 传统情况下Flink查询HBase时是同步I/O连接。在查询a和b两条数据时,只有a的请求发送到
2024-12-02
26
0
1
HBase
Flink
SQL转Elasticsearch的DSL
此前分享了通过引入外部的 GO 程序来实现 SQL 到 DSL 的转换的文章,然而在后续测试过程中发现部分条件的转换仍有问题,例如不支持 IS 和 IS NOT。所以在这段时间,决定自行编写一个更为完善的转换工具以支撑自身项目。
2024-12-02
28
0
0
Elasticsearch
Linux/home空间扩充到根目录
当Linux中系统中磁盘空间不足时需要对磁盘进行扩充或者挂载新的磁盘,但是当没有多余磁盘挂载时,可以通过将磁盘空间充裕的分区进行压缩,将多余出的空间分配给需要扩充的分区,本篇完成了将/home空间分配给根目录。 1. 检查当前磁盘状态 df -h 可以看到根目录才50G已经用完了,但是/home共1
2024-12-02
25
0
1
Linux