gohangout

使用 golang 模仿的 Logstash。用于消费 Kafka 数据,处理后写入 ES、Clickhouse 等。

MIT License

Stars
1K
Committers
22

Bot releases are hidden (Show)

gohangout -

Published by childe almost 5 years ago

  1. 增加了 jsonpath 的表达方式, 参考 #72
  2. Split Filter 中, Sep 配置可以使用动态内容 #71
  3. Elasticsearch 中的 hosts , 如果其中一个 host 失败多次, 会暂时剔除掉.
gohangout -

Published by childe almost 5 years ago

更新 Kafka Healer 库 到v0.1.1版本, 使用了新的join_group协议, 现在 rebalance 只要大概1秒完成, 之前需要30秒(默认配置)

详情见 https://github.com/childe/gohangout/issues/70

gohangout -

Published by childe almost 5 years ago

gohangout -

Published by childe almost 5 years ago

修复一些Bug
添加一些小 Feature

gohangout -

Published by childe over 5 years ago

  1. 启动时输出依赖库的版本信息
  2. 升级了一些依赖库 , 包括lz4, json-iterator, snappy
  3. 修复 if 条件表达式的解析BUG, 现在使用类似逆波兰方法解析 if 条件表达式
  4. 修复 if 条件表达式中可能因为某些字段为 nil 导致的程序崩溃问题
gohangout -

Published by childe over 5 years ago

修复 kafka producer bug.

gohangout -

Published by childe over 5 years ago

  1. 修复 https://github.com/childe/gohangout/issues/19
  2. 修复 Elasticsearch output 中因为临界资源没有锁好可能有的漏数据问题.
  3. 升级 healer, 解决 kafka producer中timer不更新的问题
gohangout -

Published by childe over 5 years ago

  1. 主进程收到 signal 时, 延时完所有善后事件, 不会直接调用 os.Exit. 否则会使 cpuprofile 失效.
  2. 更好的处理 input/output 里面的 Shutdown 事件, (尽量)避免 panic
  3. grok 中的 pattern_paths 可以使用目录
  4. 增加 Replacefilter
  5. 升级 kafka healer 库, 修复一些BUG.
  6. 添加 Dockerfile
gohangout -

Published by childe over 5 years ago

修复索引名字渲染, 以及其他一些Filter中渲染的问题, 比如现在可以

Date:
  src: '%{date} %{time}'

之前上传的bin文件有问题, 使用的kafka healer库有问题, 已经更新(覆盖)了.

gohangout -

Published by childe over 5 years ago

  1. 通过索引里面的字段设置索引名字 (https://github.com/childe/gohangout/issues/16)
  2. 增加了 TCP input/output
  3. 对两个聚合功能的 Filter 增加了 reduce 选项
gohangout -

Published by childe over 5 years ago

修复 kakfa lib 中, client.id 被更改的BUG: 如果用户没有定义client, 使用 group.id + hostname + timestamp, 如果用户定义了client.id, 则使用用户的定义.

gohangout -

Published by childe over 5 years ago

紧急修复 Output 里面的 if 条件不生效问题

gohangout -

Published by childe over 5 years ago

修复了一些BUG
重新引用了 Metric 等 Filter

TODO

  1. 结构还是很差, 多看看别人代码少闷头写, 后面重构下
  2. 配置可视化.
gohangout - 增加了多线程

Published by childe almost 6 years ago

运行时 -w 4 可以4线程处理.

gohangout -

Published by childe almost 6 years ago

我厚着脸皮推了一个 V1.0 版本 :)

gohangout - v0.0.1

Published by childe almost 6 years ago

发个第一版

gohangout -

Published by childe over 6 years ago

在Date Filter里面, 如果自定义时区, 遇到不能找到zoneinfo.zip的错误时, 参考:

The time zone database needed by LoadLocation may not be present on all systems, especially non-Unix systems. LoadLocation looks in the directory or uncompressed zip file named by the ZONEINFO environment variable, if any, then looks in known installation locations on Unix systems, and finally looks in $GOROOT/lib/time/zoneinfo.zip.

Package Rankings
Top 3.36% on Proxy.golang.org
Related Projects