首页
注册
登录
V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请
登录
›
Elasticsearch 参考文档
›
Elasticsearch: The Definitive Guide
›
elasticseaerch-analysis-ik
V2EX
›
Elasticsearch
logstash 同步数据重复问题
voidxx
·
2020 年 5 月 9 日
· 3025 次点击
这是一个创建于 2072 天前的主题,其中的信息可能已经有所发展或是发生改变。
logstash 同步 mysql 增量数据到 elasticsearch,除了把 mysql 的主键 id 赋值给 index.document_id 外,有没有其它办法避免数据重复的问题。
如果只有这种办法,那 mysql 的自增 id,对于 es 的文档索引效率等有什么影响吗?
MySQL
logstash
主键
重复
4 条回复
•
2020-05-13 17:08:29 +08:00
1
Navee
2020 年 5 月 13 日
新增文档赋值 id 的话写入会非常的慢,但也只有这一种办法能完全避免重复数据了
还有一种不靠谱的方式是自己写一个同步程序,记录每次同步的最新 id,一定程度上能避免重复
2
voidxx
OP
2020 年 5 月 13 日
@
Navee
#1 多谢。看了些视频教程,确实也只有这个方法,但都没说对性能的影响,猜测可能影响不会很大吧。
3
Navee
2020 年 5 月 13 日
@
voidxx
影响非常的大
4
voidxx
OP
2020 年 5 月 13 日 via iPhone
@
Navee
好的,但只影响写入,不影响查询的话,还能接受吧
关于
·
帮助文档
·
自助推广系统
·
博客
·
API
·
FAQ
·
Solana
·
2633 人在线
最高记录 6679
·
Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 30ms ·
UTC 02:56
·
PVG 10:56
·
LAX 18:56
·
JFK 21:56
♥ Do have faith in what you're doing.
❯