插入数据报错:getSegmentID failed: SegmentIDAllocator failRemainRequest err:etcdserver: request timed out #45737
Replies: 3 comments 2 replies
-
|
像是etcd扛不住了,etcd要跑在NVME的高性能盘上,不然在大量插入数据时对etcd请求密集导致超时,etcd请求超时太多的话milvus很可能挂掉。 |
Beta Was this translation helpful? Give feedback.
-
|
第一次出问题后,第二次插入过程中重点观测了一下磁盘io,因为我的磁盘确实性能不高,所以就怀疑这块的问题。 我目前是批量插入的,一次操作1000条,我看了一下几个月前的操作,也是同样的数据,但是没有报错。所以针对这个情况有什么好的建议吗?
另外,就是我上面提到的磁盘占用问题,我几个月前曾观察到这样的现象:#41935 |
Beta Was this translation helpful? Give feedback.
-
|
Hi, I am Humphrey O. Founder and Team Leader of Red Waters Group. |
Beta Was this translation helpful? Give feedback.
Uh oh!
There was an error while loading. Please reload this page.
Uh oh!
There was an error while loading. Please reload this page.
-
我这边打算插入大约1.5亿条数据到milvus,插入到中途时,遇到了 getSegmentID failed: SegmentIDAllocator failRemainRequest err:etcdserver: request timed out 的错误,我重新试了一下,依旧有这个错误,想咨询一下这个一般怎么解决呢?
而且发现另一个情况,即插入数据过程中磁盘占用数据(df -h)并没有变化,都无法判断数据是否真的插入进去了,后来通过少量数据测试才确认确实插入进去了。我记得之前使用milvus的时候,在插入数据过程中的磁盘占用会剧烈提升,然后插入结束后的一段时间逐渐恢复正常
milvus: v2.5.10
sdk: pymilvus 2.5.8
Beta Was this translation helpful? Give feedback.
All reactions