大文件切分别只按字节切
bclavie · x · 2026-07-16
这条转述强调了一个常见工程误区:把大文件塞进 worker 时,很多人习惯按固定字节范围硬切。 但字节边界不理解语义,容易把一句话、表格甚至视频场景切断,导致检索质量变差。 核心意思是:**切分策略应该按内容结构和语义边界设计**,而不是只追求能装进 worker。
bclavie · x · 2026-07-16
这条转述强调了一个常见工程误区:把大文件塞进 worker 时,很多人习惯按固定字节范围硬切。 但字节边界不理解语义,容易把一句话、表格甚至视频场景切断,导致检索质量变差。 核心意思是:**切分策略应该按内容结构和语义边界设计**,而不是只追求能装进 worker。