📱 公众号移动端预览(375px)· 所见即所得

你删掉的"重复"数据,可能是AI最需要的训练素材

💡 核心洞察
去重 ≠ 删重复
去重 = 识别"同一件事的不同讲法"

你是不是也这样——发现训练数据里有三句差不多的话,果断删掉两句?

恭喜你,你可能把最有价值的数据删掉了。

🌱 一幅漫画的启示

想象一部热血少年漫画的同一场战斗:

分镜 ① — 克制型决心
画面:主角握拳,指节发白
台词:"我要赢!"
分镜 ② — 爆发前夜
画面:主角怒吼,青筋暴起
台词:"没有人能阻止我!"
分镜 ③ — 破釜沉舟
画面:主角出拳,慢镜头特写
台词:"这是我的……最后一击!"

三个分镜,激烈程度依次递增——但它们都在说同一件事:

"主角下定决心,全力以赴"

简单去重会怎么做?

→ 删掉两个,剩一个 ❌

但这三种"讲法"都是不同的表达强度:
① 是克制型决心 ③ 是破釜沉舟式爆发

删掉任何一张,AI就学不到"如何描写不同烈度的决心"——数据质量反而下降。


🌿 二、语义去重的真正逻辑

维度表面去重 ❌语义去重 ✅
识别对象相同文件等价信息
判断方式"这句话我见过,删!""这句话背后的意思我已经有足够表达了,删!"
核心问题只看形式,不看内容看内容够不够丰富

具体例子:训练数据中的重复表达

A. "他冷冷地看着她。"
B. "他的目光如刀锋般锐利。"
C. "他没说话,眼神却让人后背发凉。"

表面去重:保留A,删B、C
语义去重:三条都保留——它们是同一情绪的不同表达强度


🌳 三、漫画思维的应用

同一个人物、同一个场景——
不同角度 = 不同信息量
不同情绪烈度 = 不同的表达风格

AI训练需要的不只是"正确答案",
还需要"正确答案的不同讲法"。

这就像教小孩认猫:
不能只给他看一只猫的照片,
要给他看不同品种、不同姿势、不同光线下的小猫。

🎨 漫画思维 × 数据工程 · 每周一更新
关注我,看更多AI × 创作的人话解读

说明:渐变/阴影等公众号不支持的样式已退化为兼容写法。点击「复制全文」后,到公众号编辑器 Ctrl+V 即可。