你删掉的"重复"数据,可能是AI最需要的训练素材
去重 = 识别"同一件事的不同讲法"
你是不是也这样——发现训练数据里有三句差不多的话,果断删掉两句?
恭喜你,你可能把最有价值的数据删掉了。
🌱 一幅漫画的启示
想象一部热血少年漫画的同一场战斗:
台词:"我要赢!"
台词:"没有人能阻止我!"
台词:"这是我的……最后一击!"
三个分镜,激烈程度依次递增——但它们都在说同一件事:
"主角下定决心,全力以赴"
简单去重会怎么做?
→ 删掉两个,剩一个 ❌
但这三种"讲法"都是不同的表达强度:
① 是克制型决心 ③ 是破釜沉舟式爆发
删掉任何一张,AI就学不到"如何描写不同烈度的决心"——数据质量反而下降。
🌿 二、语义去重的真正逻辑
| 维度 | 表面去重 ❌ | 语义去重 ✅ |
|---|---|---|
| 识别对象 | 相同文件 | 等价信息 |
| 判断方式 | "这句话我见过,删!" | "这句话背后的意思我已经有足够表达了,删!" |
| 核心问题 | 只看形式,不看内容 | 看内容够不够丰富 |
具体例子:训练数据中的重复表达
A. "他冷冷地看着她。"
B. "他的目光如刀锋般锐利。"
C. "他没说话,眼神却让人后背发凉。"
表面去重:保留A,删B、C
语义去重:三条都保留——它们是同一情绪的不同表达强度
🌳 三、漫画思维的应用
同一个人物、同一个场景——
不同角度 = 不同信息量
不同情绪烈度 = 不同的表达风格
AI训练需要的不只是"正确答案",
还需要"正确答案的不同讲法"。
这就像教小孩认猫:
不能只给他看一只猫的照片,
要给他看不同品种、不同姿势、不同光线下的小猫。
🎨 漫画思维 × 数据工程 · 每周一更新
关注我,看更多AI × 创作的人话解读