研究证明低质量数据正在“毒害”AI大脑

▫️问题发现 最新研究实锤⚠️ 持续给大模型喂食低质量网络文本 会导致严重的“脑腐烂”症状！ （LLM Brain Rot假说首次验证）
▪️核心证据 4个主流大模型实验显示：
🔻推理能力暴跌
ARC挑战赛得分从74.9跌至57.2
长文本理解得分从84.4骤降到52.3
🔻安全性显著恶化 🔻思维链断裂 模型越来越爱“跳步骤”思考
▫️关键洞察
1️⃣ 数据毒性效应 垃圾数据比例每增加10% 模型认知能力就下降一个台阶
2️⃣ 恢复困难症 即使用干净数据补救 也无法完全恢复原始能力
3️⃣ 流行度陷阱 网红推文比长文本更具破坏性
论文链接：https://arxiv.org/pdf/2510.13928
感觉Anthropic团队最近增加了模型安全的研究，另一篇论文也提到过。只要250篇注入了“毒性”的论文就可以导致不管多大参数的模型出现安全漏洞，可以利用关键提示词导致数据泄露、系统后门开放。#学术 #研究报告 #机器学习 #数据科学 #人工智能未来 #大模型 #AI安全 #数据质量 #大模型训练 #数据标注