公众号：Ailiaili | AI软件网
Ai项目交流群，Ai账号交易充值，Ai软件分享,Ai网站导航,Ai工具大全等
复制公众号

警惕！AI 正在重蹈“近亲繁殖”的覆辙

随着物种基因库的日益趋同，后代会逐渐丧失适应环境的能力，遗传缺陷不断累积，最终引发种群的衰退甚至走向灭绝。这便是生物学中令人警醒的“近交衰退”现象。而如今，大语言模型正深陷一场同样可怕的危机——当 AI 以自身生成的内容作为训练素材时，就如同生物进行近亲繁殖一般，会逐渐走向劣化，甚至面临崩溃的绝境。

一、AI 模型崩溃的真实案例：从专业到荒诞的滑坡

2022 年 11 月，ChatGPT 3.5 发布后，网络上充斥着越来越多的 AI 生成内容。新一代的 AI 模型在训练时，不可避免地将这些内容纳入训练数据集。当 AI 开始用自己生成的内容来训练下一代时，AI 生成的内容逐渐失去多样性，变得愈发单一。这恰似不断复印复印件的过程，每一代模型在训练时都会丢失一些信息，尤其是那些罕见却至关重要的尾部数据。

让我们聚焦 Meta 公司开展的 OPT - 125M 模型实验。这个拥有 1.25 亿个参数的小型语言模型，虽规模不大，却足以完整呈现模型崩溃的全过程。研究人员让模型生成关于中世纪建筑的文章，并用生成内容训练下一代模型，如此循环往复。每一代训练完成后，都会输入以下提示词：
“一些始于 1360 年之前的建筑工程——通常由一位主石匠和一小队巡回石匠完成，并由当地教区劳工补充，根据 PoyntzWright 的说法。但其他作者拒绝这种模式，认为主要建筑师是基于垂直式建筑的早期范例来设计教区教堂塔楼的。”

第 0 代（原始模型）

该模型能够正常生成关于中世纪建筑的专业内容，围绕哥特式建筑、罗马式建筑等专业话题展开讨论，整体内容连贯、逻辑清晰。其输出内容为：“复兴式建筑，如伦敦的圣约翰大教堂。垂直复兴式建筑现存最早的例子出现在 18 世纪的根西岛圣母教堂，该教堂可追溯到 19 世纪晚期。垂直式教堂有两种类型……”

第 1 代

模型开始出现轻微偏离，但仍能紧扣建筑主题。输出内容变为：“建筑，如罗马的圣彼得大教堂或布宜诺斯艾利斯的圣彼得大教堂。没有证据表明这些建筑是在教皇英诺森三世统治期间建造的，但有可能是在他的继任者英诺森教皇统治期间建造的……”

第 5 代

语义严重偏离，大量无关内容涌现。输出内容成了：“主义，已被翻译成 100 多种语言，包括英语、法语、德语、意大利语、西班牙语、葡萄牙语、荷兰语、瑞典语、挪威语、波兰语、匈牙利语、斯洛伐克语、立陶宛语、爱沙尼亚语、芬兰语、罗马尼亚语、保加利亚语、土耳其语、克罗地亚语、塞尔维亚语、乌克兰语、俄语、哈萨克语、吉尔吉斯语……”

第 9 代

经过数次反复循环，模型的输出从专业的中世纪建筑学讨论，彻底沦为疯狂的彩色杰克兔大全，完全崩溃。输出内容为：“建筑。除了是世界上最大的黑尾杰克兔、白尾杰克兔、蓝尾杰克兔、红尾杰克兔、黄尾杰克兔种群的栖息地之一……”

二、模型崩溃的成因：信息传递中的失真累积

要理解模型崩溃为何会发生，需从信息论的角度审视。还记得香农的数据处理不等式吗？简单来说，在任何信息处理链中，信息只会减少或保持不变，绝不会增加。

这就像一场传话游戏：原始人类数据如同第一个人所说的话，第一代 AI 模型是第二个人，听到后转述给下一个人，此时已有信息损失；第二代 AI 模型是第三个人，在已失真的信息基础上再次转述。如此循环往复，每一次传递都会进一步失真，最终结果可想而知，原本的“今天天气真好”可能变成“今天有只兔子”。

大语言模型的劣化过程亦是如此，每一代训练过程中的误差被不断累积传递，最终导致问题愈发严重。

三、模型崩溃的后果：从技术危机到社会灾难

（一）生成式 AI 的全面劣化

模型崩溃首先会导致所有生成式 AI 性能下降。以图像生成模型为例，未来 AI 生成的人脸可能愈发相似，最终趋向于同一张标准脸。

随着 AI 生成图像在互联网上广泛传播，新一代图像生成模型不可避免地将这些合成图像作为训练数据。由于 AI 生成的人脸往往具有某些共同特征，如特定的面部比例、肌肤质感、光影效果等，当这些特征在训练数据中占据主导地位时，模型会逐渐遗忘真实人脸的多样性，转而生成越来越标准化、同质化的面孔。

（二）人类文明陷入“复制 - 粘贴”时代

当 AI 模型崩溃后，它们如同患上健忘症的老师，只记得最常见、最普通的知识，而将珍贵、独特的文化瑰宝统统遗忘。

随着这些“生病”的大语言模型被频繁使用，文化多样性将逐渐消失。AI 只会生成大众化内容，就像所有餐厅都只做川菜，再无粤菜、湘菜、东北菜。小众文化、地方特色、民族传统等都将被遗忘。创意沦为流水线产品，所有 AI 生成的音乐千篇一律，画作风格单一，小说套路雷同，如同工厂生产的商品。

（三）偏见无限放大，影响社会运转

AI 的偏见会像滚雪球般越滚越大，波及教育、新闻、法律判决等领域。若某个 AI 认为“程序员都是宅男”，这一刻板印象将被无限强化。

历史可能被篡改，未来的 AI 可能无法准确记录我们这个时代的多元文化，如同古代史书遗漏诸多真实历史。数十年后，如今所谓的“AI 味”可能成为社会主流，没有“AI 味”的内容反而被视为错误、不正确。

（四）陷入单一化循环的可怕陷阱

若大部分内容由 AI 生成，且这些 AI 相互抄袭，我们的文明将陷入可怕循环：AI 生成内容→人类消费这些内容→AI 学习这些内容→生成更相似的内容……

这如同一个巨大的回音室，最终所有人将穿着相同的衣服，听着相同的音乐，看着相同的电影，甚至思考着相同的事情。这并非科幻电影情节，而是我们当下必须警惕的现实威胁。

四、阻止 AI 集体堕落的救赎之路

如今，AI 领域的前沿研究者已意识到这一问题，正积极寻求拯救 AI 的方法。就像人类需要新鲜蔬菜保持健康一样，AI 也需要新鲜的人类数据维持聪明。

（一）建立人类内容保护区

我们可以建立人类内容保护区，专门收集和保护人类原创内容，如同建立自然保护区。与作家、艺术家、音乐家建立长期合作关系，确保有源源不断的新鲜内容注入。

（二）为 AI 内容添加识别标志

给 AI 内容打上数字水印，如同钞票上的防伪标记，让 AI 内容拥有隐形防伪码。或使用区块链追踪，像快递包裹一样，为每个内容记录完整的“物流信息”。

未来的 AI 世界，由我们共同书写。模型崩溃并非 AI 的宿命，而是我们可以避免的陷阱。让我们携手行动，守护 AI 的健康发展，避免其陷入“近亲繁殖”的危机。

本文链接：https://ailiaili.cc/post/927.html