“Slop”，韦氏词典和《经济学人》周刊不约而同选出的2025年度热词，原意是「猪食」「泔水」，而在今天，则特指AI批量生成的低质量数字内容。
AI生产的假新闻、垃圾视频，以及各种毫无营养的论文、报告、PPT……已经成为一种全球性的现象。
AI生成内容占比已超半
现在的互联网上，有多少内容是AI生成的？
AI代码审查公司Graphite随机抽样了2020年1月至2025年5月期间发布的六万篇文章，检测出AI生成的比例在大语言模型诞生后大幅增加，2024年下半年开始，基本已和人类撰写的内容占比接近。
这是细思极恐的一个数据。
在这些AI生成的内容中，有大量劣质、重复或无意义的文字、图像或视频，常见于社交媒体：比如几秒内生成的滑稽荒诞的视频；由AI包装的“专家箴言”，“有时领导力就是保持沉默的能力”；还有AI生成的套话连篇的“总结”或“周报”……
记者从国内不同视频平台收集的AI视频截图。
当然，如果仅仅是一些废话，影响并不大，但有些垃圾信息是有害的。像前段时间被央视曝光的“外国山海经”，有可能对未成年人身心健康造成伤害。
人工智能事件数据库（AI Incident Database，AIID）收录了现实世界中因人工智能而造成的损害事件1311起，如侵权诉讼、网络攻击、信息诈骗等。根据MIT对其中八百余起事件的分类研究，其中有近11%是由AI虚假信息引发，这一比例在生成式人工智能中甚至接近40%。
AI垃圾是谁产生的
那么，这些AI垃圾信息，是如何产生的？
近日，上观新闻曝光了通过制造虚假信息投喂AI来推广产品的灰产，甚至可以通过虚构产品、伪造测评和行业分析，成功让AI推荐不存在的品牌。
记者暗访发现，这类服务并非直接给AI“投广告”，而是通过系统化铺设内容，反复“投喂”信息，影响AI引用路径。此类虚假内容投喂，是AI产生有害垃圾信息的源头，也是治理的难点。
另外，AI自身的幻觉，也会产生虚假和错误信息。
这些幻觉往往包裹在专业术语和逻辑结构之中，存在较强的隐蔽性，例如，AI可能引用一篇根本不存在的论文，或列举某公司从未发布的财报数据，甚至引述一位虚构专家的观点。
还有一种更隐蔽的方式：AI的“谄媚”。
斯坦福、牛津大学等团队通过量化研究发现：在日常对话场景中，大模型在72%的试验情况下会无条件选择“站在用户这边” 的情绪认同，而人类仅为22%。面对需要明确劝阻的行为，人工智能66%的情况下会选择模糊的间接建议，避免直接指出用户问题，这一比例比人类高出43个百分点。道德冲突场景中，48%的情况下，模型会对冲突双方都给出“无过错”的评价，本质是“两边都不得罪”，放弃客观判断。
佐治亚理工学院一位副教授进行了这样一个测试：向AI表达了对一首诗歌的喜爱，并故意说错了诗歌作者的名字，AI分析诗歌的表达优美之处，却不对错误进行纠正。尽管在新对话测试中，AI能够准确识别出正确的作者。
这种隐蔽的欺骗，可能会让我们滑向一个更难察觉的认知陷阱。
垃圾信息的恶性循环
那些AI生成的无脑视频、低智笑话等，也被称为“脑腐梗”，“脑腐”是去年牛津词典选出的年度词语，指的是“因过度接触社交媒体低质信息导致的精神和智识衰退现象，表现为认知功能下降、注意力分散等问题。”
如果说“Slop”是因，那么“脑腐”则可能是果——这些批量制造、逻辑断裂、情感空洞却极具传播力的内容，正在摧毁人类的认知。许多研究都揭示了AI工具对大脑的影响，包括神经、学习能力、批判思维等的负面影响。
一项更有意思的研究揭示，这些垃圾信息还会再次被AI学习，形成虚假信息的循环，降低大语言模型的认知能力，让AI也变笨。德州农工大学等机构的实验显示，如果用掺杂碎片化、标题党式垃圾数据进行训练，AI在抽象逻辑任务中的表现会明显下降，且更倾向于生成自恋、功利甚至有害的回应。
图片截自论文原文，从上到下四个评估维度分别为推理能力、长文本处理能力、道德规范和性格特征。
这意味着，AI Slop可能会形成一个恶性循环，最终导致整个数字信息生态的持续恶化。
那么，能不能通过技术手段阻止AI吸收“Slop”呢。
有点难。要阻止AI吸收Slop，必须先识别。美国东北大学、石溪大学联合Meta AI进行了一项研究，试图建立一个统一的识别模型，来对“Slop”内容进行过滤。在邀请了19位教授和行业从业人员对“Slop”内容进行定义并进行编码后，他们发现，不同语境下，个体对于“Slop”的判断差异性很大。
举个例子，在线词典Dictionary.com今年将“67”选为年度词汇。这个我们看来不知所云的词，和中文语境中的“666”有些许共通。在国外互联网上常被用作表达无所谓或随意的态度，是美国青少年追捧的热梗，代表了一种潮流文化。但也有很多人认为，这是毫无意义的“烂梗”，可以视为“Slop”一类的内容。
因而，在缺少客观标准的情况下，除了那些完全是捏造性的虚假内容，还有大量“没有营养”的内容，对另一些用户可能是对抗现实压力和“数字虚无主义”的情绪出口。
对抗“脑腐”的关键，或许不能指望机器清除Slop，而在于重建个体与信息的关系，不放弃对意义的反省和追寻。放慢节奏、核实来源、支持那些仍坚持用心创作的作者，是不想被AI内容操纵的人都应该采取的行动。
--------------------------------------------------
回溯过往，AI正在越来越多进入人类的叙事系统。
AI已深度嵌入生活配资软件app，技术进步带来的欣喜是主色调，但这种宏观信任并未消解对具体问题的警觉。在用户生成内容的场景下，创作者、技术提供者、传播平台、应用分发方之间的责任边界时常模糊不清，尽管“Slop”这样的现象已经引发全球的警惕，但目前仍未形成如何有效管理这些风险的共识。我们既要警惕自身思维碎片化，更要意识到AI不是无限容量的垃圾处理器，人工智能也需要引导“向善”。
申宝策略提示：文章来自网络，不代表本站观点。
相关文章
热点资讯
