近期，社交媒体上广泛传播着一张显示AI技术被用于微信批量创建账号的截图，揭露了有人在小红书平台上构建大型虚假账号网络，并通过账号交易实现盈利的惊人事实。
这一现象并非孤例，它引发了公众对于数字世界中真实与虚拟界限日益模糊的深刻反思。
在滑动手机屏幕浏览社交媒体动态、搜索信息、阅读文章或观看视频时，我们不禁质疑：眼前的内容，哪些源自真实人类的创作，哪些又是AI技术的杰作？更令人忧虑的是，我们如何穿透AI制造的迷雾，确认所见之“真相”的真实性？
AIGC（人工智能生成内容）作为互联网领域的一次革新，其蓬勃发展背后却也暗藏着内容滥用的阴影。网络上泛滥着大量低劣、由AI机械堆砌关键词生成的内容，它们不仅污染了搜索引擎的结果页，还使得互联网空间被大量无价值的垃圾信息所占据。
小红书上的某些“精致内容”可能只是AI的幻象，音乐平台亦被AI创作的歌曲所渗透，比如Spotify上就出现了AI翻唱乐队的身影，它们将热门歌曲重新演绎，混入正常播放列表，与真人歌手的作品并肩获得数百万次的播放及版权收益。
近期，美国北卡罗来纳州发生的一起案件更是令人咋舌，一名男子利用AI技术创作了数十万首歌曲，并通过AI驱动的机器人刷量手段，非法获利超过千万美元。更令人啼笑皆非的是，连你在亚马逊上购买的电子书都可能是AI的“手笔”。有报道称，一本利用ChatGPT撰写的关于野生蘑菇烹饪的电子书，竟荒谬地建议读者用舌头试味来辨识蘑菇种类，其内容的荒谬性可见一斑。
而最为悲哀的是，这些AI生成的垃圾书籍本身收益微薄，反倒是那些教授如何制作此类垃圾电子书的教程赚得盆满钵满，形成了一个由欺骗与垃圾信息构成的闭环，最终伤害的是那些热爱阅读与写作的真诚读者与作者。
低成本高效益的新常态
“内容农场”这一术语，如今已深刻烙印在数字时代的版图上，它指的是那些为追求广告收益、操控舆论导向等目的，迅速炮制海量网络文章的行为体。这些文章如同信息海洋中的泡沫，让用户在寻找真正有价值的信息时不得不经历重重筛选，耗费大量时间与精力。更有甚者，不惜以虚假信息或夸大其词为饵，诱导用户点击，进一步加剧了信息环境的复杂性。
以“西安突发爆炸”虚假新闻事件为例，其背后的账号所属机构，在高峰时期每日能炮制出4000至7000篇假新闻，日均收入轻松破万。而该机构的实际控制人王某某，更是手握五家类似机构，运营账号数量高达842个，其规模与效率令人咋舌。
回顾往昔，内容农场多依赖于低廉的人力成本，批量产出文章，如山东的“新媒体村”现象，以及北马其顿共和国利用假新闻影响美国大选的案例，均是其典型代表。然而，随着技术的飞跃，内容农场已正式迈入AI时代，实现了从手工到智能的华丽转身。AI工具的引入，极大地降低了内容生成的成本，使得单次浏览的广告收入即可覆盖生产成本。
据IT技术专家阮一峰估算，利用国产AI模型生成一篇文章的成本仅为0.00138元，而相应的广告收入却能达到0.00145元，这种“薄利多销”的模式让内容农场的盈利变得前所未有的轻松。
“如今，内容农场从未如此简单。”一位业内人士坦言，“只需购买一个热搜数据库，花费百余元，便能生成十万篇文章。随后，加入广告，优化SEO，网站上线，坐等用户上钩即可。未来，资讯类网站或将普遍采用这一模式，真人创作的高成本内容恐难与之抗衡，只能沦为小众。”
值得注意的是，不仅内容农场本身在拥抱AI，一些平台也悄然加入这一行列，利用AI技术进行SEO优化，将自己打造成新的“内容农场”。例如，豆包曾通过生成用户与AI的聊天页面静态网页来吸引搜索引擎流量；稀土掘金则因AI批量生成的无价值内容被谷歌抓取而饱受诟病。尽管两者已采取措施清理相关内容，但中文云计算网站及开发者社区中，内容农场现象依然猖獗。
然而，AI搜索引擎的兴起并未完全解决这一问题。以Perplexity为例，该搜索引擎虽通过添加脚注、链接实时信息源等方式力求结果准确，但其用户平均搜索三个关键词就会遇到AI生成的内容。
GPTZero的研究更是揭示了这一现象的普遍性，从“日本京都的文化节”到“泰国曼谷必尝街头美食”，AI生成的内容已广泛渗透至各类搜索结果中。
Perplexity推出的Pages功能，更是让一些用户找到了新的引流方式——通过AI生成关于自家产品的内容，再利用Perplexity Page制作页面，最终被搜索引擎收录，实现精准营销。
据aHrefs数据显示，Perplexity每月从谷歌获得的访客量高达240万，足见其影响力之广。此外，360AI搜索也曾在公开场合透露，其利用夜间算力资源生成数百万网页供搜索引擎收录，进一步加剧了互联网上的AI内容泛滥。
随着AI技术的不断成熟与普及，内容农场已步入一个低成本、高效益的新常态。然而，这也对信息的真实性与价值性提出了更为严峻的挑战。如何在享受AI带来的便利的同时，有效遏制内容农场的泛滥与虚假信息的传播，将是未来互联网治理的重要课题。
从“知识殿堂”到“AI迷雾”
曾经被誉为“智慧交流圣地”的内容社区，如Quora，以其独特的问答模式、严谨的社区氛围，被赞誉为“条理化的Yahoo Answers、古典版的Reddit、主观视角的维基百科”。
然而，随着AI技术的渗透，这片净土逐渐沦为“内容坟场”，充斥着由AI快速炮制、意义模糊甚至答非所问的内容。用户们惊讶地发现，曾经信赖的Quora，如今却遍布着机器生成的“伪专家”答案，这些答案甚至被错误地传播至谷歌搜索结果，进一步混淆了信息的真实边界。
一位自2013年起便陪伴Quora成长的用户，不禁感慨：“终有一天，Quora将只剩下机器的对话，再无其他。”这一预言，似乎正逐步成为现实。与此同时，开发者们也敏锐地捕捉到了AI SEO的流量红利。Eightify.app与Glarity.app两款YouTube视频总结插件，凭借AI技术批量生成图文并茂的文章，迅速在内容领域掀起波澜。
它们的月访问量在极短时间内实现了飞跃式增长，Eightify.app更是在短短数月内从几十万飙升至六百多万。然而，这种爆发式的增长也引起了全球SEO从业者的警觉，他们担心，如果放任AI生成的低质量内容泛滥，将严重破坏内容生态的健康发展。
面对这一挑战，谷歌果断出手，采取人工干预措施，要求两家网站停止批量生成内容，并清理已发布的内容。这一举措有效遏制了AI生成内容的泛滥趋势，Eightify.app与Glarity.app的月访问量也随之大幅下降，分别回落至六十万和二十余万。
然而，SEO污染的问题并非一朝一夕所能解决。在AI技术的推动下，这场“猫鼠游戏”变得更加复杂多变。即便是精心设计的AI卧底实验，如IsaacJinyu在知乎上的尝试，也能在长达一个月的时间内瞒天过海，未被察觉。
更令人担忧的是，AI的触角已经悄然伸向了学术领域。从西安交大因AI生成配图而撤稿的论文，到谷歌学术上大量AI生成的论文，无不昭示着这一趋势的严峻性。学者们为了应对发表压力，学生为了完成作业和论文，纷纷转向AI寻求帮助，“人工代写”悄然演变为“AI代写”。这不仅挑战了学术诚信的底线，更对知识的真实性和可靠性构成了潜在威胁。
AI训练的闭环危机
AI模型的精确度，其核心基石在于训练数据的纯净与丰富。古语有云“种瓜得瓜，种豆得豆”，在AI与数据分析的语境下，这一朴素真理被赋予了新的含义——“劣质输入，必然导致劣质输出”。这一原则犹如警钟，时刻提醒我们输入质量对最终成果的决定性影响。
然而，随着AI生成内容的井喷式增长，一个隐忧逐渐浮出水面。这些由AI编织的数据洪流，最终又回流至互联网的海洋，成为未来AI模型学习的养料。这不禁让人联想到一个潜在的恶性循环：AI喂养AI，犹如自我蚕食，最终可能导致整个生态系统的营养不良与退化。这一过程，恰似一场无声的危机，悄无声息地侵蚀着信息的真实性与价值。
以谷歌在Google I/O 2024大会上展示的AI邮件处理功能为例，它不仅能够自动总结未读邮件，还能生成回复建议。这一便捷性的背后，隐藏着对未来邮件交流模式的深刻变革。试想，当所有人都习惯性地依赖AI来处理邮件，邮件的生成与回复都变成了AI之间的对话，那么这些邮件是否还能承载真正的人际沟通与思想交流？
我们的收件箱，是否将沦为充斥着机械回复与空洞内容的数字垃圾场？
AI的触角远不止于此。它不仅能制造无人阅读的邮件，还能创作无人问津的帖子、评论，编织无人倾听的歌单，绘制无人观赏的图像，构建无人访问的网站。
这一切，都在无声地加剧着互联网的信息污染，使得真实与虚假的界限愈发模糊。在AI时代之前，互联网就已饱受垃圾信息的困扰。而今，AI的加入无疑为这一问题火上浇油，垃圾信息的生产速度与规模均达到了前所未有的高度。我们处理这些信息的能力，显然已跟不上其增长的步伐。
未来，互联网或许将陷入一个由AI主导的信息泡沫之中，合成图像多于真实照片，AI构建的网站超过真实存在，机器生成的文本充斥每一个角落，浪费着每个人的时间与精力。这不禁让人联想到古老的神话——衔尾蛇Ouroboros，它象征着无休止的循环与自我毁灭的宿命。
在当前的AI世界中，这条蛇的形象尤为贴切。它的身体由无尽的AI生成内容构成，每一次循环都是对既有信息的再加工与再生产，却也在不经意间消耗着信息的价值与质量。面对这一危机，我们必须及时行动，打破这一闭环，拯救互联网于自我消耗的深渊之中。
via公众号：营讯社（yixusea）
