test

Prompt

AI 大模型的幻觉会成为全人类的幻觉吗？AI 的副作用啊，现在已经开始显现出来了。那经合组织啊，最新的 PISA 报告发现了一个非常重要的研究结果：那些从来不用或者几乎不用生成式 AI 的学生呢，科学测试平均分是 509 分；每天都用或者几乎每天都用的学生呢，平均分是 481 分。这两个分数啊，是在控制社会经济背景之后的校正分数，但是还是差了 28 分。那按照专家的换算啊，这差不多相当于一年半的教学进度。也就是说，在这份调查里，高频使用生成式 AI 的学生和几乎不用的学生之间，出现了相当于大约一年半教学进度的分差。这个差距是非常大的。 那大家要知道啊，这一轮 PISA 啊覆盖了 91 个国家和地区，超过了 76 万名 15 岁的学生。它不是只找着极少数学校做出来的这种区域性的小调查。而且啊，PISA 呢大体是每三年进行一轮，前后数据的连续性是很强的。那上一轮测试呢是在 2022 年，那个时候啊 AI 刚刚出现还没有开始普及。所以啊，这也是生成式 AI 大规模普及以后，我们第一次在这么大的范围之内看到它和学生成绩之间的关系。 但是啊，大家要注意啊，我说的是生成式 AI。那以前教育领域呢，早就使用过另一类的 AI，叫做智能辅助系统。它不是接到一个题目以后啊，直接给你生成一套完整的答案，而是由专业的教育专家指导设计的，按照学科知识结构和学生当前的水平，把一道题呢拆成很多步骤。那你在哪一步出错，他就在哪一步提示你，就有点像一个严格按照参考答案盯着你解题过程的老师。而过去多项研究都说的结果呢，和今天这份 PISA 报告呈现出完全不一样的方向：使用智能辅助系统的学生呢，整体成绩大多好于传统的大班教学和普通的计算机教学。比如说 2016 年的时候，教育研究评论杂志呢发表了一项涵盖 50 项对照评估的元分析，智能辅助系统带来的成绩中位数是 0.66 个标准差，大体呢就是相当于把一个处于第 50 百分位的学生，也就是一个班级排名中游的学生，提高到第 75 百分位，也就是班级的前 25%。那这些研究啊，至少能够说明 AI 进入教育并不必然让成绩下降。 那么区别在哪里呢？为什么生成式用得越多，成绩反而越差呢？而且我们还要问一个更深层次的问题：就是只有学生受到影响吗？老师没有把备课的工作交给 AI 吗？研究人员没有把论文总结交给 AI 吗？那么语言大模型的一次幻觉，会不会有一天成为全人类共同的幻觉呢？ 那我们先看一下这份 PISA 报告啊，到底说了些什么。这个现实情况呢，确实是复杂的，并不是说只要使用了生成式 AI，那学生的成绩就会下降。还有另一组非常重要的数据啊，就是不使用 AI 的学生呢已经很少了，只有 14% 的学生说自己从来不用或者几乎不用 AI 完成功课。那换句话说啊，86% 的学生一年当中至少用过一次。但是中度使用 AI 的学生呢也是不多的啊，每天使用或者几乎每天使用的学生呢，目前还不到 20%。那些轻度使用 AI 的学生啊，也就是每周使用一两次 AI 的学生，表现并不比不用的人差，而且通常好于每天都用的人。那在每天都使用 AI 的学生里面呢，如果老师经常要求他们去判断 AI 生成的信息到底对不对，他们的科学成绩呢还呈现出了高 13 分的关联。那当然了，这依然是相关性，咱们不能倒过来说啊，说只要在课堂上增加一次 AI 核验训练，成绩就必然提高 13 分。 对同一份报告里啊，既有重度使用者呢，成绩落后一年半的，也有适度使用者表现还不错的。那么真正的分界线是什么呢？不是用不用 AI，而是 AI 是在替你思考，还是在帮助你思考。经合组织教育和技能司的司长啊，就用了一个特别好的比喻。他说，看体育比赛不会让我们的身体变强，必须亲自去运动。学习也不是坐在那里消费一段现成的内容，而是大脑面对新材料的时候呢，进行一场有产出的挣扎。它就是一个痛苦的过程，没有捷径，没有痛苦就没有成长。AI 技术如果只是帮助我们完成了这场挣扎，那学生就会进步；如果技术啊只是把这场挣扎的过程直接跳过了，那学生的发展就会受到影响。换句话说，AI 到底是工具还是拐杖？工具是帮助你完成你想要完成的任务，能不能完成主要还是看你自己的主观能动性。可是如果让 AI 替你把答案都写完，让你直接复制，或者说让 AI 直接替你判断什么是真、什么是假，那就不是一个工具了，它已经在替你思考了。 那我们再来看一项中国本土的研究啊。今年 6 月的时候呢，欧洲经济政策研究中心呢发布了一篇工作论文，作者追踪了中国一个县里 26811 名中学生，时间长达 30 个月，覆盖了 7 年级到 12 年级的九学科。那这个研究观察到的现象和 PISA 很像，就是学生用了 AI 之后呢，作业分数提高了 1%，完成作业的时间呢从 64 分钟缩短到 45 分钟。可是几个月以后啊，月考成绩下降了 20%，中考和高考这些不能把 AI 带进考场的考试呢，成绩也出现了明显的下降，一样，而且完整的影响大约两年之后才会显现。 那这篇论文里有一个观察我觉得特别值得注意，就是研究者呢把使用 AI 的学生分为两类：一类人呢是作业做得特别快，分数特别高，就很像直接把任务外包给了 AI；另一类人呢，虽然也用了 AI，但是完成作业的时间呢没有明显缩短，更像是拿 AI 解释、寻找思路。最后的学习损失呢，主要是集中在前一类人身上，后一类人的损失呢很小。那这些研究呢都指向了同一件事情，就是 AI 用起来的时候呢可能会很顺手，结果也可以非常漂亮，但是啊它不是没有副作用的，而且这个副作用要几年之后才会显现。而在这些学生身上发生的事情呢，就是认知卸载，也就是我们原本应该在脑子里完成的工作呢，被外包给了工具。 我能够理解啊，就是技术的出现呢，让人的能力退化这种事情啊一直在发生，没什么新鲜的。比如说方向感这个东西，十多年前呢，大家还有经常地去问路，那指路的人呢会告诉你啊，就是前面往北走，走到哪个地方再往东。但是现在啊很多人都分不清东南西北了，因为人人都有了 GPS。即便你到了一个陌生的城市，你也不会迷路。还有很多人呢也不会用笔算开平方了，因为有了计算器。这些在某种意义上来说呢，都是人的能力的退化。但是啊，这些技术和现在的大语言模型啊有着本质的不同。计算执行的是一个确定规则，你输入同样的数字、同样的运算，你永远得到同样的答案。就算你不会笔算开平方，结果也很容易用另一台计算器交叉验证。它不会说你换一个提示词就给你完全不同的答案。虽然它也有极小的概率会犯错，但是啊这个错误是可复现、可对照的。而且最关键的一点是啊，没有人会因为使用了计算器而觉得自己很牛，觉得自己懂啊。但是啊大语言模型就会给你这个错觉，从而让你失去了真正的判断力。 比如说 vibe coding，这是近几年非常流行的词，意思就是啊你不用懂编程，你跟它说你要什么，它就把代码写出来了。一年的时间啊，它就从一句玩笑话变成了很多人的日常。生成也的确是生成式 AI 做得最好的、应用最广的领域。那各大科技公司呢纷纷推出了 Token Maxing 的政策，就是啊要把员工消耗的词元，它的数量当作一个 KPI，要求所有员工呢必须去大量地使用 AI，然后进行排名，你不使用就会被淘汰。各种啊自媒体也纷纷开始卖各种课程，教你去如何更好地、更有效地去使用 AI。可是结果是什么呢？根据 GitClear 今年发布的代码质量研究啊，他们追踪了 2023 年到 2026 年每一次代码变更，结果发现啊，代码块的重复率增加了 80%，复制粘贴增加了 40%，代码可重用性降低，错误率翻倍，但是啊一年以上旧代码的维护更新减少了 74%。代码是写得越来越多了，但是开发者呢越来越少的回头整理、用和修复原来的代码。 还有啊，对 14 个国家 2350 名首席信息安全官、应用安全负责人和开发者的调查也发现啊，AI 生成代码占比在 81% 到 100% 的企业，交付有漏洞代码的比例呢达到了 47%；AI 代码只占 20% 的企业，这个比例是 14%，前者是后者的 3.4 倍。也就是说，过去的三年里 bug 变得更多了，代码变得更垃圾了，但是代码维护这个活呢还没人去干了。结果啊，根据最新的爆料啊，TKMX 即将发布的报告当中发现啊，人工智能生成的代码维护成本在 18 个月内飙升了 300%。这个发现啊其实也很符合我自己看到的身边的例子。 那我和很多程序员都有过交流啊，他们一开始呢也都是用得挺爽的啊，打开了自动模式，每天交代码的数量暴增，直到产品临近上线的那一刻，发现 Claude 改了一个参数。那改这个参数的目的呢，就是为了通过测试。这种事情啊发生得太多了。Stack Overflow 啊在 2025 年也调查了 4.9 万名开发者，他们对 AI 回答的信任度从 40% 掉到了 29%，66% 的人说啊自己会花更多的时间呢去修那些差不多对的 AI 代码。那公司最开始看到的是功能上线更快了，程序员写得更多了，因为新加一个功能立刻就能在产品当中体现出来，那搞得好了呢还能有奖。但是啊那些重复代码和安全漏洞，它不是你今天就能看得到的。今天省下来的时间啊，最后很可能会变成连带利息要去还的技术债。 那这还只是企业软件的情况啊，是由专业程序员写出来的。你再想那些毫无经验的所谓的独立开发者呢，我们可以看看啊手机应用的情况。那根据纽约时报引用 Sensor Tower 的数据啊，2026 年上半年，苹果呢新增了大约 56 万款应用，比去年同期翻了快一倍，已经快赶上 2025 年全年的 60 万款了。可是同期 App Store 的下载量呢，只有 176 亿次，同比只增长了 2%。还有 AI 短剧更加的夸张，2026 年第一季度啊，国内上线的 AI 短剧大约是 12.2 万部，平均每天超过 1300 部。那制作成本呢下降了大约 90%，但是流量成本却上涨了超过 100%，收益端呢还下滑了 50% 以上。换句话说啊，就是这都是买的流量。 尤其游戏也是一样啊，根据 Steam 的统计，到 2026 年中，大约每三款新游戏呢就有一款被披露使用了生成式 AI。新增发行量也快速增长，增长了大约 60% 到 90%。这些增长啊，这些增长啊，主要来自于 AI 产品。可是啊，能够达到基本成功门槛的游戏啊寥寥无几，根本就没人玩。我跟大家说啊，很多人都低估了游戏制作的难度。一款真正的游戏需要有人决定玩法、关卡、节奏、美术，还有平衡性等，任何一点做得不好，这个游戏就不好玩。做出来的游戏啊，从统计意义上来说，语言模型呢就是在训练中吃了海量的代码、文字和图像数据，它们之间的条件概率分布。那生成的时候呢，再根据这个分布，一个词元一个词元地选择高概率的结果，最后拼成一个看起来最符合要求的组合，仅此而已。它能够算出来什么东西更像是一款游戏，却不理解一款游戏为什么会好玩。它真的不是 AGI，它真的没有智能，它不具备这样的能力。 可是资本呢，为了炒作硬是把它炒作成了 AGI。大家可以想一想，Token Maxing 这个政策一听就很蠢，那为什么这些大公司会去推如此愚蠢的政策呢？因为这里面都是循环投资。这些大模型公司用的是英伟达的 GPU，亚马逊和谷歌的云服务，他们想利用从众心理，让所有科技公司呢都跟着他们搞这个 Token Maxing。我告诉大家，在科技界，不管是中国还是美国，一直都是看见这些巨头在干什么，所有人都一窝蜂地去干什么。大家千万别觉得这些人天天嘴里念的那些新概念、那些新名词，就觉得他们有多么了不起。其实科技圈和饭圈没多大区别，都是炒作，而炒作这一切呢都是为了赚钱。 那这几天我们也看到了 OpenAI 呢疑似剽窃多名数学家研发成果的丑闻。那这些是非真假，我们普通人很难判断，但是很明显，数学领域也已经变成了资本炒作的工具。所以不管资本怎么炒作，我们必须要正确地认识 AI，才能够正确地使用 AI，不被 AI 的负面影响所反噬。那我们一定要分清楚啊，在使用 AI 的过程当中，我们到底是在用它去替代重复劳动，还是用它去替代思考。 那我再重申一遍啊，我不是在反对使用 AI，相反呢，我希望人们能够更多地去使用 AI。一个学生使用 AI 总结文章啊，不等于他失去了思考。可是如果这个学生呢产生了一种幻觉，认为以后这种事情啊都可以交给 AI 去做，自己就不需要再去锻炼阅读和写作能力了，那么这就是被 AI 所害。如果各行各业都出现了这种幻觉，那么社会失去的就不是一项旧的技能，而是判断力，从而失去了纠正共同错误所需要的冗余。那语言模型的幻觉啊，可能可能就会变成社会性的幻觉。过去在互联网上啊，如果我们看到十篇文章都有相同的观点，那我们至少还能假设这个背后呢是十个独立的人。以后可能只是同一个模型的十次改写。大家使用相同的模型，有着相同的逻辑漏洞，漏掉了相同的反例，再让模型呢从这些内容里继续去学习。那这个循环呢很有可能会让错误越来越像一个共识。 还有更危险的呢，就是它会改变人类对自己的要求。如果人们真的相信啊 AGI 已经来了，那会发生什么？既然机器已经拥有了通用智能，那我不学习还有什么关系呢？我让 AI 替我做判断又有什么关系呢？反正机器总有一天会比我做得更好。然后你再看着网上有这么一群人天天在网上晒出各种各样精致的 demo，然后配上什么啊，我就只用一个提示词，AI 就自己跑了八个小时，我一觉醒来就做好了，效果炸裂，然后我再一看呢，居然只用了 3% 的额度。我告诉大家啊，这些东西绝大部分都是假的，他们要的是流量。可是很多人呢却信以为真。那长此以往啊，我们就变成了尼采口中的末人。那什么样的人是末人呢？就是一个人啊，不再想要超越自己，不再愿意承担学习、创造和怀疑的痛苦，也不想经历真正的失败和挫折，只想要舒适、安全，还有一点点立即就能得到的满足感。 大家想一想，AI 难道不是正在把我们变成末人吗？仿佛什么知识都不用去学了，只需要告诉 AI 你想要什么东西，那 AI 就立刻给你变出来。你也不用再为自己的答案负责，不用担心自己判断错了，也不用忍受学习和创造时那种抓耳挠腮的痛苦。AI 马上就会给你一份完整的答案，你只需要沉浸在燃烧 token 的快感当中就可以了。2025 年的时候啊，中国青少年研究中心呢调查了七个省市 8563 名学生，调查发现啊，近半数的孩子心里有烦恼的时候呢，首先是问 AI 而不是身边的人；那超过两成的学生呢，他们说只想和 AI 聊天，不想和真人聊天；还有两成的学生表示啊，已经不想自己思考了。 那为什么会出现这种情况？因为 AI 总是在哄着这些孩子。和同龄人交流，他也是一个学习的过程，你会遇到冷落，遇到挫折，遇到各种各样的问题需要你去解决。但是这些学生和 AI 在一起永远不会遭遇白眼，也永远不会遇到困难。这才是真正的电子鸦片。但是啊，没有付出就没有回报，没有痛苦就没有成长。到最后啊，他们就会变成尼采口中的末人。 那最后我还是重申一下啊，我不是反对这项技术，我是反对神话这项技术。只有正确地认识它，才能够正确地使用它。最近一段时间啊，是 AI 的一个重要节点，因为 OpenAI 和 Anthropic 这两家公司啊就要上市了。大家不要以为啊，他们两个是在进行你死我活的竞争，他们背后都是同一批资本集团。所以啊，最近这几个月我们会看到各种疯狂的炒作，什么模型偷跑出来攻击别的网站啊，什么中国模型在蒸馏啊，连 AI 让人烦恼，还有 AI 要去毁灭世界，这样的牛鬼蛇神全都跑出来了。毕竟啊，这背后是涉及到几万亿美元的利益。所以我们一定要擦亮双眼。统计近似，它不是智能。我希望你年轻人呢去做主人，主动为自己赋予意义，主动决定自己的追求，而不是做一个被 AI 麻醉的人。好吧。 是这样的，我刚刚看了一个视频文章，觉得很有感触。也请你非常非常仔细地看一看、读一读、想一想、搜一搜，彻底理解一下里面的观点和思考。我作为一个大学生，可能在之后的学习、各种考试、职业发展，工作生活，做各种项目等等等之类的事情里，都会大量用到 AI。但我也从这个视频里说出的东西受到了很深的启发。现在请你帮我想一想，仔细考虑一下，你可以帮我写一份给各种 AI、各种 Agent 都可以用的优秀提示词或者是其他什么。让 AI 真正成为一个对我有益的东西，而不是让我变成一个末人。