400-011-2158
编者按
知识的产生是人类文明进步的核心动力。当前，生成式人工智能凭借其强大的数据处理和计算能力，能够生成逻辑严谨且具有实际应用价值的信息，甚至在某些领域超越了人类专家的水平。人工智能的参与，不仅是科研工具的革新，更引发了深刻的思考：人工智能的“智能输出”是否就能称为“知识”？更进一步，人工智能是否能够产生真正意义上的知识？近年来，随着大模型技术的不断突破，这一备受争议的前沿话题日益受到学界的广泛关注。本期《学术争鸣》栏目将刊发两篇观点不一的文章，探讨这一议题，并期待更多读者的参与。
自从大语言模型兴起以来，人们越来越习惯于向人工智能提问、与之交流并获取答案。这些模型往往能够引经据典、条理清晰地回答问题，仿佛源源不断地输出着“知识”。这便引出了一个问题：人工智能提供给我们的这些内容，是否算得上真正的知识？要回答这个问题，我们首先需要明确：当一个人说自己“真正知道”某事时，我们期望的是什么？
碰巧说对，并非“知道”
让我们考虑一个著名的哲学难题。设想有人看表，发现时钟指向3点，他相信现在是3点，而恰好那一刻确实是3点。然而，这个时钟实际上在12小时前就已停摆，他只是运气好，在正确的时间看了它。尽管他拥有一个真实的信念，并且看似有充分的理由（看了钟），但我们的直觉会明确表示：这不属于“知道”。这个人只是碰巧猜对了。
这类难题在哲学界被称为“葛梯尔问题”。它揭示了真正的知识并非仅仅是一个恰好为真的答案，而是一种认知上的成就。也就是说，一个信念之所以为真，必须源于认知能力的可靠运作，而非偶然的运气。
那么，什么样的“认知成就”才符合标准？真正称得上“知识”的东西，至少需要满足四个条件：
首先是理解。仅仅知道“物体受热会膨胀”的结论是不够的，还需要能够解释温度计为何能测量温度、铁轨之间为何要留有缝隙，以及热气球为何能升空。“理解”意味着能够掌握事物背后的因果关系，并能从原理层面推演出其发展过程。
其次是可负责的证明。当被问及“你凭什么知道”时，知识的拥有者能够给出解释，并且愿意为自己的回答承担责任。从这个角度看，运气不被算作“知道”，因为它绕过了提供解释和承担责任的环节。
第三是与现实的联系。知识不能脱离实际，它要么根植于个人经验，要么能够接受现实的检验和修正。一个拒绝任何反驳的信念，即使在内部逻辑上非常一致，也不能被认为是知识。
最后是存在一个在场的主体。知识需要由一个“知者”来持有、审视和守护，即一个能够清晰表达“我相信”的人。
回顾中国传统文化，对“真知”的标准也有类似的看法。张载区分了“见闻之知”和“德性所知”。前者仅仅是感官积累的信息，后者则需要超越感官的局限，通过身心的修炼才能达到。王阳明更进一步指出，“知而不行，只是未知”，这意味着如果知识不能融入生活和实践，就不能算作真知。
由此可见，真正的知识从来不仅仅是一段正确的内容，而是一种需要主体去持有、去实践、去承担的认知成就。它是“你”亲手掌握的，而非仅仅是“它”偶然吐出的。
AI生成的“知识”，缺失了什么
现在让我们回到当下。当前最先进的大语言模型，本质上是一个“预测下一个词”的机器。它通过学习海量人类文本中的统计关联，推断在给定语境下最有可能出现的下一个词。其优化目标是“可能性”，而非“真实性”。理解这一点，是理解人工智能的本质及其局限性的关键。
首先，人工智能从不接受现实的检验。知识需要与现实相关联。科学家的假说需要通过实验验证，现实有权判定其错误，而新知识恰恰在被否定的可能性中诞生。人工智能的情况则完全不同：其生成机制只关注“接下来说什么最像样”，而不关心“事情是否真的如此”。它从不坚持任何命题，也不处于一个可以被检验的位置。更隐蔽的缺陷在于其意义的根源。语言哲学中有一个经典问题：词语为何有意义？“苹果”之所以有意义，是因为我们见过、摸过、尝过苹果。词语与事物之间存在联系，将符号拉回到现实世界。但对于仅通过“阅读”文本成长的模型来说，词语仅仅与其他词语相连。当它写下“火”字时，背后没有任何被灼烫的经验作为支撑。哲学家称这种空洞的意义为“派生的意向性”。模型看似头头是道的“理解”，实际上是我们使用者投射进去的，而非其内在拥有。危险之处在于：一本“借来”的书很容易辨认，但人工智能会主动回应、推理、追问，如同一个真正理解的心灵，这使得其意义的空洞比任何媒介都更难被察觉。
其次，“幻觉”并非错误，而是其固有设定。回顾之前的标准：知识至少包含“信念”，即主体对某事真实性的认定和承诺。而当前的人工智能没有信念，它只是依据“接下来怎么说最像样”来生成内容，而不是基于“事情是否真实”。这解释了最令用户恼火的“幻觉”现象。人工智能会以与说真话时相同的确定语气，编造出根本不存在的引文、数据和事实。问题不在于它“偶尔出错”，而在于其底层机制中，说真话和编造假话是同一个动作，都是在概率空间中选择最顺畅的延续。对于人工智能而言，真与假没有区别；利害与承诺，更是无从谈起。
第三，流畅的“为什么”，不等于真正的理解。近年的研究确实表明，大模型在内部习得了某种结构化表征，并非完全是“鹦鹉学舌”，这一点不应被轻易否定。然而，捕捉统计规律与掌握因果关系之间，仍然存在巨大的鸿沟。人工智能能够流畅地解释一长串“为什么”，但这未必是源于原理的推演，也可能仅仅是对人类积累的海量“为什么”的重新组织。而真正的理解，意味着看穿事物之所以如此的原因，并能在全新情境下做出判断。对相关性的捕捉，终究不能等同于理解的达成。它接近了理解的外在表现，却未必触及理解的核心。
第四，没有一个“我”在承担这份知识。如前所述，知识需要一个第一人称的“谁”。这个人拥有信念，为信念负责，并且能够反思自己的可靠性。哲学家称之为“反思性的知识”，即不只是碰巧相信对了，还能超越自身，掂量自己为何可信。而当前的人工智能并没有这样的自我。它并不真正“相信”任何事情，也不“守护”任何东西，而是在每一次对话中被唤醒，在对话结束后又归于沉寂。张载的“见闻之知”和王阳明的“知而不行，只是未知”，在此处充分展现了其意义：真正的知识总是与某种生活、某种行动、某种责任紧密相连。而当前的人工智能，却并非如此。
人工智能目前只是工具，远非知识生产者
当然，有人会反驳：如果将知识定义为“可靠过程产生的真实信念”，那么一个足够强大的系统，为什么不能算作“知道”？更何况，随着多模态模型装载传感器并接入物理世界，“接地”和“具身”等反驳的效力也在减弱。我们必须承认：当前的人工智能已经是极其强大的知识工具——在蛋白质结构预测、数学猜想验证等领域，它确实参与了知识的发现。
围棋领域的AlphaGo以及新材料发现中的人工智能，常被用来证明人工智能已进入知识“生成”阶段。不可否认，AlphaGo确实走出了人类棋手未曾充分认识的招法，人工智能也在海量组合空间中筛选出了此前难以穷尽的候选材料。但这些工作所涉及的，只是知识生产的素材，而非知识本身。它们与生产知识之间，隔着一道必经的门槛：人类共同体对其的验证、解释和理论整合。AlphaGo的“第37手”之所以成为围棋知识，并非源于人工智能的判断，而是人类棋手群体反复复盘后赋予的理解；人工智能筛选出的候选材料，也需要经过实验、因果说明和理论重构，才能真正汇入知识体系。人工智能在这一链条中迈出的一步，是从处理既有知识走向生成候选知识对象，但从“候选”到“知识”的这一步，仍然需要由人类来完成。而这一步之差，恰恰体现在“与现实接触”和“主体负责”之处：只有作为主体的人站在可被检验的位置上，才能为那个候选对象是否“为真”承担判断的风险。
我们注意到，近年来，一批被称为“AI科学家”或“AI研究员”的系统，不再满足于回答问题，而是被赋予了一套闭环：自动检索文献、提出假说、设计实验、在真实设备上运行实验、收集数据、分析结果，甚至自行修正被推翻的猜想。在一些早期尝试中，这类系统已能在简单的化学合成路线设计与材料筛选任务上跑通全流程，其产出结果经人类科学家复核后，被承认具有真实的增量贡献。这听起来似乎已经开始接近“接受现实的检验”和“与实在接触”这两道门槛。然而，细究之下，裂痕依然存在。一个发人深省的对照发生在2024年：某个前沿AI系统在标准化学推理基准测试中取得了超过人类博士的平均得分，但当研究人员将同一套题目中的试剂名称替换为虚构词汇，仅保持逻辑结构不变时，AI的性能出现了断崖式下跌。它答对的是训练语料中频繁共现的模式，其本质上是在“匹配模式”，而非“把握因果”。因此，流畅的“为什么”和真正的理解之间，那道坎依然横亘在那里。
这个对照恰好让我们有机会澄清本文判断的界限：这不是一个关于“永远”的判决，而是一个关于“现在”的判断。就眼下这类以语言模型为主体的人工智能系统而言，它们还远未具备作为一个“知者”去产生“真正的知识”的资质。因此，我们可以做出如下判断：当前的人工智能，是知识内容的卓越加工者和传递者，但还不是知识的生产者。它们缺乏对现实负责的处境，没有属于自己的意义，没有朝向真理的信念，没有从原理出发的真正理解，也没有一个去持有、去守护这一切的主体。它只是将人类凝结成文字的知识，以惊人的规模重新组织、检索、再表达。当前的人工智能，至多停留在张载所言的“见闻之知”层面，转述、重排着人类的见闻，远够不着“德性所知”，更抵达不了王阳明“知行合一”中那个经由亲身实践而获得，又能反过来指导行动的“真知”。
说到底，人工智能生成的内容，只有结合人的理解，才能真正成长为知识。知识生产是一项属于主体的事业，属于那种愿意面对世界、亲自检验并为自己所言承担责任的主体。而这样的主体，在今日的硅基世界，尚未觉醒。
(作者：吴小坤，系中国人民大学新闻与社会发展研究中心研究员、新闻学院教授)
来源：光明日报
