AI4S 的生态基础：从生成答案到组织可验证的发现

一、2026 年的 AI 产品，本质是什么

2026 年的 AI 产品，当然不再一个“会聊天的模型”。它通常由几层组成：基础模型、检索与专有数据、工具调用、代码和仿真环境、外部评估器，以及保存中间过程的工作流。

这几层组合在一起，才形成今天真正有用的 AI 系统：

模型负责提出和变换候选，工具负责执行，评估器负责比较，研究者负责决定问题和标准。

Google DeepMind 的 AlphaEvolve 是一个很典型的例子。它让语言模型生成算法代码，再交给自动评估器运行和打分，并通过演化机制继续修改候选方案。该系统在数学和计算机科学的开放问题中重新发现了大量已知最佳解，也在部分问题上改进了此前的结果。AlphaEvolve 官方说明

Google 的 Co-Scientist 更接近科学研究本身，其让多个专门角色分别负责生成假设、反思、排序、演化、相似性分析和元评审。研究者先给出研究目标和约束，系统再提出假设、寻找证据、相互辩论，并把候选假设送入实验验证。在药物再利用和抗菌耐药研究中，部分系统生成的候选已经进入体外实验。Nature 论文：Accelerating scientific discovery with Co-Scientist

因此，今天的 AI 已经表现出一种真实但有条件的创造能力。它可以：

1. 在巨大候选空间中找到人类没有直接写出的组合；
2. 把不同领域的概念重新连接；
3. 生成新的算法、材料结构、研究假设和实验方案；
4. 在有评价函数或实验反馈时，沿着有效方向反复改进。

但这仍然不等于它已经拥有完整意义上的科学创造力。

“创造”至少包含四个不同能力：

• 发现一个值得投入的问题；
• 提出具有新意的候选解释或方案；
• 设计能够区分不同解释的验证方法；
• 在结果不理想时，知道是哪个假设出了问题，以及是否应该放弃。

现在的 AI 在第二项上已经很强，在第三项上越来越强，但第一项和第四项仍然依赖研究者设定问题、定义价值和解释失败。

回到Co-Scientist，研究目标仍然由科学家输入；AlphaEvolve 的算法必须放进明确的评估程序；MatterGen 生成的新材料仍需要结构稳定性计算和实际合成验证；伯克利 A-Lab 也不是靠语言模型直接宣布发现，而是把文献、计算、机器人实验、X 射线分析和主动学习接成一个循环。A-Lab 在17天内合成了57个目标中的36个化合物，同时也暴露出动力学、前驱体挥发、无定形化和计算误差等失败模式。Nature 论文：An autonomous laboratory for the accelerated synthesis of inorganic materials

所以，我们把刚才的表述修正为：

当下的 AI 能够生成新颖候选，但它的创造性是条件性的。它依赖人类给出问题边界，依赖环境提供评价标准，也依赖实验或计算结果来区分有效和无效。

这也是 AI4S 和普通内容生成的分界线。普通生成只需要输出看起来合理的文本；AI4S 必须把候选放进能够产生反馈的科学过程。

幻觉为什么难以彻底消除

幻觉虽然也来自模型“知识不够”，不过这一点可以随着模型的进步而加以改良；除此以外它至少有四种来源：

1. 模型缺少相关事实；
2. 问题本身信息不足或无法确定；
3. 领域判断标准没有被明确写出；
4. 生成的文字、代码、引用和实际执行过程不一致。

对于第一类问题，检索、专有数据库和工具调用可以显著改善结果。对于第二类问题，模型需要学会拒答、请求澄清或报告不确定性。对于第三类问题，必须引入专家规则和领域评价器。对于第四类问题，则需要把模型输出绑定到代码、数据、运行日志和实验结果。

Kalai 和 Vempala 的理论工作给出了一个更窄但重要的结论：对于训练数据中无法由统计规律确定的任意事实，一个满足校准要求的语言模型仍然会有不可避免的猜测错误。Calibrated Language Models Must Hallucinate

OpenAI 的后续分析则指出，当前很多评测只奖励答对，不充分奖励合理拒答，这会使模型在不确定时继续猜测。该研究同时强调，幻觉并非无法缓解；更好的拒答、校准和评测激励能够降低错误率。Why language models hallucinate

因此，仅针对科研问题来讲，LLM架构下可预见的未来我们能做出两个表述：

首先在幻觉的消除上

对开放世界中无法确定的问题，通用模型不可能保证零错误；但在限定领域内，可以通过检索、工具、形式化检查、实验反馈、合理拒答和专家审核，把幻觉风险持续压低。比起模型参数本身，可靠性来自整个研究系统。

其次对于通用人工智能达到AGI的道路上

通用模型不能凭借语言生成能力单独完成专家问题。专家问题的关键在于定义变量、判断证据、识别异常、设置边界和承担失败责任。这些内容必须进入模型之外的研究流程。

AI4S 正在出现的几个方向

目前真正重要的前沿早已舍弃让模型写出更长的答案，把模型放进可执行、可比较和可追溯的系统要更重要；

• 科学假设生成：Co-Scientist 通过多智能体辩论、排序和演化寻找可验证假设；
• 算法发现：AlphaEvolve 通过自动评估器筛选和改进代码；
• 经验软件生成：Google 的 ERA 用树搜索生成用于科学实验的专门软件。Nature 论文：An AI system to help scientists write expert-level empirical software
• 自主实验室：A-Lab 将计算、历史数据、机器人和主动学习连接起来；
• 领域科学模型：MatterGen 用生成模型提出具有目标性质的无机材料，但仍需要稳定性和实验验证。Nature 论文：A generative model for inorganic materials design
• 可验证科研：Google Research 的 Science One Framework 把每个论文主张绑定到文献、代码、日志或结果，并用 Chain-of-Evidence 检查引用、方法和分数是否真的对应证据。Science One Framework

这些方向共同指向一个判断——

AI4S 的瓶颈正在从观点生成障碍转向研究可解释性制约。

二、议题主导—专家协作—随做随验

由此，建立一套受约束的人机科研工作流就合情合理了，事实上不少公司正在做这件事。

它的基本结构是：

人类决定研究什么→专家定义怎样算对→AI 负责扩大探索，执行环境产生结果，审计机制决定哪些内容可以升级为结论。

1. 议题主导：由人定义问题的边界

“议题主导”由研究者明确：

• 研究对象是什么；
• 研究范围覆盖哪些时间、空间和系统边界；
• 什么结果具有实际价值；
• 哪些数据和资源可以使用；
• 什么情况算作成功；
• 哪些风险不可接受；
• 如果结果失败，下一步如何分叉。

AI 可以帮助拆解问题、补充候选方向和寻找相关文献，但不能自行决定一个问题是否值得投入，也不应该替研究者承担价值选择。

2. 专家协作：把隐性的判断变成可执行规则

专家协作也不应停留在“请专家给一个答案”，更进一步没想想的那么复杂：

• 指标如何定义；
• 选择什么基线；
• 哪些变量必须控制；
• 什么现象属于异常；
• 哪些假设容易失效；
• 什么结果足以支持或推翻一个判断；
• 哪些数据虽然看起来相关，但不能用于当前结论。

这些内容应被记录成可以被系统调用的对象。

3. 随做随验：把验证放进每一个研究节点

每个研究节点在执行前都必须写出：

• 预期结果；
• 失败条件；
• 反证条件；
• 对照基线；
• 使用的数据和参数；
• 结果改变后要修改哪个判断。

执行后，系统必须记录实际输入、代码版本、运行环境、日志、输出和人工解释。任何“改进”都必须回答：与什么相比、在相同约束下是否仍然成立、是否牺牲了别的指标。

这套架构的具体呈现

一个版本化的研究工作台：

flowchart TD
    A[议题工作台<br/>研究目标、范围、价值与风险] --> B[问题树<br/>根问题与子问题]
    B --> C[假设卡片<br/>变量、预测、基线、反证条件]
    C --> D[专家规则库<br/>指标、阈值、异常与适用边界]
    D --> E[AI探索与执行<br/>检索、代码、仿真、方案比较]
    E --> F[证据账本<br/>来源、版本、数据、日志与结果]
    F --> G[独立审计<br/>引用、代码、指标、可复现性]
    G --> H{研究者理解闸门}
    H -->|通过| I[有边界的结论]
    H -->|不通过| J[暂停并重新解释]
    I --> K[新问题或下一轮假设]
    J --> C
    K --> B

工作台至少应有六个区域：

区域	作用
问题树	显示问题如何分解、分叉和合并
假设面板	记录每个假设的变量、预测、基线和反证条件
证据账本	记录文献、数据、代码、实验结果和来源版本
执行面板	记录运行参数、环境、日志、输出和失败信息
审计面板	检查主张是否有证据、代码是否对应描述、结果是否可复现
理解闸门	要求研究者解释选择、假设、失败条件和结果变化

每个研究节点可以采用统一记录格式：

节点编号：
父问题：
当前问题：
已知事实：
未知变量：
研究假设：
方案或实验：
基线：
预期结果：
失败条件：
反证条件：
实际结果：
证据链接：
结论状态：
研究者解释：
下一步：

结论状态也应固定，而不是让模型自由使用“已证明”：

待验证
正在验证
获得支持
部分支持
被反驳
证据不足
适用范围受限
已暂停

这部分可以借鉴 W3C PROV 对实体、活动和责任主体的描述方式，把数据、代码、实验、人员和结果连接成可追溯关系。W3C PROV

研究资料还可以采用 RO-Crate 一类的研究对象封装方式，把数据、脚本、结果、作者、设备、工作流和来源放在同一个可复用的结构中。RO-Crate 规范

三类角色必须分开

这套流程至少要区分三类职责：

• 议题负责人：定义问题、范围、价值和最终研究方向；
• 专家或规则提供者：定义指标、基线、异常、阈值和失效条件；
• AI 执行者：检索、整理、写代码、建模、运行实验、比较方案和提出新假设。

此外，还需要一个相对独立的评价职责。提出方案的角色不能单独宣布方案成功；生成结论的模型不能自己充当唯一审稿人。

理解闸门要检查什么

研究者在关键节点必须用自己的话回答五个问题：

1. 当前真正要解决的问题是什么？
2. 为什么选择这个方案，而不是更简单的基线？
3. 这个方案依赖哪些假设？
4. 什么结果会推翻它？
5. 这次结果具体改变了哪个判断？

如果研究者只能复述 AI 的语言，却不能解释变量关系和失败条件，流程就应暂停。

用微电网议题验证这套架构

钠电与风光协同的议题可以作为第一组案例，但它的作用首先是检验工作流。

根问题可以写成：

在任务延期受限、预测存在误差、储能需要保留备用电量的条件下，联合调度钠电储能和可延迟算力，是否仍然比只调度电池更能降低电网峰值和新能源弃电？

至少保留以下对照：

• 不调度；
• 只调度电池；
• 只调度柔性算力；
• 联合调度电池和算力。

比较条件必须一致，包括初始荷电状态、终端荷电状态、关键任务约束、并网功率上限、预测信息和寿命成本。否则“联合调度更好”可能只是因为模型给了它更多资源。

指标至少包括：

• 电网最大购电功率；
• 新能源弃电率；
• 关键任务未供能量；
• 柔性任务延迟；
• 总运行成本；
• 电池吞吐量和衰减；
• 孤岛支撑时间；
• 预测误差增加后的性能下降。

如果换成任何电池，结论都完全一样，那么证明的是“联合调度方法”有效；只有在低温、长时储能、寿命、成本或安全参数改变结果时，才能进一步讨论钠电的特定价值。

这就是第三部分将要执行的案例，但第一、第二部分的核心成果不是来解决一下电网配置就完事了的，一个模糊议题转化为可记录、可执行、可反驳和可复用的科研流程还有待接下来两天的探索。