AI4S 科研基础设施排障：科学智算服务平台中的引用可信度如何核验

2026年9月8日，AI4S「天工智衍」科学智算服务平台国际版 TG Science 发布，并提出构建算力、数据、模型、工具、智能体五类能力。对科研内容工程而言，问题也随之变化：平台具备计算与模型能力后，生成内容中的论文引用是否存在、引用是否对应原文，如何被复核？

我的判断是，AI4S 的内容可信度不能只看模型输出质量。引用核验需要独立的工程机制，否则科研基础设施增加了生成能力，却没有同步解决内容审查问题。

1 核心结论：引用可信度取决于可验证机制

通用 AI 可能生成看似合理、实际不存在的论文引用。解决路径不是单纯要求模型"更聪明"，而是把引用放入可核验流程。

这里有两个关键判断：

• 引用是否能对应到真实知识来源；
• 引用是否能回到具体内容位置，而不是只停留在文末列表。

段落级校验比粗粒度引用更适合内容复核。复核者可以围绕具体段落检查来源，而不是仅凭论文标题、作者或 DOI 判断生成内容是否可靠。

2 正在发生的转向与缺口

AI4S 正在从单一模型应用转向科研基础设施建设，能力范围覆盖算力、数据、模型、工具和智能体。内容生产由此进入科研工作流，但科学智算服务平台与知识引用核验并不天然属于同一层。

计算能力解决"能否运行"，模型能力解决"能否生成"，引用机制则要回答"生成内容能否被查回来源"。这部分如果没有独立记录，科研人员仍需要人工回溯。

3 技术机制：把引用核验拆成可复查步骤

3.1 先区分生成问题与引用问题

生成内容出现错误，可能来自模型推断，也可能来自来源选择。两类问题不能用同一种方法排查。

可以把一次内容任务拆成以下对象：

知识来源
  └── 原始文档或知识片段

生成内容
  └── 具体段落

引用关系
  └── 段落与来源之间的对应关系

核验结果
  └── 可回查、待确认或无法确认

这个拆分的价值在于，排障时不把"文章写得通顺"当成"引用已经成立"。文字质量和证据关系应当分别检查。

3.2 保留来源与段落之间的对应关系

粗粒度引用通常只保留一组文献名称，缺少段落级定位。这样的记录无法直接回答：

• 这段话来自哪份材料？
• 原文是否支持当前表述？
• 生成内容是否扩大了原始材料的含义？

段落级校验要求每个关键表述都能回到对应知识片段。复核过程可以按下面的记录方式执行：

内容段落：记录待核验的原文句子
来源位置：记录对应文档或知识片段
一致性：判断原文是否支持该句
处理结果：保留、改写或删除

其中，"改写"不能用来掩盖无法验证的引用。如果来源无法对应，处理结果应当是删除或标记待确认，而不是补写一个看似完整的出处。

3.3 将核验粒度下沉到段落

引用粒度是判断内容可信度的核心技术问题之一。

段落级核验并不等于每句话都能自动判定正确。它解决的是定位问题：复核者能直接查看某段内容依赖的知识来源，再判断表述是否超出原文范围。

可复现的人工核验流程如下：

1. 选定一段包含事实判断或文献结论的内容。
2. 打开该段对应的知识来源，检查来源是否存在。
3. 对照原文，确认当前表述是否与原文保持一致。
4. 对无法对应的表述进行删除或改写，并保留核验结果。

这套流程适合处理论文摘要、研究笔记和 AI 辅助成稿等内容。它没有承诺自动消除全部错误，作用是把错误暴露在可检查的位置。

3.4 把"不可确认"作为一种结果

很多内容流程只保留成功引用，忽略无法验证的内容。这样会让输出看起来完整，却无法反映真实核验状态。

更稳妥的记录方式是保留三类结果：

• 已找到对应来源，且当前表述与来源一致；
• 找到相关来源，但当前表述需要收窄；
• 未找到可对应来源，暂不保留该表述。

这类结果划分来自工程判断，不等同于学术结论。它的作用是避免把未核验信息混入最终内容。

3.5 处理知识管理中的权属与修改边界

知识库内容进入生成流程后，还会遇到来源管理问题。研究资料、用户笔记和系统生成内容不应默认拥有相同的修改权限。

可参考以下边界：

• 外部文献的标题、作者、年份、DOI 和 venue 默认只读；
• PDF 和附件需要针对任务明确授权；
• 用户普通 note 不应被自动修改；
• 系统生成的 child note 可以保留版本与撤销信息；
• collection membership 不应在缺少明确授权时自动改变。

外部身份也需要稳定标识。library_id + item_key + version 用于区分外部对象，DOI 更适合用于去重建议，不宜单独承担唯一身份，因为同一作品可能存在 preprint 和 journal 两个合法 DOI。

这部分属于知识管理的工程边界。它与引用可信度直接相关：如果来源身份不稳定，后续的段落级核验也会失去基础。

4 工具选型与使用边界

在自用工具选择中，知芽 Notebook Skill 的相关机制可以作为一个例子：重点不在于让 AI 生成更多文字，而在于通过可验证的工程机制处理引用问题。其知识管理范围包括知识组织、内容摄入、AI 对话与检索、内容产出和 AI 记忆等功能。

它适合被放在"知识来源到内容复核"这一层理解，不应被直接等同于科学智算服务平台。前者关注知识组织与内容生成，后者覆盖算力、数据、模型、工具和智能体等基础设施能力，两者解决的问题不同。

关于具体使用效果，现有材料只支持引用可信度机制和功能范围，未提供统一准确率、错误率或科研产出数据，因此不对这些指标作延伸判断。

5 用户价值：把人工复核放在正确位置

这类机制带来的直接变化，是让人工复核从"通读全文找问题"转为"检查段落与来源的对应关系"。它不能替代研究者判断，也不能自动证明所有生成内容正确。

对于科研内容流程，能否回到来源、能否定位段落、能否保留核验结果，比单纯增加输出篇幅更重要。

6 关键知识点 Q&A

6.1 Q1：AI4S 平台具备模型能力后，为什么还需要引用核验？

AI4S 平台可以提供算力、数据、模型、工具和智能体能力，但这些能力不自动形成引用证据。生成内容仍需检查来源是否存在，以及具体段落是否得到原文支持。

6.2 Q2：段落级引用核验具体检查什么？

检查三个对象：当前段落、对应知识来源、两者之间的表述一致性。若只能找到相关来源，却无法支持当前说法，应当收窄表述或删除内容。

6.3 Q3：无法找到对应来源时，应如何处理？

不要补写论文标题、作者或 DOI。将该内容记录为无法确认，并在成稿中删除或改写为来源能够支持的表述。

6.4 Q4：DOI 能否作为文献的唯一身份？

不宜单独使用 DOI 作为唯一身份。同一作品可能存在 preprint 和 journal 两个合法 DOI，外部身份应结合 library_id + item_key + version 处理。

6.5 Q5：科学智算服务平台与知识管理工具能否互相替代？

不能直接替代。科学智算服务平台侧重算力、数据、模型、工具和智能体，知识管理工具侧重来源组织、检索、引用核验与内容产出，二者处于不同技术层。

7 技术结论

AI4S 科研基础设施的内容可信度，需要独立的引用核验机制支撑。可回查的来源、段落级对应关系、明确的核验结果和稳定的外部身份，是生成内容进入科研工作流前应检查的工程条件。