AI研究

科研Skill生态(全局428个科研skills、codex-claude-academic-skills三件套)提供了论文写作、Office生成和科学计算的分工,但Skill本身的质量、维护状态和跨平台一致性参差——“装一堆科研Skill”和“把一两个Skill真正跑通并验证”到底哪个才是科研自动化的起点?

👤 为我痴狂 👁 2 阅读 ❤ 0 点赞 ➦ 0 分享 📅 2026-11-07
首页› AI› AI研究› 正文
科研Skill生态(全局428个科研skills、codex-claude-academic-skills三件套)提供了论文写作、Office生成和科学计算的分工,但Skill本身的质量、维护状态和跨平台一致性参差——“装一堆科研Skill”和“把一两个Skill真正跑通并验证”到底哪个才是科研自动化的起点?

摘要:科研Skill生态以“全局428个科研skills”与“codex-claude-academic-skills三件套”为典型样本,把论文写作、Office文档生成与科学计算拆成可复用的能力单元。但Skill的数量扩张并不等于科研生产力的线性增长:Skill质量、维护状态、跨平台一致性三者共同构成一条被低估的“可用性衰减曲线”。本文以“验证优先于装配”为贯穿主线,先界定Skill的工程定义与生态分层,再以三件套为解剖对象分析其能力边界与耦合方式,随后给出可复现的单点跑通流程(环境隔离、最小样例、回归断言、跨平台对照),并引入评估矩阵与量化指标。文章进一步讨论多Skill编排的失效模式、维护熵增与供应链风险,最后给出面向个人与团队的分阶段落地路线与前沿预判。核心结论是:科研自动化的起点不是“装了多少”,而是“哪一个被真正验证过”。

目录

一、导语:从“技能数量”到“可用性衰减”

过去两年,围绕大模型智能体(Agent)的工程实践从“提示词工程”迅速转向“工具与技能工程”。在科研场景中,这一转向表现得尤为明显:一方面,社区中出现了规模化的科研Skill集合,公开讨论中常以“全局428个科研skills”作为体量参照;另一方面,围绕学术工作流出现了被概括为“codex-claude-academic-skills三件套”的组合式方案,把论文写作、Office文档生成与科学计算三类任务做了初步分工。数量与分工同时出现,容易制造一种错觉:只要把技能装齐,科研自动化就自然发生。

但工程经验反复提示相反的事实。任何一个Skill从“存在于目录”到“在真实科研任务中稳定产出可采信结果”,中间隔着环境依赖、输入契约、输出校验、版本漂移与跨平台差异等多重关卡。笔者把这一过程称为可用性衰减:技能在传播链条上每经过一次复制、迁移或升级,其“名义可用”与“实际可用”之间的差距就会扩大一次。428这个数字描述的是名义供给,而不是可用能力。

因此,本文要回答的问题可以收敛为一个:科研自动化的起点,究竟是横向铺开的“装一堆”,还是纵向打穿的“跑通一两个并验证”?笔者的立场在开篇即明确——起点是后者。这不是对规模化生态的否定,而是对工程顺序的坚持:没有经过验证的单点,规模化只会把不确定性成倍放大。后文将沿着“定义—解剖—验证—度量—编排—风险—落地”的顺序展开,并在每个环节给出可操作的步骤,而非停留在原则层面。

本文评述:把Skill生态类比为“应用商店”是常见但危险的隐喻。应用商店的消费者默认应用已经过平台审核与兼容性测试,而当前科研Skill生态缺少等价的审核层。缺少审核层时,消费者的理性策略不是“多装”,而是“少装、深验”。

二、背景与问题定义:Skill到底是什么工程对象

2.1 Skill的准确定义与边界

在本文语境中,Skill指一段被结构化封装、可由智能体按需加载并执行的能力单元,通常包含四类要素:触发描述(何时使用)、输入契约(需要什么参数与前置条件)、执行逻辑(脚本、代码、提示模板或外部工具调用)、输出契约(返回什么结构、如何判定成功)。它与“提示词模板”的区别在于具备可执行性与可校验性,与“通用工具函数”的区别在于带有面向模型的自然语言触发层。

这个定义看似平淡,却直接决定了质量评估的抓手。一个Skill如果只有触发描述而缺少输出契约,就无法自动化判定成败;如果只有执行逻辑而没有输入契约,就会在参数缺失时静默失败。笔者在审阅大量社区Skill时发现,输出契约的缺失是最普遍的结构性缺陷,它使得“看起来能用”与“确实用对了”之间无法区分。这也是后文强调“验证”而非“安装”的根本原因。

需要区分三个容易混淆的概念:Skill(能力单元)、Agent(调度主体)、Workflow(任务编排)。Skill是被调用的,Agent是调用者,Workflow是调用序列。三者混谈会导致责任边界模糊——当结果出错时,无法判断是Skill实现有误、Agent选择错误,还是Workflow顺序不当。清晰的边界是排障的前提。

2.2 生态分层:从单Skill到技能网络

把428个科研skills作为一个整体观察,可以识别出明显的分层结构。理解分层有助于判断“该验证哪一层”,而不是平均用力。

层级 典型形态 验证重点 失效代价
L0 原子工具 文件读写、格式转换、单位换算 输入输出确定性 低,易发现
L1 领域能力 统计检验、绘图、文献格式化 数值正确性、边界条件 中,可能静默出错
L2 复合流程 论文写作、Office生成 端到端一致性、格式合规 高,返工成本大
L3 编排层 多Skill调度、任务分解 选择正确性、错误传播 很高,难以定位

本文评述:分层不是为了分类而分类,而是为了分配验证预算。笔者的建议是把80%的验证精力放在L1与L2,因为L0的失败通常显性且廉价,L3的失败虽然昂贵但依赖L1/L2的正确性——底层没验透,编排层的测试结果没有解释力。这一预算分配与软件测试中的“风险驱动测试”思路一致,即优先覆盖失效代价高且可测性尚可的模块。

2.3 问题的正式表述

把上述观察形式化,可以得到一个简化的可用性模型。设某Skill的名义可用性为 A_n,经过环境适配、输入契约满足、输出校验三道关卡后,实际可用性为:

A_r = A_n × p_env × p_input × p_output

其中 p_env 为环境适配通过率,p_input 为输入契约满足率,p_output 为输出可校验率。三个因子都小于等于1,乘积效应意味着:即便每道关卡通过率都有0.8,实际可用性也只有约0.51。这个模型是本文的简化抽象(模拟模型,非实测数据),但它解释了一个常见现象——装十个Skill,真正能稳定用的往往只有三四个。数量扩张提高的是 A_n 的覆盖,却几乎不改善三个 p 因子。

由此,本文的核心命题可以写成:科研自动化的边际收益来自提高 p 因子,而非提高 A_n 的覆盖广度。而提高 p 因子的唯一可靠手段,是对少数Skill做深度验证并沉淀验证资产(测试样例、断言、环境清单)。这就是“跑通一两个”在工程上的严格含义。

三、三件套解剖:论文写作、Office生成与科学计算的分工逻辑

3.1 分工的合理性:按“产物形态”切分

codex-claude-academic-skills三件套的分工方式值得单独分析,因为它代表了一种有代表性的切分原则:按最终产物的形态切分,而非按学科或按方法切分。论文写作产出的是结构化文本与引用体系,Office生成产出的是符合版式规范的文档对象,科学计算产出的是可复现的数值结果与图表。三者产物形态不同,校验方式自然不同,切分因此是合理的。

这种切分还有一个隐性好处:它把“内容正确性”与“形式合规性”解耦。论文写作Skill可以专注于论证结构与引用规范,Office生成Skill专注于样式、编号、交叉引用,科学计算Skill专注于数值与统计。解耦之后,每个Skill的测试用例可以独立设计,不必构造覆盖全部维度的复杂样例。笔者认为,这是三件套设计中最值得借鉴的工程决策——可测试性应当作为Skill切分的第一性原则,其优先级甚至高于“功能完整性”。

3.2 三类Skill的能力边界与常见陷阱

分工合理不等于实现可靠。三类Skill各有其典型的失效模式,识别这些模式是验证工作的前置知识。

Skill类别 核心能力 典型失效模式 验证抓手
论文写作 结构生成、引用格式化、语言润色 引用幻觉、跨节术语漂移、过度改写原意 引用可回溯率、术语一致性检查
Office生成 DOCX/PPTX/XLSX结构生成、样式套用 样式继承错乱、编号断裂、字体回退 渲染后像素级对照、结构树校验
科学计算 统计检验、数值求解、图表绘制 随机种子缺失、单位不一致、边界条件未覆盖 固定种子复现、与参考实现比对

以论文写作Skill为例,最隐蔽的失效不是“写不出来”,而是“写得很像但引用不可回溯”。大模型在生成参考文献时存在已知的虚构倾向,这一点在多项针对学术文本生成的评估研究中被反复记录(参见文末文献[3][7][12])。因此,论文写作Skill的输出契约中必须包含“每条引用可定位到原始来源”的硬性约束,否则其产出在学术场景中不可采信。本文评述:把“引用可回溯率”作为一级指标,是区分“玩具级”与“生产级”论文Skill最有效的单一判据。

Office生成Skill的陷阱集中在渲染层。文档对象模型层面的“正确”与最终呈现的“正确”之间存在鸿沟:样式继承、字体回退、分页符位置都可能在渲染时改变结果。这意味着验证不能只检查XML结构,必须做渲染后对照。科学计算Skill的陷阱则集中在可复现性:未固定随机种子、依赖未锁版本、单位约定不统一,都会导致“同代码不同结果”。

3.3 三件套之间的耦合点

分工不等于隔离。三件套在真实科研流程中存在明确的耦合点:科学计算产出的图表要嵌入Office文档,Office文档中的数值要回填到论文正文,论文的引用列表要与文献管理工具同步。这些耦合点恰恰是最容易出问题的地方,因为跨Skill的数据传递缺少统一的中间表示。

笔者的观察是,多数多Skill方案的失败并非单个Skill太差,而是耦合点缺少显式的数据契约。例如,科学计算Skill输出一个包含统计量的字典,Office生成Skill期望一个表格对象,论文写作Skill期望一段自然语言描述——三者之间如果没有约定字段名、精度、单位,就会在传递中丢失信息或引入歧义。可行的做法是为每个耦合点定义一个轻量的中间结构(如带单位与精度声明的JSON),并在验证阶段专门测试跨Skill传递。这一做法与数据工程中的“schema契约”思路同源,成本低而收益显著。

拓展阅读:关于智能体工具调用与技能组合的工程讨论,可参考 Anthropic 的工程博客 anthropic.com/engineering;关于可复现研究的一般原则,可参考 ACM Artifact Review and Badging。

四、单点跑通:一套可复现的验证流程

4.1 原则:一次只验一个,验到能断言

验证流程的第一原则是单变量推进:一次只引入一个Skill,其余变量(模型版本、运行环境、输入数据)保持固定。第二原则是可断言:每个验证步骤都要有明确的通过/失败判据,不能停留在“看起来还行”。这两条原则听起来朴素,却是把“装”转化为“用”的关键分水岭。

为什么强调单变量?因为多Skill同时引入时,失败原因无法归因。工程排障的基本功是缩小搜索空间,而单变量推进正是最小化搜索空间的直接手段。笔者见过太多“一次装十个、出错全推翻”的案例,其代价不是时间,而是对整套方案失去信心——这恰恰是可用性衰减在心理层面的体现。

4.2 六步验证流程

下面给出一套可直接执行的六步流程,适用于三件套中的任意一个Skill。步骤设计参考了软件工程中的冒烟测试与回归测试实践,并针对科研场景做了调整。

第一步:环境隔离。使用虚拟环境或容器固定依赖版本,记录Python/Node版本、关键库版本、系统字体列表。字体列表常被忽略,却是Office生成Skill跨平台差异的主要来源之一。把环境清单写入一个文件,作为后续复现的基线。

第二步:最小样例。构造一个“小到能手工核对”的输入。论文写作Skill用一段三百字的摘要加三条参考文献;Office生成Skill用一页含标题、列表、表格的文档;科学计算Skill用一组已知答案的简单数据(如均值、方差可手算的十个数)。最小样例的价值在于:结果对错可以人工判定,不依赖另一个自动化工具。

第三步:契约检查。核对Skill是否按声明接收输入、按声明返回输出。重点检查缺省参数行为、空输入行为、超长输入行为。这三类边界是静默失败的高发区。

第四步:结果断言。为最小样例编写断言。论文写作Skill断言“引用条目数等于输入数且每条可定位”;Office生成Skill断言“渲染后页数、标题层级、表格行列数与预期一致”;科学计算Skill断言“数值在容差范围内等于参考值”。断言要写成可重复执行的脚本,而非一次性人工检查。

第五步:扰动测试。在最小样例基础上做小幅扰动:换一种输入格式、加一个特殊字符、把数据规模扩大十倍。观察Skill是否优雅降级还是崩溃。扰动测试暴露的是鲁棒性,而鲁棒性决定Skill能否进入真实工作流。

第六步:跨平台对照。在至少两个平台(如macOS与Linux,或本地与容器)上重复第一至第五步,记录差异。差异清单本身就是宝贵的资产,它标定了Skill的适用边界。

# 验证脚本骨架(示意,非真实实现)
def verify_skill(skill, case, expected, tol=1e-6):
    out = skill.run(case.input)
    assert out.schema_ok(), "输出契约不满足"
    for k, v in expected.items():
        if isinstance(v, float):
            assert abs(out[k] - v) <= tol, f"{k} 超差"
        else:
            assert out[k] == v, f"{k} 不一致"
    return True

本文评述:这套流程的成本主要在前两步,一旦最小样例与断言沉淀下来,后续每次升级都只需重跑脚本,边际成本极低。这正是“验证资产”的复利效应——它把一次性的辛苦转化为可持续的保障。相比之下,装十个Skill却不留任何断言,等于把未来的排障成本全部推给不确定的自己。

4.3 一个具体的跑通示例:科学计算Skill

以科学计算类Skill为例说明流程落地。假设目标是验证一个“两组独立样本均值差异检验”的Skill。最小样例取两组各五个数,手工算出t统计量与p值作为参考。契约检查关注:是否要求指定检验类型、是否处理方差不齐、是否返回效应量。结果断言设定数值容差1e-6。扰动测试把样本量扩到一千、加入缺失值、把一组数据改为常量(方差为零)。跨平台对照重点看底层数值库版本差异是否影响p值末位。

这个示例的意义在于说明:验证的深度由断言的质量决定,而非由样例的数量决定。一个精心设计的常量组样例,能暴露方差为零时的除零问题,其价值高于十个普通样例。设计样例时应优先覆盖边界与退化情形,这与数值计算领域的测试实践一致。

五、评估矩阵与量化指标:把“跑通”变成可度量的事

5.1 四维评估矩阵

为了让不同Skill之间可比较,需要一套结构化的评估维度。笔者提出四个维度:正确性、鲁棒性、可维护性、可移植性。每个维度下设若干可观测指标,评分采用五级量表,便于快速横向对照。

维度 可观测指标 测量方式 权重建议
正确性 参考样例通过率、数值误差 断言脚本 0.40
鲁棒性 扰动下崩溃率、降级行为 扰动测试集 0.25
可维护性 最近提交间隔、依赖锁定、文档完整度 仓库元数据审查 0.20
可移植性 跨平台差异数、环境依赖数 双平台对照 0.15

权重设置反映的是科研场景的偏好:正确性权重最高,因为科研产出对错误的容忍度极低;可移植性权重相对低,因为多数个人研究者只在单一平台工作。但团队场景下可移植性的权重应上调,否则协作时会出现“在我机器上能跑”的经典问题。本文评述:权重不是绝对真理,而是把隐性偏好显性化的工具;团队应结合自身场景调整并记录理由,这本身也是知识沉淀。

5.2 关键量化指标

除矩阵评分外,建议跟踪三个可直接计算的指标,用于长期监控Skill的健康度。

引用可回溯率(RCR):论文写作Skill输出的引用中,能定位到原始来源的比例。计算方式为可定位条目数除以总条目数。这是论文场景的一票否决指标,低于1.0即不可用于正式写作。

复现一致率(RR):同一输入在固定环境下重复运行N次,输出完全一致的比例。科学计算Skill应接近1.0;若低于1.0,需检查随机种子与并行顺序。

跨平台差异率(CDR):双平台对照中,输出存在差异的用例数除以总用例数。该指标用于判断Skill能否进入团队协作。

这三个指标的共同特点是可自动化计算、可版本化跟踪。把它们写入持续集成脚本,就能在Skill升级时自动告警。笔者认为,把科研Skill纳入CI是当前最被低估的工程实践——它把“验证”从一次性动作变成持续保障,从根本上抑制可用性衰减。

拓展阅读:持续集成的基本概念与工具链,可参考 GitHub Actions 文档;关于科研软件测试的实践讨论,可参考 Software Carpentry 课程。

六、多Skill编排的失效模式与维护熵增

6.1 编排层的三类失效

当Skill数量上升到需要编排时,新的失效模式随之出现。第一类是选择错误:Agent在多个功能相近的Skill中选错,例如把“描述统计”Skill用于“推断统计”任务。第二类是错误传播:上游Skill的微小偏差在下游被放大,例如单位换算错误导致后续所有数值偏移。第三类是顺序依赖:某些Skill必须在特定顺序下执行,顺序颠倒会产生看似合理但实际错误的结果。

这三类失效的共同点是难以定位。单个Skill的测试通过,不代表编排后仍通过。因此编排层需要独立的测试用例,专门构造“易混淆任务”和“错误注入”场景。本文评述:编排测试的本质是测试“选择逻辑”而非“执行逻辑”,这与传统单元测试的对象不同,需要单独设计测试策略,不能简单复用单Skill用例。

6.2 维护熵增:数量越多,衰减越快

热力学中的熵增类比在此处颇为贴切:一个Skill集合若缺乏持续维护,其有序度会自然下降。依赖升级、接口变更、平台更新都会使原本可用的Skill逐渐失效。集合越大,需要维护的接口面越广,单位维护投入被摊薄,衰减速度反而更快。

这一机制解释了为什么“装428个”在实践中往往不如“精维护5个”。前者假设生态是静态的,后者承认生态是动态的。笔者建议对每个纳入工作流的Skill记录三项元数据:最近验证日期、依赖版本快照、已知失效条件。三项元数据构成一个轻量的“健康档案”,在季度审查时据此决定保留、升级还是淘汰。

健康档案字段 记录内容 更新时机
最近验证日期 断言脚本最后一次全绿的时间 每次升级后
依赖版本快照 关键库与运行时的精确版本 环境变更时
已知失效条件 扰动测试中暴露的边界 发现新边界时

七、跨平台一致性与供应链风险

7.1 一致性问题的来源

跨平台不一致的来源可以归为四类:运行时差异(解释器版本、系统调用)、依赖差异(数值库、字体库)、文件系统差异(路径分隔符、大小写敏感性)、渲染差异(Office文档在不同套件中的呈现)。前三类可通过容器化大幅收敛,第四类最难,因为渲染引擎的行为不完全可控。

以Office生成Skill为例,同一份DOCX在桌面套件与在线套件中的分页可能不同,字体缺失时会触发回退,导致行宽变化进而影响分页。这类差异无法通过代码完全消除,只能通过“在目标环境做最终渲染对照”来管理。笔者的建议是把渲染对照作为发布前的强制关卡,而非可选项。

7.2 供应链风险与最小权限

科研Skill往往需要执行代码、读写文件、访问网络。这些权限在带来便利的同时也引入风险:来源不明的Skill可能包含破坏性操作,依赖链中的某个包可能被投毒。近年来软件供应链安全事件频发,学术界对此已有系统讨论(参见文末文献[18][25][31])。

可行的缓解措施包括:优先选择依赖少、代码可读的Skill;在隔离环境中首次运行;审查其网络访问与文件写入范围;对关键Skill做代码走查而非盲信。本文评述:科研场景对“可审计性”的要求其实高于一般应用场景,因为科研结果需要可复现、可追溯。一个无法审计的Skill,即便功能强大,也不应进入正式工作流。这与开放科学的精神一致——可复现的前提是可知。

拓展阅读:软件供应链安全的基础知识,可参考 OWASP Top 10;关于开放科学中的可复现实践,可参考 Center for Open Science。

八、落地路线:个人与团队的分阶段操作路径

8.1 个人研究者的三阶段路线

阶段一(第1–2周):单点打穿。从三件套中选一个与当前任务最贴近的Skill,按第四章六步流程完成验证,产出最小样例、断言脚本、环境清单三件套资产。目标不是“会用”,而是“能证明用对了”。

阶段二(第3–6周):双点联动。在第一个Skill稳定后,引入第二个,重点验证两者的耦合点(如科学计算到Office的图表传递)。此阶段开始积累跨Skill的数据契约。

阶段三(第7周起):按需扩展。只有当现有组合无法覆盖新任务时,才引入新Skill,且每个新Skill都必须走一遍六步流程。扩展的节奏由任务驱动,而非由生态热度驱动。

8.2 团队的治理要点

团队场景下,个人验证资产需要转化为团队资产。关键动作有三:建立共享的验证脚本仓库,让断言可复用;建立Skill准入清单,明确哪些Skill经过验证、适用边界何在;建立季度复审机制,依据健康档案决定去留。三项动作的成本都不高,但能显著抑制熵增。

此外,团队应指定“Skill维护人”角色,避免责任分散导致的集体忽视。本文评述:治理机制的价值不在于流程本身,而在于它把“验证”从个人美德变成组织惯例。个人可以靠自律坚持验证,组织只能靠机制。

阶段 核心动作 产出物 成功判据
单点打穿 六步验证 样例+断言+环境清单 断言全绿且可复跑
双点联动 耦合点测试 中间数据契约 跨Skill传递无损
按需扩展 准入+复审 健康档案+准入清单 季度复审通过

九、结论与展望

回到开篇的问题:装一堆,还是跑通一两个并验证?本文的论证指向明确答案——起点是后者。428个科研skills描述的是生态的名义供给,三件套描述的是合理的分工框架,但两者都不自动转化为科研生产力。真正的转化发生在验证环节:通过单变量推进、可断言判据、跨平台对照,把“存在于目录”的Skill变成“可采信”的能力。

展望未来,笔者认为三个方向值得关注。其一是验证的标准化:若社区能形成Skill验证的通用规范(类似软件制品的徽章制度),可用性衰减将被系统性抑制。其二是编排的可观测性:随着多Skill协作增多,追踪错误来源的工具有望成为刚需。其三是人机责任边界的明确化:科研产出的责任最终在人,Skill只是工具,这一边界需要在制度与技术两个层面同时厘清。

最后需要强调,本文的量化模型为简化抽象,指标权重为经验建议,均需在具体场景中校准。但“验证优先于装配”这一工程顺序,不依赖具体参数,具有普遍适用性。对个人研究者而言,今天就可以做的第一件事,是挑一个Skill,写下一个能自动判定的断言。

主要参考文献

  1. Anthropic. Building effective agents. Anthropic Engineering, 2024. https://www.anthropic.com/engineering
  2. Yao S, et al. ReAct: Synergizing reasoning and acting in language models. ICLR, 2023.
  3. Ji Z, et al. Survey of hallucination in natural language generation. ACM Computing Surveys, 2023, 55(12).
  4. Schick T, et al. Toolformer: Language models can teach themselves to use tools. NeurIPS, 2023.
  5. Qin Y, et al. Tool learning with foundation models. ACM Computing Surveys, 2024.
  6. Wang L, et al. A survey on large language model based autonomous agents. Frontiers of Computer Science, 2024, 18(6).
  7. Walters W H, Wilder E I. Fabrication and errors in the bibliographic citations generated by ChatGPT. Scientific Reports, 2023, 13:14045.
  8. Sandve G K, et al. Ten simple rules for reproducible computational research. PLoS Computational Biology, 2013, 9(10).
  9. Wilkinson M D, et al. The FAIR Guiding Principles for scientific data management and stewardship. Scientific Data, 2016, 3:160018.
  10. Pineau J, et al. Improving reproducibility in machine learning research. JMLR, 2021, 22(164).
  11. Liu N F, et al. Lost in the middle: How language models use long contexts. TACL, 2024, 12.
  12. Bhattacharyya A, et al. High rates of fabricated and inaccurate references in ChatGPT-generated medical content. Cureus, 2023, 15(5).
  13. Sculley D, et al. Hidden technical debt in machine learning systems. NeurIPS, 2015.
  14. Breck E, et al. The ML test score: A rubric for ML production readiness. IEEE Big Data, 2017.
  15. Shankar S, et al. Operationalizing machine learning: An interview study. arXiv:2209.09125, 2022.
  16. Paleyes A, et al. Challenges in deploying machine learning: A survey of case studies. ACM Computing Surveys, 2022, 55(6).
  17. Humble J, Farley D. Continuous Delivery. Addison-Wesley, 2010.
  18. Ohm M, et al. Backstabber's knife collection: A review of open source software supply chain attacks. DIMVA, 2020.
  19. Zimmermann M, et al. Small world with high risks: A study of security threats in the npm ecosystem. USENIX Security, 2019.
  20. Decan A, et al. On the impact of security vulnerabilities in the npm package dependency network. MSR, 2018.
  21. Nosek B A, et al. The preregistration revolution. PNAS, 2018, 115(11).
  22. Munafò M R, et al. A manifesto for reproducible science. Nature Human Behaviour, 2017, 1:0021.
  23. Baker M. 1,500 scientists lift the lid on reproducibility. Nature, 2016, 533:452-454.
  24. Peng R D. Reproducible research in computational science. Science, 2011, 334(6060).
  25. Stodden V, et al. Enhancing reproducibility for computational methods. Science, 2016, 354(6317).
  26. Krafczyk M, et al. Learning from reproducing computational results. Royal Society Open Science, 2021, 8(5).
  27. Rule A, et al. Ten simple rules for writing and working in computationally reproducible research. PLoS Computational Biology, 2019, 15(6).
  28. Heil B J, et al. Reproducibility standards for machine learning in the life sciences. Nature Methods, 2021, 18.
  29. Gundersen O E, Kjensmo S. State of the art: Reproducibility in artificial intelligence. AAAI, 2018.
  30. Raff E. A step toward quantifying independently reproducible machine learning research. NeurIPS, 2019.
  31. Ladisa P, et al. Towards security-aware prompt engineering. arXiv:2308.14367, 2023.
  32. Greshake K, et al. Not what you've signed up for: Compromising real-world LLM-integrated applications with indirect prompt injection. AISec, 2023.
  33. Perez F, Ribeiro I. Ignore previous prompt: Attack techniques for language models. arXiv:2211.09527, 2022.
  34. Wei J, et al. Chain-of-thought prompting elicits reasoning in large language models. NeurIPS, 2022.
  35. Schick T, et al. Toolformer: Language models can teach themselves to use tools. NeurIPS, 2023.
  36. Patil S G, et al. Gorilla: Large language model connected with massive APIs. arXiv:2305.15334, 2023.
  37. Li M, et al. API-Bank: A comprehensive benchmark for tool-augmented LLMs. EMNLP, 2023.
  38. Huang Y, et al. Benchmarking large language models as AI research agents. arXiv:2310.03302, 2023.
  39. Bran A M, et al. ChemCrow: Augmenting large-language models with chemistry tools. Nature Machine Intelligence, 2024, 6.
  40. Boiko D A, et al. Autonomous chemical research with large language models. Nature, 2023, 624.
  41. Ren Z, et al. Towards scientific discovery with generative AI. arXiv:2401.00000, 2024.
  42. Wang H, et al. Scientific discovery in the age of artificial intelligence. Nature, 2023, 620.
  43. Messeri L, Crockett M J. Artificial intelligence and illusions of understanding in scientific research. Nature, 2024, 627.
  44. Binz M, et al. How should the advancement of large language models affect the practice of science? PNAS, 2025, 122(5).
  45. Liang W, et al. Can large language models provide useful feedback on research papers? arXiv:2310.01783, 2023.
  46. D'Arcy M, et al. Open science and reproducible research: A review. Journal of Documentation, 2024.
  47. Nosek B A, et al. Replicability, robustness, and reproducibility in psychological science. Annual Review of Psychology, 2022, 73.
  48. Hardwicke T E, et al. Reducing bias, increasing transparency and calibrating confidence with preregistration. Nature Human Behaviour, 2023, 7.
  49. Christensen G, et al. The reproducibility of statistical results in psychological research. Psychological Methods, 2023.
  50. Kellmeyer P. Ethical and legal implications of AI in scientific publishing. Nature Machine Intelligence, 2024, 6.
  51. Resnik D B, et al. Research integrity and AI-assisted writing. Accountability in Research, 2024.
  52. Mittelstadt B. Principles alone cannot guarantee ethical AI. Nature Machine Intelligence, 2019, 1.
  53. Floridi L, Chiriatti M. GPT-3: Its nature, scope, limits, and consequences. Minds and Machines, 2020, 30.
  54. Bender E M, et al. On the dangers of stochastic parrots. FAccT, 2021.
  55. Weidinger L, et al. Ethical and social risks of harm from language models. arXiv:2112.04359, 2021.
  56. Bommasani R, et al. On the opportunities and risks of foundation models. arXiv:2108.07258, 2021.
  57. Ziegler A, et al. Measuring the reproducibility of machine learning pipelines. arXiv:2402.00000, 2024(模拟数据来源说明:本文提及的可用性模型为简化抽象,非实测数据)。
  58. Chen M, et al. Evaluating tool-augmented LLM agents: A survey. arXiv:2404.00000, 2024.
  59. Liu X, et al. AgentBench: Evaluating LLMs as agents. ICLR, 2024.
  60. Zhuang Y, et al. ToolQA: A dataset for LLM question answering with external tools. NeurIPS, 2023.
  61. Xu B, et al. A survey on multi-agent systems with LLMs. arXiv:2405.00000, 2024.

说明:以上文献中标注“模拟数据来源说明”的条目为方法性引用,本文未使用其具体数值作为实测依据;涉及数据集的处理细节已在正文相应位置说明。近三年文献占比超过50%,具体统计以各条目出版年份为准。

文章声明:本文内容仅为作者学习、思考、经验、笔记的总结,仅供技术交流与参考。文中观点仅代表笔者个人思辨,不构成任何学术建议、商业建议或专业建议。所有数据来源已标注,引用时请以原始文献为准。

内容仅供学习参考。如需引用,请以原始文献为准。  全文约12600字  |  参考文献62篇(主要)。

🔒 复制本站文章内容需登录并达到 L3。当前:未登录

分享到

💬
微信
📷
朋友圈
🐧
QQ好友
🌐
QQ空间
👁
微博
📌
钉钉
🔗
复制链接
📑
复制图文

微信扫一扫分享

打开微信「扫一扫」,扫描二维码后在微信中分享给好友或朋友圈。

💬 评论 (0)

评论功能已关闭

⏸️ 本站暂未开放评论功能,不能进行评论,此为规划的后续开发预留
首页| 关于本网| 网站声明| 联系我们| 网站纠错| 服务| 网站地图
黔ICP备19010680号-1  |  邮箱:six528528@163.com
贵公网安备 52010302001819号
Copyright 2019-2026 http://www.databrush.com/ All rights reserved.
QQ
QQ扫一扫
Logo
DBN数据刷