Claude Code 27:研究与发表,已经是两件不同的事
Claude Code 27:研究与发表,已经是两件不同的事

Claude Code 让研究变得更容易了。但在传统意义上的高质量期刊发表这件事,却即将变得难上加难。*
这是我从今年年初就一直在思考的问题。当我坐下来,用最模糊的提案提示 Claude Code,让它全自动完成一篇论文时,这个想法在我脑中彻底成形。它自己想出了研究思路,设计了一套移位-份额工具变量识别策略(随后我又追加了一个提示,让它深入研读 Peter Hull 在 Mixtape Sessions 的 shift-share IV 工作坊代码库),自主爬取网络找到合适的数据,完成分析,写出论文。我随后将论文提交给 refine.ink,花了大约 40-50 美元获得审稿报告,上传报告后让 Claude 完成所有修改,再让 referee2(我 mixtapetools 仓库中的一个角色人设)对论文进行批判,同时开两个终端让 agent 用另外两种编程语言重写整个流程以做代码审计,确认无误后再次提交给 refine.ink,最终收尾。*
整个过程花了我 100 美元的 refine.ink 费用,前后不超过几个小时。我只是粗略浏览了那篇论文,但这段经历已经足以让我相信:论文工厂正在到来——不只是在期刊那一侧(那当然也会有),而是在论文生产的源头——研究者本身。就像任何一个经济学家会做的那样,我反复思考,于是有了这篇 Substack,它本质上是一篇关于学术出版新经济学的Claude Code 同人小说,背景设定在不远的将来。文章有些散漫,包含基于观测分布的模拟,以及一些假设弹性较大的简单经济学推理。所以它就是 Claude Code 同人小说。*
Coral Hart 过去每年写 10 到 20 部言情小说,现在她每年写超过 200 部。区别在于 ChatGPT。她把它描述为"帮助",尽管这个词在这里承载了巨大的分量。她靠这个赚到了六位数的收入,但你能感觉到,这更多来自产量而非质量本身。《纽约时报》在二月份对她进行了专题报道。
Hart 说她的认知产出提升了 10 到 20 倍。如此巨大的提升,来自比现在的 Claude Code 和其他 agent 写作系统简单得多的 LLM 方法。而且她写的是言情小说——一个有着固定套路、读者追求数量、发行渠道(亚马逊)来者不拒的类型。唯一的瓶颈是作者的时间,而这个工具消除了这个瓶颈。
但当同样的生产力冲击击中一个系统——而这个系统的瓶颈从来就不是生产本身,而是一套高度依赖编辑时间、技能、判断力,以及同样才华横溢的义务劳动者(即审稿人)来筛选"足够高质量"的层级化期刊结构——会发生什么?那些论文的质量呢?发表这件事呢?毕竟,写一篇稿子和在期刊上发表它是两回事,后者发生在论文写完之后。发表将会走向何方?
分布将会改变
如果顶级五大期刊(top-5)的无条件录用概率在 3-5% 左右,而生产一篇达到投稿质量的论文的成本趋近于零,那么期望值的计算就很直接了:写一百篇论文,全部投出去,管理一个庞大的组合。虽然大多数会失败,但只需要几篇命中就够了。不买彩票,就不可能中奖。
设想 top-5 的价值还没有变化——至少暂时如此。那么如果行使这个期权的成本已经崩塌,新增投稿数量将取决于整个流程中各节点的弹性大小。我的直觉是,许多节点的供给响应变得更有弹性,意味着我们应该预期大规模的供给反应;但并非所有节点都如此,在那些仍然缺乏弹性的节点上,我们应该预期瓶颈的出现,进而是排队,以及几乎可以肯定的噪声注入。
Reimers 和 Waldfogel 研究了 ChatGPT 发布后书籍出版领域发生的变化。 亚马逊上的新书数量增加了三倍,平均质量下降,最好的书变化不大——前沿保持原位。但大量新涌入者来自质量分布的左尾。
我稍后会详细解释图表中的数字,但现在先把它作为一个视觉参照来引导你阅读这篇同人小说。绿色代表最高质量论文的数量,以近 87 种期刊的发表情况为代理(数据来自我在网上找到的文章)。历史上大约有 3,800 个发表名额。黄色是 AI 出现前的人工投稿数量,通过遍历所有 87 种期刊、估算录用率、结合每年平均期数和文章数量来计算。虽然顶级 87 种期刊的录用率从 5% 到 20% 不等,但整体平均值更接近 10%,因此我外推得出 39,016 这个数字。我认为这个数字有误差,但误差不会太大。
蓝色是来自 AI 的、呈正态分布的大规模 5 倍投稿增量。其中一些是完全自动化的,意味着在没有人工介入的情况下只用几个小时就完成了;另一些则需要数周时间,人工深度参与,但仍然比历史上花费的时间少得多。我将其建模为正态分布,因为论文质量是许多独立因素的乘积——选题、数据、执行、写作——而由许多独立输入决定的数量往往趋向正态分布。
现在来看经济学领域正在发生的事情。苏黎世大学社会催化实验室正在运行一个名为 Project APE 的项目——自主政策评估。它使用 Claude Code 自主生成实证经济学论文。不是草稿,而是完整的论文,包含识别策略、数据收集、估计、表格、图形和写作。截至撰写本文时,它已经生产了 204 篇论文,其中一周内新增了 60 篇。他们的目标是 1,000 篇。
但这些论文质量如何?在一对一的竞争中,AI 论文对阵来自 AER 和 AEJ: Policy 的人类论文,胜率为 4.7%。Elo 差距巨大——AI 论文的平均分为 1,154,而同等 AER 文章的平均分为 1,831。但从图表中也可以看出,分布呈正态,且右尾有足够的质量,足以支撑这样的想法:部分论文可能达到高质量期刊的水准,但只有在足够大的规模下才能实现。

少数 AI 论文确实进入了 247 篇参赛论文中的前 40 名。这正是你在 AI 论文来自正态分布时所期待的——毕竟正态分布的尾部理论上可以延伸到负无穷(糟糕得令人震惊)和正无穷(百万分之一的精彩)。而他们最近一批的工作已经在改进,胜率略微提升至 7.6%。
再想想:这些都是完全自动化的论文,就像 1.0 版本,没有任何人工迭代。如果这些论文经过深度审视,或者通过 refine.ink 这样的服务打磨,会发生什么?
短期内的期刊收入
我试图为这个图示做一些简单的粗略估算,但我用的基准数字是从各处找来的。所以让我们从一些基本的、尽管是近似的关于我唯一有资格谈论的职业——我自己的职业——的基本事实开始。
大约有 12,000 名活跃研究经济学家向排名期刊投稿,目前每年产生约 39,000 份投稿——每位研究者大约 3 份。如果平均值从 3 增加到 10,仅来自现有作者的投稿就会增加 3 倍。再加上此前无法达到投稿质量的新入场者,就达到了 4-5 倍。这就是我得出 5 倍这个数字的方式。
但 3D 打印一篇稿子并不等于发表的成本,因为投稿时还需要支付期刊费用,而这是线性增长的。即便如此,管理这个组合的成本仍然微乎其微。平均投稿费为 112 美元,从 3 篇增加到 10 篇需要额外支付 784 美元的费用,再加上每月 200 美元的 Claude Max 订阅,将产出翻三倍的年度总成本约为 3,200 美元。这比参加一次学术会议的费用还少。不是所有人都负担得起,但考虑到一篇 top-5 论文的现值期望收益相当可观,加上经济学家的薪资水平,我预计有相当数量的人处于这个临界点。而且合著者还可以分摊费用。
对当前费用水平下 3,800 个名额的需求几乎完全无弹性。让我稍微滥用一下弹性的概念来说明这一点:考虑到投稿量的增加,即便提高价格,投稿数量仍然会高于 Claude Code 出现之前的水平。这不是严格意义上的弹性(弹性是一个其他条件不变的度量),但也值得记住。期刊面临的,是从一股涌浪到一场巨浪的冲击。
我收集了 87 种经济学期刊的数据——top-5、按层级划分的综合兴趣期刊、AEJ 系列、顶级领域期刊、二线和三线期刊,并按类别对录用率进行了近似分组。这些期刊合计每年发表约 3,800 篇文章,收到约 39,000 份投稿。
这 3,800 个名额在短期内是固定的。期刊无法在一夜之间增加页数、聘用更多编辑或扩大期数。需求对供给的右移没有反应,只是将 3,800 份投稿分配到 3,800 个名额中。
top-5 目前接受约 5% 的投稿。在 5 倍投稿量下,这一比例降至 1%;在 10 倍时,降至 0.5%。因此,如果期刊什么都不做,录用率必然下降。
那么,假设期刊什么都不做,只是一如既往地运作,会发生什么?他们将要赚很多钱。
以目前的投稿量,这 87 种期刊每年从投稿费中收取约 620 万美元。在 5 倍投稿量下,这一数字将达到 3,100 万美元。仅 top-5 就将从 81.2 万美元增至 410 万美元——大部分来自在一周内被桌面拒绝的论文。
编辑、审稿人与瓶颈
每篇投稿都会运行过所有可以想到的稳健性检验。每篇论文都会经过 refine.ink 的打磨,可能是多次。经济学文章本来就以篇幅长著称,而它们即将变得更长。预计会有更多附录,更好的写作,以及更多"精美图表"。
想想 refine.ink 这类服务的经济学。Ben Golub 的服务恰好处于生产链中的最佳位置,有时可以为同一篇论文多次收费——投稿前、编辑筛选期间、审稿期间,以及修改后再投(R&R)之后。每篇论文可能产生四到五次付款。这是一个绝妙的商业模式,因为它解决了人工评估所造成的瓶颈问题。研究者不仅要支付额外的期刊费用,还要支付验证费用。
但讽刺的结果是,如此密集的反复打磨之后,每篇论文反而变得更难区分了。当每篇投稿都经过精心打磨、实证严谨时,编辑的信噪比不会提高——反而会变差。"这篇论文执行得很好"这一信息的边际信息含量降至零,因为左尾不再拖曳延伸,而是撞上了一堵由写作精良、有数据、有执行、可能还有有趣结论的高度相似论文构成的巨墙。在桌面上立即拒绝那些不达标论文的技能可能会被拉伸,但我怀疑这种情况确实会发生,他们将不得不翻阅大量论文——如果他们不这样做,而是依赖启发式判断,那么问题就变成了:在这个新环境中,这些启发式判断会有多大偏差?
但桌面拒绝只是第一阶段,第二阶段是审稿。投稿量可以增加 5 倍,但审稿人池无法增加 5 倍,因为它受限于博士学位获得者的数量。大多数审稿人没有报酬——就像税收是生活在文明社会的代价,担任审稿人是生活在学术社会的代价。你要求终身教授花费 10-20 小时评估别人的论文,作为一种职业义务。在目前的投稿量下,这勉强能运转。但在 5 倍投稿量下,它会崩溃。说实话,在 1.5 倍时可能就会崩溃。在这里插入图片描述
我们需要对桌面拒绝率和审稿人池做一些猜测。假设审稿人池保持不变,那么桌面拒绝率必须从大约 50% 上升到大约 90%,才能防止系统崩溃。编辑每年将在粗略浏览后拒绝 173,000 份稿件——10 篇中拒 9 篇,每篇花费的时间更少。
不可避免地,模式匹配的捷径将会出现。比如什么?除了稿件本身,还有什么可观察的因素可能与质量相关?也许是研究者的学术谱系、名气、机构背景。如果这些因素与质量相关,哪怕只是微弱相关,那么编辑可能会在看到这些信息时更新判断,试图在噪声中找到信号。但这是不完美的,更不用说不公平了,因此桌面拒绝变得更加嘈杂:好论文被疲惫的编辑扼杀,而质量稍差的论文却溜进了审稿环节。这是一种级联失败:投稿量压垮编辑,编辑失灵浪费审稿人,审稿人被浪费拖慢科学进步。
但如果 5 倍增量中的一部分投稿被传递给审稿人呢?在 5 倍投稿量下,如果不大幅提高桌面拒绝率,系统每年将需要超过 146,000 份审稿报告——而现实的供给量可能只有 54,000 份左右。这是因为历史上每篇论文有 2 到 5 位审稿人。你不能把同一个人力资源压榨三倍还期望它顺从。在某个时刻,"税收是文明的代价"这个论点将会崩溃。公民们历来会对税收政策发起反抗,哪怕只是温和的税收政策。
那么谁来填补这个缺口?正是造成问题的那个东西:LLM。诚实的答案可能让人不舒服,但请考虑这一点——人类审稿从一开始就没有报酬。它始终是自愿的无偿劳动。以人为中心的系统已经运行得足够好,持续了数十年乃至数百年,取决于我们如何定义"足够好"。但请记住两件事:在科学史的大部分时间里,人类同行评审并不存在;其次,人类同行评审已经造成了有据可查的发表偏见,包括可重复性危机。我认为 refine.ink 将 LLM 密集用于审稿视为一种非常近期的均衡状态,因为看看他们订阅模式下的第三个选项——“最适合编辑和频繁发表者”。
没有赢家的军备竞赛
我之前提出的期望值计算有一个问题。对任何个体研究者来说,它都是正确的——但当所有人都这么做时,集体结果对几乎所有人来说都更糟。这大概接近于一个囚徒困境。
如果一个研究者是唯一一个用 LLM 扩大投稿规模的人,那么他会获得优势。但如果这种优势是真实的,他就不会是唯一一个。因此在新的均衡中,每个人都多产出 2-3 倍的论文,导致录用率下降,进而使发表任何特定论文的概率降低——尽管可以说编码错误更少,也许每个人的工作质量个别来看也更好。但现在要处于这个新均衡,他们每年需要额外花费 3,200 美元,整个行业都在加速奔跑,争夺 3,800 个名额。而你无法单方面停下来,因为如果你回到 3 篇论文而其他人都在投 10 篇,你的处境会严格变差——除非你能保证自己在所有这些噪声中会被区别对待。
机构的应对
但这些都是短期的事情。长期会怎样?从长远来看,所有固定投入都是可变的,所以我们可能会预期一些我们认为不可改变的事情变得非常可变。比如提高投稿费。
如果对名额的需求是无弹性的,那么我们绝对应该预期期刊费用会上涨。我预计更高的投稿费将最重地落在教学负担较重的初级教师、发展中国家的研究者,以及任何没有科研经费或慷慨研究预算的人身上。
top-5 的回报也会上升,至少在一段时间内如此,因为论文数量的增加将导致录用率下降。目前,AI 自动化的论文中很少有能与 AER 同等水平的论文正面竞争的,但有些会做到,因为正态分布理论上会产生延伸至正负无穷的长尾。墨菲定律说,只要有足够多的试验,任何可能发生的事情都会发生。限制这一点的是人们是否会将能力推向极限,但这种可能性绝对存在,其约束更多来自规范而非能力。
为了应对这种情况,我确实预计会看到 AI 在桌面审查中的应用。如果 LLM 已经能够产生高质量的审稿报告,那么编辑为什么不用它们来淘汰候选者呢?这就是 Ben 的商业模式的聪明之处——它帮助投稿者,而随着论文生产的增加,其收入也会增长,既来自早期评估,也很可能来自对同一稿件的第二次评估——也许就在投稿团队提交后几分钟,由编辑完成。重复评估也很可能发生,这还不算之前的打磨和 R&R 之后的再打磨。
结果:更多的论文,大致相同的发表数量,期刊赚得更多,评估服务赚得更多,很可能还会双重收费,审稿人面临更多请求,教师每年多花数千美元,却只是维持均衡,没有任何明显的技术优势。军备竞赛带来的无谓损失可能不严格为零。
我认为即将发生的事
即使在桌面有 AI 筛选,噪声也不会消失——它很可能只是迁移了。完美的自动化筛选可以回答"这篇论文是否有能力?"但它无法回答"这篇论文比那篇更重要吗?"当 20,000 篇有能力的论文竞争 3,800 个名额时,最终决定取决于质量以外的东西——编辑的品味、话题的时尚、审稿人的心情、机构的先入之见。在录用率低于 1% 的情况下,你是在用越来越任意的标准从一群合格的论文中进行筛选。
有一个迹象值得关注:看看人们的学术主页。现在,一个高产的经济学家可能会列出 6-12 篇工作论文。两年后,随着自动化,有人真的会在主页上发布 75 篇未发表的稿件吗?这就是论文工厂的标志,对所有人都可见——招聘委员会、终身教职评审、基金评审小组。即使每篇论文都有能力,75 篇未发表的稿件传递的信号是"这个人在玩彩票",而不是"这个人在做重要研究"。在这个均衡中获益最多的人,是那些本来每年就能产出 1-2 篇优秀论文、并用 AI 让每篇论文更好而非更多的人。可能出乎意料地受到惩罚的,是那些将论文生产规模化为大量产出的人,因为产量是可见的——在学术主页上,也对编辑可见——它会暗示一个人是在写论文而不是在做研究,市场会相应地给出定价,不管那是什么。
记住——这是我们将会使用的这些工具的最差版本。Project APE 最近一批的胜率已经从 4.7% 提升到 7.6%。质量分布正在随着规模变化,并部分向右漂移。一旦 AI 论文开始不仅在领域期刊,而且在综合兴趣期刊上具有竞争力,那时军备竞赛将最为激烈,因为自动化投稿不再只是填充左尾了。它们在争夺最好期刊的相同名额,而这在科学上也越来越容易被证明是合理的,因为那些大概也是最重要的论文。
科学的约束正在从生产转向评估。等待被评估的队列——而不是完成工作的难度——成为决定知识进步速度的因素。而那个没有人想回答的诚实问题是:人类的守门人制度是否仍然是管理这个队列的正确方式,还是我们应该让造成洪水的同一工具来帮助筛选它。
我认为显著的颠覆是三个月后的事,而不是三年后。供给曲线已经移动了。对发表名额的需求曲线还没有动。其他一切都由此而来。
三个思考问题
Q1:作者把学术论文生产的 AI 冲击类比为言情小说市场,这个类比成立吗?两个场景的核心差异在哪里?
类比有一定成立之处——两者都是"生产成本骤降、产量爆炸式增长"的故事。但核心差异在于评价机制的性质不同。言情小说的"发表"是亚马逊上传,没有守门人,读者用购买行为投票,市场出清是实时的。学术论文的"发表"则通过一个人工稀缺的层级结构(编辑+审稿人)来筛选,这个结构的产能是刚性的,无法随供给扩张而自动扩张。所以言情小说市场的均衡调整是"平均质量下降、总产量上升、头部不变",而学术市场的均衡调整是"瓶颈积压、噪声增加、筛选标准漂移"——两者的失调机制完全不同。言情小说市场没有"审稿人短缺"这个问题,但学术市场的核心危机恰恰在这里。
Q2:作者认为"在这个新均衡中获益最多的是本来就能产出优秀论文、用 AI 让每篇更好的人"。这个判断在逻辑上是否自洽?
这个判断有其内在张力。作者一方面指出,当所有论文都被精心打磨后,信噪比反而下降,编辑越来越难以区分质量;另一方面又说"用 AI 提升质量而非数量"的人会获益。但如果筛选机制已经在噪声中漂移、越来越依赖机构背景和名气等启发式信号,那么"论文本身更好"这件事的边际回报究竟有多大,是值得怀疑的。作者的判断更像是一种规范性期望(“应该如此”),而非对实际均衡的预测。真正的悖论在于:如果所有人都用 AI 提升质量,那"质量提升"本身就不再是差异化信号,最终还是回到了囚徒困境的逻辑——每个人都在更努力地跑,但相对位置没有改变。
Q3:作者提出"科学的约束正在从生产转向评估",这对学术界(尤其是社会科学领域)意味着什么?
这个判断对学术界有特殊的结构性含义。学者在国际顶刊发表的压力持续上升("双一流"考核、人才项目评价等),但学者在国际期刊的审稿人网络中的嵌入程度相对较低,这意味着在"编辑依赖机构背景和名气进行启发式筛选"的新环境中,机构的学者可能面临双重不利:既承受投稿量暴增带来的竞争压力,又在启发式筛选中处于相对弱势。另一方面,如果 AI 辅助论文生产真的在三个月内造成显著冲击,那些率先建立 AI 辅助研究工作流的学者可能反而能利用这个窗口期——在筛选机制尚未完全适应之前,以更高的产出频率提高命中概率。但这同样是一场没有赢家的军备竞赛的局部版本。
更多推荐



所有评论(0)