← 返回 2026-09-24 简报

Anthropic工程师解释Claude写作质量下降原因:模型被训练为面向AI而非人类

Anthropic 工程师解释为何 Claude 写作变差:模型被训练成写给 AI 看而非写给人看

语音播报
摘要
事件:Anthropic工程师解释Claude写作质量下降,指出模型因强化学习奖励机制偏向AI理解而非人类阅读,导致表达变得晦涩难懂。 要点:优化重点转向数学代码;训练数据含大量面向其他LLM的技术解释;Opus 5.5已找到平衡点,写作表现获工程师满意评价。 影响:开发者需警惕“Claude腔”对可读性的损害;行业应调整奖励机制以平衡机器理解与人类阅读体验;Anthropic正持续改进此问题。

IT之家 9 月 23 日消息,AI 模型在数学、编程和推理能力上进步迅速,写作水平却停滞不前,甚至有所退步,Anthropic 的 Claude 同样也存在这一问题。

为何 Opus 4.6 会成为 Anthropic 最后一款写作表现出色的模型?负责 Claude 微调的 Anthropic 工程师杰克逊 · 克尼恩今天(23 日)对此给出了解释:后续模型的优化重点更多放在数学和代码能力上。

这些模型还接受了大量面向其他 AI 模型撰写技术解释的训练,而这正是 Claude 逐渐形成奇特表达方式,也就是所谓“Claude 腔”(Claudeish)的主要原因。克尼恩称,模型被“调整得适应 LLM 心理”,最终学会了写给 AI 模型看,而不是写给人看。

克尼恩把这种现象类比为只与其他自闭症人士交流的人。此类群体会逐渐形成一套在群体内部沟通顺畅、外人却难以理解的表达方式。LLM 拥有远超人类的工作记忆,也能捕捉更细微的信息,因此在训练中会逐渐形成一种非常适合 AI 模型理解的写法,但在人类读者眼中,这种表达就成了过度密集的信息堆砌。

IT之家获悉,克尼恩认为,问题的根源在于强化学习的奖励机制。有些奖励机制着重提升 AI 模型的理解效果,有些则着重让人类更容易理解。数学和代码方面的训练越多,就越需要主动抵消这种倾向,对简洁、容易让人读懂的解释给予更多奖励。

克尼恩称,Anthropic 在 Opus 5.5 上找到了更好的平衡,“自 Opus 4.6 以来,我还没有对一款模型的写作表现这么满意过。”

当然,这样也并不代表 Opus 5.5 已经超越 Opus 4.6。“这是一个很难解决的问题,我们会继续改进。”

本条评分 11.6 score-v1
  • 来源权威 9
    注册表 priority=9(IT之家)
  • 时效 2.625
    发布 6.9 小时前,衰减到 2.63/3.0
  • 多源印证 0
    只有 1 家在报(无旁证)
  • 社区信号 0
    无社区数据(本管线走 RSS,HN 的 hn_fetcher 未接入)

首次收录 · 2026-09-24 · 11.62 分

原文链接:https://www.ithome.com/1/006/510.htm
来源:IT之家
以上内容由 AI 自动翻译,仅供参考。
← 返回简报