我们正目睹一场关于人工智能安全以及潜在发展放缓的激烈辩论。Anthropic首席执行官达里奥·阿莫迪（Dario Amodei）最近发布了一份旨在“控制前沿发展步伐”的计划，而英伟达首席执行官黄仁勋则公开附和唐纳德·特朗普总统的观点，称对人工智能的反感是一场骗局，监管并无必要。
在TechCrunch《Equity》播客的最新一期节目中，基尔斯滕·科罗塞克（Kirsten Korosec）、肖恩·奥凯恩（Sean O’Kane）与我讨论了像阿莫迪和OpenAI首席执行官山姆·奥特曼这样的 executives 是否真的有意放缓发展速度。
虽然我惊讶于这么多行业领袖似乎都支持阿莫迪的计划，但肖恩指出，该计划似乎缺乏细节。
当基尔斯滕问，现有的监管措施与自由市场的运作机制结合，是否足以提供足够的保障时，肖恩回答说：“我们目前的联邦政府显然并不热衷于广泛地执行监管规定，更不用说在此具体问题上严格执行了。”
此外，他还辩称：“在这个市场中，似乎并没有大量的消费者选择来驱动它。也就是说，如果这些公司中的某一家做了非常糟糕的事，他们可能会看到取消订阅数量的影响或其他后果，但这种情况似乎并未发生。”
请继续阅读我们对话的预览，内容已根据篇幅和清晰度进行了编辑。
安东尼·哈：肖恩，你怎么看？我们真的会“控制前沿发展步伐”吗？
肖恩·奥凯恩：不知为何，这听起来像是电影《比佛利山超级警探》（Point Break）里的台词。这简直是一句非常加州风格的话，就像说：“我们要去控制前沿发展了，兄弟。”
我不知道。我上周在这档节目中表示，我不认为我们会迎来任何形式的放缓，很大程度上是因为我认为这些公司的结构并不支持这种放缓。
因此，听到达里奥在Anthropic、山姆在OpenAI以及某种程度上埃隆·马斯克发表这样的言论，与我一周前所说的话形成了鲜明的对比——我们可以深入探讨我们是否相信这一点。我要说的是，我认为我并没有完全错，因为即使有达里奥在博客文章中提出的这些粗略计划，以及其他一些领导人谈论的内容，我觉得我们仍然缺少很多具体细节。这不仅包括关于这些人认为存在哪些危险和风险的主张，还包括他们所说的“放缓”具体指什么。
安东尼，我知道你上周末密切关注了这一切的进展，所以我很好奇你是否比我更宽容，更能理解他们试图表达的意思。
安东尼：我的意思是，我也有疑问。让我印象最深的事实是，行业内的许多人似乎很快就围绕这一计划达成了共识。甚至在阿莫迪发布博客文章之前，我就看到其他人在前几天发布了类似版本的[计划]。
我的理解是，这些来自人工智能安全社区的建议；这些东西已经酝酿了一段时间了。它们并不是[阿莫迪]独自想出来的。但这似乎表明很多人已经准备好接受这一点，从某种程度上说，看到这种共识令人鼓舞。但这也让我对这是否代表真正迈向放缓的重大步骤持怀疑态度。
基尔斯滕·科罗塞克：首先，共识可以是件好事。同时，它也可能是形成卡特尔的开端。因此，让我们明确[这里]我们在谈论谁。我们在谈论的是前沿人工智能实验室，这是具体且重要的。
你刚才提到细节并不清楚，但我们确实知道，这里的总体思路是引入独立的第三方评估机构，它们将在Anthropic或OpenAI等公司内部工作，监控人工智能安全实践和事件。但围绕这一点存在很多模糊之处。
此外，还有另一项提案，即要求民主国家的主要人工智能公司协调安全标准和限制。接着是这一国际协调的部分。这些就是围绕此事的总体思路。
我还要补充一点，确实有一些特定的人对此提出了强烈的反对。令人惊讶的是，其中一些我原本以为不会反对的人。显而易见的一位应该是英伟达首席执行官黄仁勋，他发表了一些相当尖锐的言论。我不知道你们俩对[…]他的部分评论以及他在台上接听特朗普总统电话一事有何看法。
肖恩：我认为黄仁勋明白，在某种程度上，他被视作这里的“成年人”（即理性、稳重的一方）。这很有趣，因为我觉得这种动态已经发生了变化。如果你在一两年前问人们，当这些人工智能公司开始大规模崛起时，谁扮演了那个角色，我想很多人会指向微软和萨提亚·纳德拉。我觉得微软——出于我们此刻无需深入探讨的诸多原因——失去了作为“房间里成年人”的地位。部分原因在于纳德拉曾说要让谷歌“跳舞”，但后来那并未发生；事实上，在很多方面情况恰恰相反。
我认为黄仁勋不仅明白他需要取悦尽可能多的人，因此他希望发表最审慎的言论，而且他还是该领域与本届政府之间最有用的联络人之一，以至于他在这一备受瞩目、高规格且座无虚席的会议上登台时接到了总统的电话，这让他俩都能回应这场混乱局面。
柯尔斯滕：关于他作为“房间里成年人”和联络人的观点，他确实处于可以扮演那个角色的位置。但在我看来，我认为[他的这次亮相]虽然感觉有些刻意安排，却适得其反，真正凸显了英伟达极大受益于人工智能以无节奏的方式向前发展这一事实。
我不想显得过于愤世嫉俗，但这确实是我对此的最初反应。
安东尼：特朗普和黄仁勋的利益是一致的，而且[黄仁勋也在]告诉[特朗普]他想听的话。
我认为他特别关注的一些观点值得稍作剖析。首先，他谈到了“我们不会放缓速度”这一概念。“放缓”这个词最近频繁出现，这很有趣；但同时，阿尔特曼和阿马德[也]使用了“放缓”的说法，但他们更喜欢的词是“节奏”，对吧？
而你刚才描述的这三项提案——柯尔斯滕——理论上可能导致事情放缓，但它们并没有明确这样说。它们的意思是：“嘿，我们正在采取一些基本的安全措施，并让人盯着我们。”但至少据我理解，这些举措本身并没有暗示事情必须比现在进展得更慢。
柯尔斯滕：所以我有个问题想问肖恩。在自由市场社会中，难道不能认为我们已经存在现有的监管规定，以及在缺乏保护主义的竞争环境中，如果某家公司发布了不安全的产品，它将不再是一家 viable（可持续经营）的公司吗？而且今天也有监管机构可以追究这些公司的责任？还是你反对这种观点？
肖恩：在真空中，或者在一个未被各种外部压力扭曲的市场中，是的，我认为其中有一定道理。但我们目前的联邦政府显然并不热衷于广泛地执行监管规定，更不用说在此事上具体执行了。
而且我们也处于一种奇怪的境地——我其实不太知道该如何准确表述，但看起来似乎并没有太多的消费者选择来推动这个市场。也就是说，如果这些公司中的某一家真的做了非常糟糕的事情，它并不会因此看到取消订阅数量的显著影响或其他类似后果。
尤其是现在，随着它们进军企业市场，并且从向公司出售服务中获得了更多的收入，用真金白银投票变得更加困难。企业不会因为对OpenAI的某个行为在原则上表示反对，就轻易地从[OpenAI的]Codex迁移到[Anthropic的]Claude Code。
此外，它们还获得了大量的投资资金，这使得它们在面对潜在损失时更容易吸收这些亏损。所以我认为这在理论上是美好的想法，但在实践中，这种情况似乎并未真正发生。