突发！Anthropic呼吁全员停止AI研究

正文

Jay 发自 凹非寺量子位 | 公众号 QbitAI

重要发现： AI的自进化，开始了。

这是Anthropic刚刚在长文博客中，发表的暴论。

我们的内部数据显示，Claude正在加速AI发展，这可能是一条递归自我提升（RSI）的路径。

并非「危言耸听」，看了下文章，Anthropic是真的实打实地用数据在说话——

截止今年5月， 80%以上 的Anthropic代码，都是Claude写的。

而在Claude Code发布之前，这个数字还仅是个位数。

与此同时，Anthropic工程师平均每季度交付的代码量，是2021-2025年的8倍。

更重要的是质量——

在最开放、最模糊、连答案长什么样都不确定的编程任务上，Claude的成功率现在是76%，六个月前才26%。

50个百分点的跳升。半年。

Anthropic内部已经有不少工程师觉得，Claude写的代码质量和人类打平了。

预计年内会超过。

Anthropic还强调，如果这个趋势持续下去，AI自己设计和构建下一代AI，是完全可能的。

这可能彻底改变社会，在医疗、科技、经济领域带来巨大的好处。但也可能让对齐问题叠加恶化，最终导致失控。

因此，Anthropic带头呼吁：

如果存在一个可验证的机制，能保证AI实验室确实都没偷偷卷，我们愿意减速、甚至暂停。

除此之外，Anthropic的这篇博客里，还放出了蛮多有意思的观点和事实。