一名就职于中国AI实验室深度求索(DeepSeek)的工程师认为,尽管自家公司的AI正以即将取代他的速度发展,但迫于竞争压力,他仍不得不继续投身其中。这位网名为interestingLSY/intlsy的工程师是深度求索的内核工程师,他在一篇博文中对Anthropic或OpenAI能否让人工智能惠及大众表达了深度怀疑。因此,他认为,既然深度求索的目标与让AI自由可用高度一致,他就必须继续开发一项终将取代自己的技术。

DeepSeek-4.jpeg

深度求索工程师认为,角色将很快从开发者转向能用AI快速开发高性能软件的人

上周末,关于AI进展的辩论陡然升温。Anthropic首席执行官达里奥·阿莫代伊(Dario Amodei)宣布需要放缓AI开发速度,令观察人士震惊。阿莫代伊得到了英伟达(NVIDIA)的黄仁勋的附和,而包括埃隆·马斯克(Elon Musk)和OpenAI的山姆·阿尔特曼(Sam Altman)在内的其他人也纷纷表示支持。另一边,Meta的马克·扎克伯格(Mark Zuckerberg)发表长文,解释称公司出于安全约束已在内部放缓了模型开发,只是没有大张旗鼓地对外宣布。

有传言称谷歌(Google)即将实现递归自我改进(RSI),而Anthropic、OpenAI和埃隆·马斯克却齐声呼吁为AI发展“定速”,这或许是一次试图“监管俘获”的犬儒之举。深度求索的内核工程师刘圣宇(Shengyu Liu)以一篇长文加入了这场辩论。刘圣宇在文章开头评论道,AI已从简单的代码检查和文档阅读助手,迅速演变为一个复杂平台,如今能够阅读英伟达的CUDA等复杂编程平台,并通过操作工具对其进行分析。

随后他解释了发展速度。这位工程师表示,在半年到一年内,AI产出的编程成果或许就能达到与他本人相当的水平。他认为,AI能以每秒约300个token的速度思考,一秒打出一行命令,20秒写完一段代码,这远胜于他的能力。

刘圣宇承认,尽管这些进步表面上让他几乎没有动力去改进自己的产品,但他仍有若干理由继续开发这项终将取代自己的技术。除了推进AI带来的兴奋感,以及创造出超越预期产品的自豪感之外,他解释说,即便自己放慢开发速度,竞争对手也会继续打造终将取代他的模型。

在更宏观的层面上,刘圣宇还描述了在深度求索工作的利他目标。他指出,AI的发展速度可能导致两种社会形态:一种类似电子游戏《赛博朋克2077》(Cyberpunk 2077),另一种则遵循共产主义模式。

在《赛博朋克2077》式的场景中,他指出AI将被少数关键玩家掌控,只有极少数人能使用最好的技术,其余人则只能退而求其次,使用性能较差的选项。他接着问道:如果Anthropic拥有最强大的AI,世界会走向共产主义还是《赛博朋克2077》?

因此,既然他认为OpenAI和Anthropic都无法公开、廉价地向所有人提供最尖端智能,那么在深度求索工作就是让最佳技术开源的唯一途径。这位工程师特别将矛头指向Anthropic,认为如果该AI实验室掌握了最好的AI或通用人工智能(AGI),那就好比在盟军掌握该技术之前,把一件大规模杀伤性武器交到了希特勒手中。


文章标签: #深度求索 #AI伦理 #赛博朋克 #开源 #AGI
菠萝老师先生

负责编辑

  菠萝老师先生 

  让你的每一个瞬间都充满意义地生活,因为在生命的尽头,衡量的不是你活了多少年,而是你如何度过这些年。