就像其他中国公司一样,TikTok的母公司字节跳动无法购买性能最强的英伟达GPU,并将其安装在中国的数据中心。不过,字节跳动发现了一个替代方案:使用位于其他国家云数据中心的英伟达GPU。据悉,字节跳动计划在明年扩大对这些GPU的使用,并可能在英伟达GPU的访问上投入高达70亿美元,这一消息来自《信息报》的报道。对此,字节跳动已经否认了这一报道。
报道称,字节跳动计划投资超过200亿美元用于人工智能基础设施建设,其中包括70亿美元用于云服务、数据中心以及海底光缆中访问先进的英伟达GPU。美国政府禁止字节跳动购买英伟达GPU和使用美国的云服务,但这并不妨碍字节跳动在中东或亚洲等其他国家使用云服务。因此,字节跳动能够在遵守美国对中国人工智能和高性能计算领域制裁的同时,间接访问美国的处理器技术。
如果报道属实,字节跳动在云服务上对英伟达GPU的投资达到70亿美元,那么它将成为全球最大的人工智能硬件消费者之一。目前,按需访问英伟达的H100 GPU已经变得十分便捷。在美国,长期合同下访问H100 GPU的费用从每小时1.33美元起。其他国家的价格大致相当,大约每小时1.3美元。按照这个价格,字节跳动在2025年可以租用一个全天候运行的614,682个H100 GPU集群,总花费为70亿美元。
然而,我们不确定中东和亚洲是否真的有近615,000个H100 GPU可供出租,也不确定字节跳动是否需要这么多处理器来处理其训练和推理工作负载,因为其人工智能项目相对有限。例如,字节跳动拥有的豆包AI聊天机器人只拥有5100万活跃用户,这被认为是其最大的项目。
因此,字节跳动可能会减少在人工智能基础设施租赁上的支出,或者计划大幅扩展其人工智能项目,从而需要更多的人工智能能力,或者打算继续在中国自己的数据中心运行英伟达的H20 HGX和B20 GPU,同时从其他国家的云服务提供商那里租用处理器。据悉,字节跳动在2024年已经花费超过20亿美元购买了超过20万个英伟达H20 GPU,因此公司不太可能完全停止购买自己的硬件,转而完全依赖其他国家的云服务提供商。
值得注意的是,字节跳动也在与博通合作开发自己的人工智能处理器,以减少对英伟达的依赖。有传言称,公司将开发两种处理器:一种用于训练,另一种用于推理。预计这些芯片将由台积电使用其N4/N5工艺技术制造,并将于2026年投入大规模生产。尽管由于美国出口管制限制,字节跳动不太可能使其GPU比英伟达的HGX H20快得多,但自家处理器将为公司带来更大的成本效益。