随着智能体人工智能应用使得内存成为当前系统的主要瓶颈，AMD和高通（Qualcomm）正探索将SOCAMM集成到其人工智能产品中。
最初宣称专为英伟达（NVIDIA）定制的SOCAMM内存标准，如今其竞争对手也考虑采用。对于不了解的人来说，SOCAMM基于传统用于移动和低功耗设备的LPDDR DRAM，但与HBM和LPDDR5X等方案不同，SOCAMM是可升级的。它并非焊接在PCB上，据称是与HBM协同处理内存密集型任务的可靠选择。根据《韩国经济新闻（Hankyung）》的报道，英伟达、高通和AMD正在探索将SOCAMM模块集成到即将推出的人工智能机架中。
据悉，AMD和高通正在探索一种不同于英伟达的方案，即采用“方形”模块设计，在两排独立的行列中各放置两颗DRAM。此举旨在通过模块本身的电源管理集成电路直接实现电源控制，从而实现更有效的调节机制，并确保SOCAMM能以极高速度稳定运行。通过将电源管理集成电路移至模块本身，AMD和高通还将减少主板电源电路的需求，从而降低主板制造的复杂性。
另一方面，随着SOCAMM的采用范围扩大，该内存类型的DRAM使用率也将上升。考虑到智能体人工智能需要与HBM搭配的短期存储，SOCAMM允许每个CPU拥有数太字节的内存，使得智能体能够在内存中保持数百万个标记处于“活跃”状态。虽然相对于HBM的吞吐量较慢，但SOCAMM仍然是一种可行的介质和节能友好的选择。
目前，英伟达计划在Vera Rubin人工智能集群中提供SOCAMM 2。考虑到AMD和高通也在探索该解决方案，我们可以预期这种内存类型也将很快出现在他们的下一代人工智能集群中。
