A crab公司认为，其推出的Gelix 1（Gelix 1）人工智能芯片是Mac mini的强劲对手。得益于强大的芯片组和充足的一体化内存，Mac mini小尺寸形态的流行使其成为运行AI智能体的理想选择。借鉴这一思路，这家新加坡初创公司打造了一款名为Gelix 1的AI芯片。它搭载了20核ARM CPU，采用5纳米工艺制造。该公司声称，该芯片在AI推理方面能够超越苹果（Apple）较旧的M4 Pro，并可运行高达1000亿参数的模型。
A crab公司的自有基准测试显示，在运行Gemma 26B（Gemma 26B）模型时，Gelix 1的预填充速率达到了每秒1416个词元。Gelix 1的AI推理能力还得益于其多核神经处理单元，而其一体化内存方案使其带宽达到了273GB/s。有趣的是，这一数字与M4 Pro的带宽相当。与Mac mini类似，Gelix 1也设计为在紧凑的机箱内运行，且不会受到性能或散热方面的限制。
在基准测试方面，A crab称，使用4万词元的上下文窗口运行Gemma 26B模型时，Gelix 1实现了每秒1416个词元的预填充速率。相比之下，在同样的测试中，M4 Pro Mac mini每秒仅处理了188个词元。据DigiTimes（DigiTimes）报道，目前尚未进行独立验证，因此读者仍需谨慎对待这些数据。
显然，这里存在几个显而易见的问题，例如A crab声称能够运行1000亿参数的AI模型。M4 Pro Mac mini目前最多配备48GB一体化内存，这足以流畅运行350亿参数的大语言模型。然而，一个1000亿参数的模型则需要至少128GB的一体化内存，这或许就是Gelix 1的最高配置。20核ARM CPU听起来与英伟达（NVIDIA）的DGX Spark和RTX Spark出奇地相似。因此，我们非常期待了解它是否采用了与联发科（MediaTek）相同的处理器。
对于那些关注隐私和延迟问题的消费者和企业来说，Gelix 1是个不错的选择。它使他们能够在占用极小的桌面的同时运行更大的AI模型。遗憾的是，目前尚不清楚其定价和上市详情。但如果有人计划在本地运行1000亿参数模型，他们想要的配置恐怕不会便宜。
