当前位置:首页 > 科技资讯 > 正文

黄仁勋力荐!英伟达DGX Spark:个人超算新体验

近日,APPSO 终于体验到了这款由黄仁勋倾情推荐的个人超算——英伟达 DGX Spark。初见之下,这款设备以“小而美”为最大特点。

黄仁勋力荐!英伟达DGX Spark:个人超算新体验 DGX Spark 个人超算 AI电脑 算力 第1张

其体积小巧,并不似 Mac Studio 那样笨重,与 Mac Mini 大小相仿,银色的亮面设计与金属散热网为其增添了一丝独特的美感,展现出专属的硬核魅力。

之前在我们的 DGX Spark 评测汇总中,曾提及该设备的部分参数,例如重量为1.2kg,尺寸为5.05*15*15cm

黄仁勋力荐!英伟达DGX Spark:个人超算新体验 DGX Spark 个人超算 AI电脑 算力 第2张

黄仁勋力荐!英伟达DGX Spark:个人超算新体验 DGX Spark 个人超算 AI电脑 算力 第3张

重量对比:Mac Studio M4 Max 为 2.74kg,Mac Mini M4 为 0.67kg

尺寸对比:Mac Studio 为 9.5*19.7*19.7,Mac Mini 为 5.0*12.7*12.7

其算力表现同样令人瞩目,配备128GB 的 GPU+CPU 融合内存,效果堪比 RTX 5070/5070 Ti 的GB10 Grace Blackwell 超算芯片,以及273 GB/s 的 LPDDR 5X 内存带宽标准。

黄仁勋力荐!英伟达DGX Spark:个人超算新体验 DGX Spark 个人超算 AI电脑 算力 第4张

说实话,本地运行是目前我能想到这台配备 128GB 内存和 GB10 显卡算力的机器能做的唯一事情。

所有涉及隐私的内容,无论是 PDF 文档、图片还是视频,我都可以放心地交由这台设备处理。关闭 Wi-Fi,部署好项目,加载已下载的开源模型,一切操作均可本地完成。

然而,本地处理的意义究竟有多大呢?ChatGPT 已成为我的日记本,我乐于与它分享一切。对于普通个人消费者而言,联网似乎并不是一个特别有吸引力的卖点。

真正上手后,发现其价格约为三万块,似乎还算合理。Linux 的 Ubuntu 操作系统也不算太难用。尽管带宽速度一直备受诟病,但在看着它逐字生成答案时,还是能感受到其影响。但超强的算力和充足的内存,真的能弥补这些等待时间吗?

目前,这台设备在京东等电商平台上也能找到。我们可以花费约 32,000 元的价格,将个人超算带回家。

黄仁勋力荐!英伟达DGX Spark:个人超算新体验 DGX Spark 个人超算 AI电脑 算力 第5张

但是,是否值得带回家?带回家又能做些什么呢?让我们通过这几天的使用体验,一同探索一台未来 AI 电脑应有的样子。

太长不看版:

这是一台与 Mac Mini 大小相仿,但拥有 128GB 统一内存、搭载英伟达 GB10 芯片的 Linux 桌面主机。

它能本地运行最高 200 亿参数的模型,对大模型进行微调、推理测试,搭建各种 AI 工具,无网也能生成图像。AI 性能强劲。

尽管不是一台通用电脑,但其完整的全栈 AI 开发环境,更适合 AI 研究员、开发者及极客玩家快速复现前沿论文、验证想法。与深度学习无关的 AI 项目,如视频剪辑、游戏等,并不推荐。

自由生成图像与视频:万物皆可部署

最高支持 2 万亿参数,意味着开源市场上的许多模型现在都可以直接在这台设备上运行。

能够部署本地大模型的平台众多,常见的有开源的 Open WebUI 和闭源免费的 LM Studio。我们选择了 Open WebUI,它支持专为在本地计算机上高效运行大型语言模型的开源框架如 Ollama。

黄仁勋力荐!英伟达DGX Spark:个人超算新体验 DGX Spark 个人超算 AI电脑 算力 第6张

在 Ollama 官网(https://ollama.com/models),可以找到丰富的开源模型下载。

我们首先部署了 OpenAI 的 gpt-oss 2b 来测试效果。这个速度只能说中规中矩,尚能使用。

黄仁勋力荐!英伟达DGX Spark:个人超算新体验 DGX Spark 个人超算 AI电脑 算力 第7张...