NVIDIA本周正式推出全球最小的AI超级电脑DGXSpark,开启AI运算迈向桌面化的新篇章。这款革命性设备以精巧桌机外型整合NVIDIA最强AI技术堆叠,为开发者提供本地训练与推理大型语言模型的能力。
为庆祝首批DGXSpark问世,NVIDIA创办人暨执行长黄仁勋亲自前往德州SpaceX总部,将第一批DGXSpark交付给SpaceX创办人马斯克,重现黄仁勋于2016年曾亲手将全球首台DGX-1超级电脑送给马斯克的历史时刻,象征AI革命的延续。
全球最小的AI超级电脑NVIDIADGXSpark即将发售AI的迅速发展和需求超出了数百万开发者之前所依赖的PC桌上型电脑、工作站和笔记型电脑所能负载的工作量,迫使团队将工作转移到云端或本地资料中心。DGXSpark为一种新型计算机,在精巧紧凑小巧的电脑外形中提供千万亿次浮点运算的AI性能和128GB的统一内存,开发者能够在本地对包含多达2000亿个参数的AI模型进行推理,并对包含多达700亿个参数的模型进行微调。此外,DGXSpark还允许开发者在本地创建AI代理运行高级软体堆叠。
黄仁勋亲赴SpaceX交付DGXSpark给马斯克黄仁勋表示2016年时辉达打造了DGX-1,为AI研究人员打造了专属的超级电脑,他那时亲手将第一台系统交付给了当时还在OpenAI创业的马斯克,ChatGPT由此诞生,开启了AI革命。2016年推出的超级电脑初代的中两为134磅,价格为12万9千美元,现在的重量为2.65磅,价格只要3,999美元。GPU构造也从NVIDIAPascal进化到Blackwell。
其他DGXSpark的早期接收者,包括Anaconda、Cadence、ComfyUI、Docker、Google、HuggingFace、JetBrains、LMStudio、Meta、微软、Ollama和Roboflow,正在测试验证和优化其用于DGXSpark的工具、软体和模型。纽约大学全球前沿实验室在内的全球研究机构已预览了DGXSpark,以促进其AI开发。纽约大学全球前沿实验室电脑与数据科学教授KyunghyunCho表示DGXSpark的新方式能够快速构建原型,试验先进的AI算法和模型,即使是对于隐私和安全敏感的应用,例如医疗保健。
DGXSpark的应用场景DGXSpark将完整的NVIDIAAI平台(包括GPU、CPU、网路、CUDA®库和NVIDIAAI软体堆叠)整合到一个小型系统中,该系统体积小巧,足以容纳实验室或办公室,但功能强大,足以加速代理和实体AI开发。透过将突破性的性能与NVIDIA生态系统的覆盖范围相结合,DGXSpark将桌面转变为AI开发平台。
DGXSpark系统可提供高达1petaflop的AI效能,由NVIDIAGB10GraceBlackwell超级芯片、NVIDIAConnectX®-7200Gb/s网路和NVIDIANVLink-C2C技术加速,可提供5倍于第五代PCIe的频宽与PCIe一致性的记忆体与CPU一致性。
预先安装NVIDIAAI软体堆叠,可使开发人员能够开箱即用地进行AI专案。借助DGXSpark,开发者可以存取NVIDIAAI生态系统工具,包括模型、库和NVIDIANIM微服务,从而实现本地工作流程,例如自定义BlackForestLabs的FLUX.1模型以优化图像生成、使用NVIDIACosmosReason视觉语言模型创建视觉搜寻和摘要代理,或针对DGwenX3摘要机器人版本。
这篇文章辉达庆祝全球最小AI超级电脑发售!黄仁勋亲赴SpaceX交付首批给马斯克最早出现于链新闻ABMedia。