«

CES 2025:英伟达推出3000美元桌面级AI超级计算机---Project Digits

一把老骨头 发布于 阅读:254 科技新闻


英伟达宣布了一款名为“项目数字”的小型台式计算机,专为那些希望在家就能实验人工智能模型,如ChatGPT和图像生成器等聊天机器人的研究人员、数据科学家及学生设计。这款价值3000美元的设备内置了Nvidia最新的GB10 Grace Blackwell超级芯片,并在拉斯维加斯的CES 2025上首次公开亮相,计划于5月正式上市。它可以独立运行或作为Windows或Mac电脑的连接设备使用。

在CES的主题演讲中,英伟达首席执行官黄仁勋将这个新系统描述为“你桌面上的云计算平台”。此外,公司还设计了“Project Digits”作为桌面开发与云端部署之间的桥梁。开发者可以在“Project Digits”上本地创建和测试AI应用程序,然后将其迁移到基于类似英伟达硬件的云服务或数据中心。

该计算机内部的GB10芯片集成了一个基于Arm架构的20核Grace CPU和一个Nvidia Blackwell GPU。此芯片是英伟达与联发科合作的结果,它连接到“项目数字”外壳内的128GB内存和高达4TB的存储空间。
Project DIGITS 使用 Nvidia ConnectX 网络适配器,通过双单元配置轻松处理这些参数。每个单元包含一个 20 核 ARM CPU、Nvidia Blackwell GPU、128 GB DDR5X 内存和 4 TB NVMe 存储。每个 Blackwell GPU 能够实现 1 PetaFLOP 的 FP4 AI 计算性能。虽然从 FP16 或 FP8 降到 FP4 会降低每次计算的准确性,但 Nvidia 已投入大量精力在 FP4 上进行 LLM 开发,并实现了类似的输出准确性。

“Project DIGITS”不仅支持本地运行复杂的人工智能模型,而且单个单元即可处理多达2000亿参数的模型,而两个相连的单元能够处理高达4050亿参数的模型。这使得即使是较小规模的人工智能模型,如美洲驼3.1 70B (700亿参数) 和通量.1开发(120亿参数),也能在其上流畅运行。
除了强大的硬件配置,“Project Digits”运行在基于Linux的DGX操作系统上,提供对英伟达一系列AI软件工具的访问权限,包括有助于AI模型开发的NeMo框架和用于创建AI应用的Rapids库。
与其他解决方案相比,使用 Project DIGITS 的主要优势在于,通过使用在 Nvidia AI Enterprise 平台上运行的相同 Grace Blackwell GPU 架构,能够轻松地将项目从本地系统转移到云端。

英伟达 AI GPU 超级计算机