首页 今日新闻文章正文

戴尔推出掌上AI超算!字典大小,1000TOPS峰值算力,能跑2000亿参数模型

今日新闻 2025年08月15日 14:03 0 aa
戴尔推出掌上AI超算!字典大小,1000TOPS峰值算力,能跑2000亿参数模型

智东西

作者 | ZeR0

编辑 | 漠影

智东西8月15日报道,今日,在戴尔科技峰会(DTF)期间,戴尔科技正式发布专为AI推理设计的“掌上AI超算”Dell Pro Max with GB10。

这是Dell Pro Max全新产品线旗下的一款重要AI工作站新品,搭载NVIDIA GB10 Grace Blackwell 超级芯片,首次将数据中心级架构下放至桌面,专为AI开发者设计,在FP4精度下可提供高达1000TOPS的AI性能。

戴尔推出掌上AI超算!字典大小,1000TOPS峰值算力,能跑2000亿参数模型

戴尔科技集团大中华区客户端销售系统工程总监喻智娟现场展示Dell Pro Max with GB10

传统电脑通常应用于游戏开发、软件开发、媒体制作、医疗、金融等行业,而Dell Pro Max with GB10聚焦于AI领域的研发和应用,专注满足AI计算的需求,能无缝扩展至更大规模数据集或生产环境,大幅降低复杂项目的实现成本与难度,适用于AI原型研发、边缘AI计算、数据科学、AI开发、大模型推理、教育等领域。

戴尔科技集团大中华区客户端解决方案事业部工作站资深产品经理汪志军在一场媒体沟通会上对这款新品进行了详尽分享。

他打了个形象的比喻:Dell Pro Max with GB10就像一个装修完毕、设备齐全的智能厨房,所有的硬件配置合理、软件环境完整、开发框架预设完毕,连“菜单”——也就是常用的开发路径、运行环境——都打包好了。用户只需要把“食材”——数据、模型、算法——放进去,按流程调用,就能快速生成用户的AI应用。无论是企业级的部署还是某个垂直行业的落地应用,都能高效启动,并且具备很强的可扩展性与可持续性。

一、小到能塞进包里的掌上AI超算,单机能跑2000亿参数模型

从外形来看,Dell Pro Max with GB10非常小巧,只有1.2升,类似于一本字典,小到能塞进包里。

这款AI设备是戴尔首次与NVIDIA在Grace Blackwell架构上的深度合作,基于NVIDIA Grace Blackwell 平台,配备128GB LPDDR5x统一内存,通过 NVIDIA NVLink C2C 连接,CPU和GPU可共享访问所有系统内存。相比之下,一个标准显卡通常只有十几GB的显存。

Dell Pro Max with GB10单机最多能支持高效构建、优化和部署2000亿参数的AI推理模型,微调最多可达700亿参数的模型。

如果开发者希望进行模型开发、训练或微调,这台机器也具备足够的精度能力,支持最高达700亿参数级别的模型训练任务。

通过NVIDIA ConnectX-7网络连接技术和200G x 2 QSFP 接口,这台机器可实现双机高速互联,组成一个更高性能的AI算力节点,内存扩展至256GB,支持最多4050亿参数的模型,满足大型AI模型的运行需求。

Dell Pro Max with GB10采用全金属机身,配备了一款240瓦电源,并对散热系统进行了优化设计,以确保设备能够在高负载下保持稳定运行。

其硬盘提供2TB和4TB两种容量,网络接口还配备了常规的10Gb网络接口,无线连接支持Wi-Fi 7和蓝牙5.1,I/O接口包括多种Type-C接口。

二、预装NVIDIA AI相关组件,涵盖模型部署、调优、推理全流程

Dell Pro Max with GB10具备出色的软件生态。

该产品出厂预装了基于Ubuntu深度开发的DGX OS 7定制化操作系统,包含针对本机的优化配置、设定及额外驱动程序,同时集成了NVIDIA提供的丰富开发容器、套件及AI框架,实现硬件与软件的深度适配,确保开发者在桌面、NVIDIA DGX Cloud平台与戴尔数据中心之间迁移AI模型时无需修改代码,提升工作连续性。

例如,预装的NVIDIA DGX系统及AI Enterprise软件套件,可帮助用户实现开箱即用,支持快速部署,几分钟内即可投入实际开发与生产环境。提供的NVIDIA Blueprints等参考工作流工具,可加速生成式AI和代理式AI的开发效率,兼顾本地开发的隐私安全与成本优势。

使用传统AI开发主机时,用户往往需要花费大量时间自行组装硬件、安装操作系统及配置各类软件环境。而Dell Pro Max with GB10提供了高度集成的一体化平台,大大降低了部署门槛,显著提升了效率与易用性。

在AI应用方面,Dell Pro Max with GB10更多地支持轻量级的微调,或主要用于推理任务。

汪志军解释说,戴尔与很多AI软件厂商都有合作,但不会要求设备出厂时就预装某些特定的软件,更倾向于通过认证和测试来确保兼容性和稳定性,更关注的是确保整体系统的稳定性。

三、既能用作独立电脑,又能直连现有笔记本、工作站

Dell Pro Max with GB10可以直接连接现有笔记本、台式机、工作站使用,作为一个用于AI开发与推理的算力盒。

有高数据安全要求、希望本地完成AI大模型推理的开发者,可通过将自己的电脑外接Dell Pro Max with GB10来实现本地高效运行AI模型的需求。

就像现在有些笔记本在GPU性能不足时外挂显卡,Dell Pro Max with GB10也可以作为一个外接的AI算力模块,为主机设备提供强大的AI推理性能支持。

Dell Pro Max with GB10也可以作为一台独立电脑来使用,能像普通PC一样接上键盘、鼠标、显示器。开发者可以将它用作开发主力机,学校机房也可以成批部署,用于AI 教学、日常开发、模型训练、原型研究等。

此外,这台机器还能作为“边缘大脑”,在工业自动化、机器人、自动驾驶等领域的边缘部署或嵌入工业设备、医疗设备等设备中,承担边缘AI计算任务。

在扩展性方面,Dell Pro Max with GB10是固定配置。

结语:商用PC中工作站需求增长,戴尔已为不同模型推理提供差异方案

汪志军分享说,大模型厂商对硬件资源的需求正在转变,从选择数据中心级硬件转向更加垂直、落地的应用场景与更符合私有化部署需求的领域,这些行业往往难以直接使用传统的大模型来满足需求,需要自主开发或与解决方案供应商合作,进行定制化部署,这时能部署在桌面端或边缘终端的AI工作站成为理想选择。

据IDC预测,到2030年,企业采购的商用PC中,每10台就有1台是工作站,市场份额将从5%增长至10%。

不同模型适用于不同工作站产品。例如对于FP4计算,参数规模在2000亿以下的模型,Dell Pro Max with GB10适用于推理任务。当推理需求更高,比如参数规模达到4050亿的模型,可通过两个Dell Pro Max with GB10组合成一个方案来满足其计算需求,实现高效推理。

Dell Pro Max with GB10提供三到五年的企业级售后支持。汪志军谈道,戴尔不仅是推出一款产品,更是在构建一个完整、协同的AI PC解决方案生态。

发表评论

长征号 Copyright © 2013-2024 长征号. All Rights Reserved.  sitemap