英伟达 L40S GPU 将于今秋上市:AI 推理性能比 A100 高 1.2 倍

英伟达日前发布了全新的 NVIDIA L40S GPU,以及搭载该加速卡的 NVIDIA OVX 服务器系统。

英伟达 L40S GPU 将于今秋上市:AI 推理性能比 A100 高 1.2 倍

据介绍,这款全新的 GPU 和 OVX 服务器适用于人工智能大模型训练和推理、三维设计和可视化、视频处理、工业数字化等多种用途。它们能够增强生成式 AI、图形和视频处理能力,满足不断增长的算力需求。

L40S GPU 是 L40 的升级版本,配备 48GB GDDR6 ECC 显存。它基于 Ada Lovelace 架构,包含第四代 Tensor Core 和 FP8 转换引擎,运算速度是上一代 GPU 的 5 倍。但是需要注意的是,L40S 与上一代一样不支持 NVlink。

据官方表示,对于具有数十亿个参数和多种数据模式(文本、视频)的复杂 AI 工作负载,L40S 的生成式 AI 推理性能比 A100 高 1.2 倍,训练性能高 1.7 倍。

每台英伟达 OVX 服务器系统最多可搭载 8 个 L40S 加速卡。其中,CoreWeave 是首批提供 L40S 计算平台的云服务商之一。此外,英伟达还提供了多种软件,用于辅助 AI 模型训练、数据分析和生成式人工智能等应用。

据官方介绍,英伟达 L40S GPU 将在今年秋季上市。厂商包括华硕、戴尔、技嘉、HPE、联想、QCT 和美超微等,将很快推出搭载 L40S GPU 的 OVX 系统。这些服务器将有助于推动人工智能的发展和应用。

本文内容及图片均整理自互联网,不代表本站立场,版权归原作者所有,如有侵权请联系admin#jikehao.com删除。
(0)
极客号的头像极客号
上一篇 2023年 8月 10日
下一篇 2023年 8月 10日

相关推荐

合作联系:1152QQ041010