AMD MI300X GPU测试，性能远超英伟达H100
suiw9 2024-10-24 15:52 27 浏览 0 评论
IT之家 6 月 27 日消息，科技博客 Chips and Cheese 于 6 月 25 日发布博文，详细测试了 AMD MI300X GPU，并在高速缓存、延迟、推理等方面对比后发现，性能远超英伟达的 H100。
MI300X 简介
AMD Instinct MI300X 人工智能加速器基于 CDNA 3 架构打造，采用混合的 5nm 和 6nm 制程工艺，最多拥有 1530 亿晶体管。
存储方面也获得了巨大提升，MI300X 的 HBM3 容量比上一代的 MI250X (128 GB) 高出 50%。
与英伟达 H100 相比，MI300X 拥有以下优势：
内存容量高出 2.4 倍
内存带宽高出 1.6 倍
FP8 性能 (TFLOPS) 高出 1.3 倍
FP16 性能 (TFLOPS) 高出 1.3 倍
在 1v1 对比测试中，性能方面可领先 H100 (Llama 2 70B) 最多 20%
在 1v1 对比测试中，性能方面可领先 H100 (FlashAttention 2) 最多 20%
在 8v8 服务器对比测试中，性能方面可领先 H100 (Llama 2 70B) 最多 40%
在 8v8 服务器对比测试中，性能方面可领先 H100 (Bloom 176B) 最多 60%
高速缓存
AMD MI300X 配备了 32KB L1 缓存、16KB 标量缓存、4MB L2 缓存和一个巨大的 256MB Infinity Cache（作为 L3 缓存）。
hips and Cheese 的缓存基准测试表明，在所有相关缓存级别中，MI300X 的缓存带宽都大大优于 Nvidia 的 H100。
一级缓存性能显示 MI300X 的带宽是 H100 的 1.6 倍，二级缓存的带宽是 H100 的 3.49 倍，MI300X 的最后一级缓存（即无限缓存）的带宽是 H100 的 3.12 倍。
显存带宽
AMD GPU 的本地 HBM3 内存是 H100 PCIe 的 2.72 倍，VRAM 带宽是 H100 PCIe 的 2.66 倍。
在内存测试中，AMD GPU 唯一失利的地方是内存延迟结果，H100 比 AMD GPU 快 57%。
请注意，这是最低规格的 H100 PCIe 显卡，拥有 80GB HBM2E。后续版本（如 H200）包含高达 141GB 的 HBM3E，带宽最高可达 4.8 TB / s。
Raw 吞吐量
Chips and Cheese 的指令吞吐量结果考虑了 INT32、FP32、FP16 和 INT8 计算。
AMD 芯片的指令吞吐量高得离谱。有时，MI300X 比 H100 快 5 倍，最差时也快 40%。
人工智能推理测试
IT之家附上原文地址，感兴趣的用户可以深入阅读。
相关推荐
- 俄罗斯的 HTTPS 也要被废了?（俄罗斯网站关闭）
-
发布该推文的ScottHelme是一名黑客，SecurityHeaders和ReportUri的创始人、Pluralsight作者、BBC常驻黑客。他表示，CAs现在似乎正在停止为俄罗斯域名颁发...
- 如何强制所有流量使用 HTTPS一网上用户
-
如何强制所有流量使用HTTPS一网上用户使用.htaccess强制流量到https的最常见方法可能是使用.htaccess重定向请求。.htaccess是一个简单的文本文件，简称为“.h...
- https和http的区别（https和http有何区别）
-
“HTTPS和HTTP都是数据传输的应用层协议，区别在于HTTPS比HTTP安全”。区别在哪里，我们接着往下看：...
- 快码住!带你十分钟搞懂HTTP与HTTPS协议及请求的区别
-
什么是协议？网络协议是计算机之间为了实现网络通信从而达成的一种“约定”或“规则”，正是因为这个“规则”的存在，不同厂商的生产设备、及不同操作系统组成的计算机之间，才可以实现通信。简单来说，计算机与网络...
- 简述HTTPS工作原理（简述https原理,以及与http的区别）
-
https是在http协议的基础上加了一层SSL(由网景公司开发)，加密由ssl实现，它的目的是为用户提供对网站服务器的身份认证(需要CA)，以至于保护交换数据的隐私和完整性,原理如图示。1、客户端发...
- 21、HTTPS 有几次握手和挥手?HTTPS 的原理什么是(高薪 常问)
-
HTTPS是3次握手和4次挥手，和HTTP是一样的。HTTPS的原理...
- 一次安全可靠的通信——HTTPS原理
-
为什么HTTPS协议就比HTTP安全呢？一次安全可靠的通信应该包含什么东西呢，这篇文章我会尝试讲清楚这些细节。Alice与Bob的通信...
- 为什么有的网站没有使用https（为什么有的网站点不开）
-
有的网站没有使用HTTPS的原因可能涉及多个方面，以下是.com、.top域名的一些见解：服务器性能限制：HTTPS使用公钥加密和私钥解密技术，这要求服务器具备足够的计算能力来处理加解密操作。如果服务...
- HTTPS是什么?加密原理和证书。SSL/TLS握手过程
-
秘钥的产生过程非对称加密...
- 图解HTTPS「转」（图解http 完整版 彩色版 pdf）
-
我们都知道HTTPS能够加密信息，以免敏感信息被第三方获取。所以很多银行网站或电子邮箱等等安全级别较高的服务都会采用HTTPS协议。...
- HTTP 和 HTTPS 有何不同?一文带你全面了解
-
随着互联网时代的高速发展，Web服务器和客户端之间的安全通信需求也越来越高。HTTP和HTTPS是两种广泛使用的Web通信协议。本文将介绍HTTP和HTTPS的区别，并探讨为什么HTTPS已成为We...
- HTTP与HTTPS的区别，详细介绍（http与https有什么区别）
-
HTTP与HTTPS介绍超文本传输协议HTTP协议被用于在Web浏览器和网站服务器之间传递信息，HTTP协议以明文方式发送内容，不提供任何方式的数据加密，如果攻击者截取了Web浏览器和网站服务器之间的...
- 一文让你轻松掌握 HTTPS（https详解）
-
一文让你轻松掌握HTTPS原文作者：UC国际研发泽原写在最前：欢迎你来到“UC国际技术”公众号，我们将为大家提供与客户端、服务端、算法、测试、数据、前端等相关的高质量技术文章，不限于原创与翻译。...
- 如何在Spring Boot应用程序上启用HTTPS?
-
HTTPS是HTTP的安全版本，旨在提供传输层安全性（TLS）[安全套接字层（SSL）的后继产品]，这是地址栏中的挂锁图标，用于在Web服务器和浏览器之间建立加密连接。HTTPS加密每个数据包以安全方...
- 一文彻底搞明白Http以及Https（http0）
-
早期以信息发布为主的Web1.0时代，HTTP已可以满足绝大部分需要。证书费用、服务器的计算资源都比较昂贵，作为HTTP安全扩展的HTTPS，通常只应用在登录、交易等少数环境中。但随着越来越多的重要...
欢迎 你 发表评论:
- 一周热门
-
-
Linux:Ubuntu22.04上安装python3.11，简单易上手
-
宝马阿布达比分公司推出独特M4升级套件，整套升级约在20万
-
MATLAB中图片保存的五种方法(一)（matlab中保存图片命令）
-
别再傻傻搞不清楚Workstation Player和Workstation Pro的区别了
-
Linux上使用tinyproxy快速搭建HTTP/HTTPS代理器
-
如何提取、修改、强刷A卡bios a卡刷bios工具
-
Element Plus 的 Dialog 组件实现点击遮罩层不关闭对话框
-
日本组合“岚”将于2020年12月31日停止团体活动
-
SpringCloud OpenFeign 使用 okhttp 发送 HTTP 请求与 HTTP/2 探索
-
tinymce 号称富文本编辑器世界第一，大家同意么?
-
- 最近发表
- 标签列表
-
- dialog.js (57)
- importnew (44)
- windows93网页版 (44)
- yii2框架的优缺点 (45)
- tinyeditor (45)
- qt5.5 (60)
- windowsserver2016镜像下载 (52)
- okhttputils (51)
- android-gif-drawable (53)
- 时间轴插件 (56)
- docker systemd (65)
- slider.js (47)
- android webview缓存 (46)
- pagination.js (59)
- loadjs (62)
- openssl1.0.2 (48)
- velocity模板引擎 (48)
- pcre library (47)
- zabbix微信报警脚本 (63)
- jnetpcap (49)
- pdfrenderer (43)
- fastutil (48)
- uinavigationcontroller (53)
- bitbucket.org (44)
- python websocket-client (47)