英伟达发布全球最强ai芯片h200：性能较h100提升近一倍-亚博安卓下载

英伟达发布全球最强ai芯片h200：性能较h100提升近一倍

    在2023年全球超算大会（sc2023）上，芯片巨头英伟达发布了h100芯片的继任者，也是目前世界最强的ai芯片——h200。相比于其前任产品h100，h200的性能直接提升了60%到90%。

    不仅如此，h200与h100一样都是基于英伟达hopper架构打造，这也意味着两款芯片可以互相兼容，对于使用h100企业而言，可以无缝更换成新的h200。同时h200还是英伟达首款使用hbm3e内存的芯片，速度更快容量更大，更适合用于大语言模型的训练或者推理。

    除了hbm3e内存外，h200的内存容量为141gb，带宽从h100的3.35tb/s增加到了4.8tb/s。h200的性能提升最主要体现在大模型推理表现上，h200 在700亿参数的llama2大模型上的推理速度比h100快了一倍，而且在推理能耗上h200相比h100直接降低了一半。

    对于显存密集型hpc应用，h200更高的显存带宽能够确保高效地访问操作数据，与cpu相比，获得结果的时间最多可提升110倍。英伟达表示h200预计将于2024年第二季度出货，售价还暂未公布，不过在算力荒下，大科技公司们估计还是会疯狂囤货。