NVIDIA GTC 2024大會重點解析

 

NVIDIA在GTC 2024大會發布GB200 AI晶片每

  Blackwell時代來臨了,NVIDIA在19日GTC 2024大會發布新一代Blackwell架構GPU,其AI超級晶片被命名為GB200,其性能相較上代H100提升了2.5倍,計劃於2024年內上市。Blackwell GB200體積龐大,採用TSMC 4nm (4NP) 製程,它由2顆B200晶片透過10TB/s的NVLine 5.0連接組成共有 2,080億個電晶體,相較上一代H100 800萬個電晶體規模更上一層樓。

  據NVIDIA執行長表示,Hopper GPU表現非常出色,但我們需要更強的算力, GB200為人工智慧公司提供了巨大的性能升級,其AI性能為每秒20千萬億次浮點運算,相較H100每秒4千萬億次浮點運算提高了2.5倍。GB200包含了2顆B200 Blackwell GPU和 1 個基於Arm的Grace CPU組成,推算語言模型效能比H100提升30倍,成本和能耗降低1/25。

 


謝謝收看

arrow
arrow
    文章標籤
    GB200 GTC 2024
    全站熱搜

    john pan 發表在 痞客邦 留言(0) 人氣()