我是廣告 請繼續往下閱讀
這6項革命性技術分別為:
第1、世界上最強大的晶片:Blackwell架構GPU包含2080億個電晶體,採用客製化的4NP台積電製程製造。
第2、第二代 Transformer 引擎: 在NVIDIA TensorRT-LLM和NeMo Megatron框架中的輝達先進動態範圍管理演算法的推動下,Blackwell將透過新的4位浮點AI支援雙倍的計算和模型大小推理能力。
第3、第五代 NVLink:為了加速數萬億參數和混合專家AI 模型的性能,最新迭代的NVIDIA NVLink為每個GPU提供了突破性的1.8TB/s雙向吞吐量,確保多達576個GPU之間的無縫高速通訊。
第4、RAS 引擎:Blackwell支援的GPU包含一個專用引擎,可實現可靠性、可用性和可服務性。此外,Blackwell架構還增加了晶片級功能,利用基於人工智慧的預防性維護來運行診斷和預測可靠性問題。這可以最大限度地延長系統正常運行時間並提高大規模人工智慧部署的彈性,使其能夠連續運行數週甚至數月,並降低營運成本。
第5、安全人工智慧:先進的機密運算功能可在不影響效能的情況下保護人工智慧模型和客戶數據,並支援新的本機介面加密協議,這對於醫療保健和金融服務等隱私敏感行業至關重要。
第6、解壓縮引擎:專用解壓縮引擎支援最新格式,加速資料庫查詢,以提供資料分析和資料科學的最高效能。未來幾年,公司每年花費數百億美元的資料處理將越來越多地由GPU加速。
黃仁勳表示,這30年來,輝達一直在追求加速運算,目標是實現深度學習和人工智慧等變革性突破,生成式AI是這個時代的決定性技術,「一個全新的產業開始了」,而Blackwell是推動這場新工業革命的引擎。
更多「輝達GTC大會」相關新聞。