首頁 > 技術(shù) > 正文

亞馬遜云推出H100 GPU驅(qū)動(dòng)的亞馬遜彈性計(jì)算云實(shí)例

2023-07-30 11:06:20來源：中關(guān)村在線  


(相關(guān)資料圖)

近日，英偉達(dá)官方公告顯示，亞馬遜云已正式推出由英偉達(dá)H100 Tensor Core GPU驅(qū)動(dòng)的新的亞馬遜彈性計(jì)算云（EC2）P5實(shí)例。該服務(wù)允許用戶通過瀏覽器輕松擴(kuò)展生成式AI、高性能計(jì)算（HPC）和其他應(yīng)用。 NVIDIA H100 GPU的一個(gè)重要特點(diǎn)是其對(duì)Transformer的優(yōu)化，這是許多最新的先進(jìn)AI應(yīng)用所使用的關(guān)鍵技術(shù)，可確保H100在這些應(yīng)用中提供更高的性能和效率。盡管亞馬遜尚未對(duì)集成AMD MI300芯片到其云服務(wù)中作出任何公開承諾，但亞馬遜彈性計(jì)算云副總裁Dave Brown證實(shí)，他們正在積極考慮這一方案。 英偉達(dá)表示，開發(fā)人員和研究人員幾乎每天都在借助大型語言模型（LLMs）發(fā)掘AI的新應(yīng)用，而將這些新用例推向市場需要加速計(jì)算的效率。NVIDIA H100 GPU通過架構(gòu)創(chuàng)新提供超級(jí)計(jì)算級(jí)性能，包括第四代Tensor Cores、用于加速LLMs的新Transformer引擎以及最新的NVLink技術(shù)，可以帶來極其可觀的性能。 據(jù)介紹，EC2 P5實(shí)例非常適合訓(xùn)練和運(yùn)行復(fù)雜LLMs和計(jì)算機(jī)視覺模型的推理。這些神經(jīng)網(wǎng)絡(luò)驅(qū)動(dòng)著最復(fù)雜和計(jì)算密集型的生成式人工智能應(yīng)用程序，包括問答、代碼生成、視頻和圖像生成、語音識(shí)別等。

標(biāo)簽：

相關(guān)閱讀

精彩推薦

相關(guān)詞

推薦閱讀