商業(yè)
吉利控股：擬將極氪私有化
完全合并。
楊亮
2小時(shí)前
re:Invent中國(guó)行：亞馬遜云科技是如何推動(dòng)生成式AI發(fā)展的？
董寒雪 2023-12-15 16:27:57
305970
不久前，在亞馬遜云科技2023年re:Invent中國(guó)行北京站上，大中華區(qū)產(chǎn)品部總經(jīng)理陳曉建分享了亞馬遜云科技在生成式AI領(lǐng)域的最新進(jìn)展。
生成式AI正在以意想不到的方式提高人類的生產(chǎn)力，然而，企業(yè)在落地生成式AI時(shí)通常會(huì)面臨許多挑戰(zhàn)。為了解決這些問(wèn)題，亞馬遜云科技提出了應(yīng)用生成式AI的三層架構(gòu)。
首先，最底層的基礎(chǔ)設(shè)施層，關(guān)注性能、成本和最終經(jīng)濟(jì)效益。亞馬遜云科技一直致力于提供用于訓(xùn)練基礎(chǔ)模型和在生產(chǎn)中運(yùn)行這些模型的基礎(chǔ)設(shè)施，13年前，亞馬遜云科技率先將GPU帶入了云，目前GPU服務(wù)器已廣泛用于HPC、視頻、AI等多種應(yīng)用。在AmazonEC2 P3實(shí)例中，亞馬遜云科技率先提供了NVIDIA V100 GPU。今年早些時(shí)候，亞馬遜云科技成為全球第一家將NVIDIA最新的芯片H100 GPU和Amazon EC2 P5實(shí)例推向市場(chǎng)的云提供商。這些Amazon EC2 P5實(shí)例提供了驚人的性能，在訓(xùn)練上比Amazon EC2 P4實(shí)例快4倍，而成本只是P4的60%。
不過(guò)，要提高生成式AI的基礎(chǔ)訓(xùn)練性能，除了高性能的GPU芯片，陳曉建提到，跨節(jié)點(diǎn)的分布式訓(xùn)練已成為訓(xùn)練大模型的標(biāo)準(zhǔn)范式，訓(xùn)練卡之間的通信和主機(jī)節(jié)點(diǎn)之間的通信也會(huì)成為影響整個(gè)集群訓(xùn)練的關(guān)鍵因素。亞馬遜云科技的Amazon EFA提供了高達(dá)3.2T的網(wǎng)絡(luò)互聯(lián)能力，客戶可以在單個(gè)集群中部署多達(dá)兩萬(wàn)個(gè)GPU芯片的超級(jí)規(guī)模集群，提供相當(dāng)于20個(gè)ExaFLOPS的集成能力，等同于一臺(tái)超級(jí)計(jì)算機(jī)。
在本次re:Invent上，亞馬遜云科技CEO Adam Selipsky和NVIDIA CEO共同宣布了幾項(xiàng)最新的服務(wù)。他們將提供首款搭載NVIDIA Grace Hopper超級(jí)芯片和亞馬遜云科技UltraClusters技術(shù)的云AI超級(jí)計(jì)算機(jī)。首款使用NVIDIA最新芯片GH200 NVL32的NVIDIA DGX云將登錄亞馬遜云科技。
除了提供強(qiáng)大的基礎(chǔ)設(shè)施之外，亞馬遜云科技在中間層也提供了訪問(wèn)基礎(chǔ)模型的最便捷的方式。這一層讓沒(méi)有AI經(jīng)驗(yàn)的構(gòu)建者可以直接獲得應(yīng)用生成式人工智能所需的所有工具，來(lái)構(gòu)建自己的應(yīng)用。對(duì)于沒(méi)有技術(shù)基礎(chǔ)的業(yè)務(wù)用戶，亞馬遜云科技在頂層也提供了利用基礎(chǔ)模型構(gòu)建的開(kāi)箱即用的應(yīng)用程序，讓用戶能在具體場(chǎng)景中直接使用生成式AI。
陳曉建強(qiáng)調(diào)：“我們的目標(biāo)是讓所有人都能利用生成式AI的力量?！彼硎荆瑏嗰R遜云科技將繼續(xù)致力于為客戶提供簡(jiǎn)單、高效且具有成本效益的解決方案，以幫助他們充分釋放生成式AI的潛力。
除了硬件和軟件方面的創(chuàng)新外，亞馬遜云科技還通過(guò)與NVIDIA的合作進(jìn)一步推動(dòng)了生成式AI的發(fā)展。兩家公司共同開(kāi)展了“Project Ceiba”合作項(xiàng)目，將全球最快的GPU驅(qū)動(dòng)AI超級(jí)計(jì)算機(jī)和NVIDIA DGX云超級(jí)計(jì)算機(jī)用于NVIDIA AI的訓(xùn)練、研發(fā)和定制化模型的開(kāi)發(fā)，它將擁有1.6萬(wàn)個(gè)最新的GH200超級(jí)芯片，提供高達(dá)65 ExaFLOPS的驚人算力。
網(wǎng)站信息
