人妻夜夜爽天天爽三区麻豆AV网站,亚洲AV成人一区二区三区天堂,欧美人与动牲交欧美精品,亚洲AV无码一区东京热久久

Meta發(fā)力AI:官宣訓(xùn)練和推理芯片項目,首款定制AI芯片超低功耗-環(huán)球快看

繼利用人工智能(AI)提升廣告效果后,Meta又在芯片上發(fā)力。

美東時間5月18日Meta披露了旗下數(shù)據(jù)中心項目支持AI工作的細(xì)節(jié),提到已經(jīng)打造一款定制芯片,簡稱MTIA,用于加快生成式AI模型的訓(xùn)練。這是Meta首次推出AI定制芯片。Meta稱,MTIA是加快AI訓(xùn)練和推理工作負(fù)載的芯片“家族”的一分子。


(資料圖)

MTIA全稱為Meta訓(xùn)練和推理加速器。所謂推理是指運行經(jīng)過訓(xùn)練的模型。MTIA是一種ASIC,也就是將不同電路集成在一塊板上的芯片,可以將它進行編程,執(zhí)行一項或多項任務(wù)。

Meta介紹,MTIA采用開源芯片架構(gòu)RISC-V,它的功耗僅有25瓦,遠(yuǎn)低于英偉達(dá)等主流芯片廠商的產(chǎn)品功耗。

Meta稱,2020年設(shè)計了第一代MTIA芯片,采用7納米工藝,那是同名MTIA項目的部分工作。打造第一代芯片的目的是提高推薦模型的效率,那些模型服務(wù)于廣告和其他新聞推送內(nèi)容。一代MTIA可以將內(nèi)部128MB的內(nèi)存擴展到高達(dá)128GB。在Meta設(shè)計的基準(zhǔn)測試中,它處理了低等和中等復(fù)雜度的AI模型,效率比GPU高。

Meta的軟件工程師Joel Cohurn介紹新芯片時稱,Meta最初用圖形處理單元(GPU)執(zhí)行推理任務(wù),發(fā)現(xiàn)GPU不太適合這種工作。用GPU固然可以大幅優(yōu)化軟件,但對真實模型的效率很低,現(xiàn)實配置時難度大、成本高。所以Meta需要MTIA。

Meta承認(rèn),MTIA芯片在處理高復(fù)雜度AI模型時遇到了問題,但指出,它比競品芯片能更有效地處理中低復(fù)雜度的模型。

Meta表示,芯片在內(nèi)存和網(wǎng)絡(luò)領(lǐng)域的工作還未完成,隨著AI模型發(fā)展,這些工作會出現(xiàn)瓶頸。目前,MTIA 的重點放在Meta應(yīng)用家族的推理,而不是訓(xùn)練。不過Meta 強調(diào),MTIA“大大”提高了單位瓦特的推薦負(fù)載運行效率,讓公司能運行加強版的、更尖端的AI工作負(fù)載。

Meta本周四并未披露配置新芯片的時間表,也未說明具體有什么計劃開發(fā)可能訓(xùn)練模型的芯片。

Meta同時介紹,計劃針對以AI為核心的網(wǎng)絡(luò)和冷卻系統(tǒng),重新設(shè)計其數(shù)據(jù)中心,今年內(nèi),首個相關(guān)數(shù)據(jù)中心的設(shè)施將破土動工。Meta的員工演示時稱,新設(shè)計的成本將降低31%,而且建造速度是公司目前數(shù)據(jù)中心的兩倍。

Meta還介紹了旗下的一種AI驅(qū)動系統(tǒng),它可幫助Meta的工程師編寫電腦代碼。Meta的AI助力代碼工具名為CodeCompose,目前沒有對外公開。公司團隊內(nèi)部用它獲取Python 和其他語言的代碼建議。

今年ChatGPT掀起AI的熱潮后,Meta正在努力追趕其他硅谷巨頭加速開發(fā)AI功能的腳步。

2月Meta推出針對研究社區(qū)的大型語言模型LLaMA ,不同于ChatGPT和必應(yīng)這類聊天機器人,它是開源的“研究工具”,可以在非商業(yè)許可下提供給政府、社區(qū)和學(xué)術(shù)界的研究人員和實體工作者。當(dāng)月有報道稱,Meta將AI率先用于廣告功能,推出名為Advantage+的廣告產(chǎn)品,針對不同的用戶,讓AI根據(jù)算法自動生成廣告。

上月初傳出Meta年底前推出AI廣告工具的消息。Meta首席技術(shù)官Andrew Bosworth當(dāng)時說,Meta將推出生成廣告圖像的AI工具,幫助公司針對不同的受眾制作不同的圖像。

上月末Meta公布了優(yōu)于預(yù)期的一季度業(yè)績,并承諾要對火爆的AI領(lǐng)域加大押注。Meta的CEO扎克伯格評價一季度業(yè)績時稱,AI推動App和業(yè)務(wù)取得良好成果,還在業(yè)績電話會上說,對AI和元宇宙要兩手抓。

在Meta本周四官宣之前,其他科技巨頭已有定制AI芯片的動作。

谷歌用簡稱TPU的處理器訓(xùn)練PaLM-2等旗下大型生成式AI系統(tǒng)。亞馬遜為云服務(wù)AWS的客戶提供訓(xùn)練和推理的專屬芯片。上月媒體稱,微軟在與AMD合作開發(fā)名為Athena的自有AI芯片。

風(fēng)險提示及免責(zé)條款 市場有風(fēng)險,投資需謹(jǐn)慎。本文不構(gòu)成個人投資建議,也未考慮到個別用戶特殊的投資目標(biāo)、財務(wù)狀況或需要。用戶應(yīng)考慮本文中的任何意見、觀點或結(jié)論是否符合其特定狀況。據(jù)此投資,責(zé)任自負(fù)。

關(guān)鍵詞: