今日要點(diǎn)

1、OpenAI降價(jià)95%，用API自己造插件；

2、AMD發(fā)布AI芯片 MI300X，仍無(wú)法挑戰(zhàn)英偉達(dá)CUDA壁壘；

(相關(guān)資料圖)

3、微軟推出醫(yī)學(xué)大模型LLaVA-Med ，能夠推測(cè)患者病理情況；

4、Windows10到2025年后將永久停止使用；

5、阿聯(lián)酋打造的大模型持續(xù)霸榜Hugging Face；

每日見(jiàn)智AI

1、OpenAI大降價(jià)！開(kāi)放函數(shù)調(diào)用功能，讓開(kāi)發(fā)者操作更便捷

OpenAI官網(wǎng)宣布“更新更可調(diào)的API模型、函數(shù)調(diào)用功能（Function calling）、更長(zhǎng)的上下文和更低的價(jià)格”，發(fā)布更高效更低成本的版本。

降價(jià)方面：不同版本降價(jià)幅度不同，OpenAI最先進(jìn)、用戶最多的嵌入模型Text-embedding-ada-002降價(jià)75%；用戶最多的聊天模型gpt-3.5-turbo降價(jià)25%。此外，OpenAI還推出了gpt4-16k平替版——gpt-3.5-turbo-16k，價(jià)格為每輸入1000 tokens 0.003美元，相當(dāng)于降價(jià)95%！

最值得關(guān)注的是：函數(shù)調(diào)用功能；開(kāi)發(fā)者現(xiàn)在可以向gpt-4-0613和gpt-3.5-turbo-0613兩個(gè)模型描述函數(shù)，并讓模型智能地選擇輸出一個(gè)包含參數(shù)的JSON（JavaScript Object Notation，一種數(shù)據(jù)交換的文本格式）對(duì)象來(lái)調(diào)用這些函數(shù)。若將GPT功能與外部工具或API進(jìn)行連接，這種方法更加可靠。

見(jiàn)智點(diǎn)評(píng)：

函數(shù)調(diào)用功能最大程度幫助開(kāi)發(fā)者更輕松地構(gòu)建調(diào)用外部工具、將自然語(yǔ)言轉(zhuǎn)換為外部 API 調(diào)用或進(jìn)行數(shù)據(jù)庫(kù)查詢的聊天機(jī)器人。

底層邏輯是：允許開(kāi)發(fā)者更可靠地從模型中獲取結(jié)構(gòu)化數(shù)據(jù)，能夠很大程度提高程序的可讀性，能夠提升代碼的組織效率；

例如調(diào)用外部工具提供回答、從文本中提取數(shù)據(jù)化結(jié)構(gòu)等。這樣很大程度降低了操作門檻，極大的優(yōu)化了效率，同時(shí)還能夠更大程度發(fā)揮模型的功能。

函數(shù)調(diào)用能夠?qū)?fù)雜程序分解為更小的部分，同時(shí)更加便于管理和使用。另外在測(cè)試上面也更便捷和高效，在方便調(diào)用的同時(shí)更有助于提高整體運(yùn)行的質(zhì)量。

從降價(jià)角度來(lái)看，Sam Altman兌現(xiàn)了承諾，并且遠(yuǎn)遠(yuǎn)超過(guò)市場(chǎng)預(yù)期。另外，由于 OpenAI 不斷更新其模型，舊版本將不會(huì)永久存在。公司還宣布開(kāi)始淘汰一些早期版本的這些模型，包括 gpt-3.5-turbo-0301 和 gpt-4-0314將在9月13日之后停止使用。

2、AMD發(fā)布AI芯片 MI300X，仍無(wú)法挑戰(zhàn)英偉達(dá)CUDA壁壘

AMD宣布即將推出迄今為止最先進(jìn)的人工智能GPU MI300X芯片，并可以使用高達(dá)192GB的內(nèi)存的HBM3高帶寬內(nèi)存來(lái)加速大型語(yǔ)言模型和生成式AI計(jì)算。

AMD主要客戶將在第三季度開(kāi)始試用MI300X，第四季度開(kāi)始全面生產(chǎn)。另一種型號(hào)Instinct MI300A現(xiàn)在正在向客戶發(fā)售。

除了AI芯片外，AMD還推出專為云計(jì)算和超大規(guī)模用戶設(shè)計(jì)的全新EPYC服務(wù)器處理器，代號(hào)為Bergamo，每個(gè)插槽最多包含128個(gè)內(nèi)核，并針對(duì)各種容器化工作負(fù)載進(jìn)行了優(yōu)化。

見(jiàn)智點(diǎn)評(píng)：

MI300X一定程度能夠成為AI芯片市場(chǎng)很受歡迎的產(chǎn)品，當(dāng)下英偉達(dá)AI芯片供應(yīng)仍舊處于非常緊缺的狀態(tài)，openAI等多家企業(yè)也紛紛想要申請(qǐng)購(gòu)買更多的芯片滿足日漸增長(zhǎng)的數(shù)據(jù)中心訪問(wèn)量，但是訂單排期已經(jīng)陸續(xù)延到年底。

雖然MI300X還不足以完全替代GH200，但在內(nèi)存容量方面已經(jīng)比英偉達(dá)GH100更大，且在節(jié)能方面MI300X表現(xiàn)比GH200更出色，但是對(duì)于價(jià)格方面目前還沒(méi)有定論，市場(chǎng)預(yù)估成本可能會(huì)高于H100。

另外，見(jiàn)智認(rèn)為英偉達(dá)CUDA GPU 在許多計(jì)算密集型任務(wù)中比 AMD GPU 更快，包括 GPU 的設(shè)計(jì)和更高效的編譯器優(yōu)化的可用性，AMD仍無(wú)法挑戰(zhàn)英偉達(dá)CUDA壁壘。AMD正在努力提高其MI300X GPU的性能，并為其平臺(tái)提供更好的支持。但AMD是否能夠縮小與NVIDIA的差距還有待觀察。

3、微軟推出醫(yī)學(xué)大模型LLaVA-Med，能夠推測(cè)患者病理情況

微軟研究人員展示了 LLaVA-Med 模型，該模型主要用于生物醫(yī)學(xué)方面的研究，可根據(jù) CT、X 光圖片等推測(cè)出患者的病理狀況。

據(jù)悉，微軟研究人員與一批醫(yī)院合作，獲得了使用生物醫(yī)學(xué)圖像文本對(duì)應(yīng)大型數(shù)據(jù)集來(lái)訓(xùn)練多模態(tài) AI 模型。該數(shù)據(jù)集包括胸部 X 光、MRI、組織學(xué)、病理學(xué)和 CT 圖像等，覆蓋范圍相對(duì)全面。

微軟使用 GPT-4，基于 Vision Transformer 和 Vicuna 語(yǔ)言模型，在八個(gè)英偉達(dá) A100 GPU 上對(duì) LLaVA-Med 進(jìn)行訓(xùn)練，其中包含“每個(gè)圖像的所有預(yù)分析信息”，用于生成有關(guān)圖像的問(wèn)答，以滿足“可自然語(yǔ)言回答有關(guān)生物醫(yī)學(xué)圖像問(wèn)題”的助手愿景。

在學(xué)習(xí)過(guò)程中，模型主要圍繞“描述此類圖像的內(nèi)容”以及“闡述生物醫(yī)學(xué)概念”而展開(kāi)。據(jù)微軟稱，該模型最終具有“出色的多模式對(duì)話能力”、“在用于回答視覺(jué)問(wèn)題的三個(gè)標(biāo)準(zhǔn)生物醫(yī)學(xué)數(shù)據(jù)集上，LLaVA-Med 在部分指標(biāo)上領(lǐng)先于業(yè)界其他先進(jìn)模型”。

見(jiàn)智點(diǎn)評(píng)：

醫(yī)學(xué)大模型LLaVA-Med已經(jīng)被證明對(duì)圖像問(wèn)題的回答能夠達(dá)到90%的準(zhǔn)確率，是一個(gè)非常有前景的專用大模型工具，未來(lái)很有可能徹底改變研究人員和生物醫(yī)學(xué)數(shù)據(jù)交互的方式，同時(shí)還能夠優(yōu)化醫(yī)療診斷的流程，成為為醫(yī)生提供更具專業(yè)度和可信度的診斷的AI助手。

當(dāng)然，任何大模型都還有需要提供的空間，比較這款大模型就會(huì)出現(xiàn)虛假舉例和推理不佳的問(wèn)題，研究團(tuán)隊(duì)也表示未來(lái)會(huì)側(cè)重于提高模型的質(zhì)量和可靠性，有朝一日可以應(yīng)用于商業(yè)生物醫(yī)學(xué)。

4、Windows10將在2025年后永久停止使用

微軟已宣布正式停止支持Windows10 21H2版本，這意味著仍在運(yùn)行該版本的用戶將被強(qiáng)制升級(jí)至22H2版本。雖然Windows 11仍然可以選擇升級(jí)，但只適用于支持該系統(tǒng)的硬件。

除了21H2版，微軟還停止支持了Windows10 20H2版本和第二代SurfaceBook。據(jù)悉，Windows10 22H2版本將是最后一個(gè)Windows10版本，支持也將于2025年10月結(jié)束。目前，Windows 10處于“維護(hù)模式”，只接收每月的累積更新。1月份，微軟已停止Windows10數(shù)字版的下載和售賣，集中精力開(kāi)發(fā)Windows 11，并預(yù)計(jì)在2024年推出“Windows 12”。

5、阿聯(lián)酋打造的大模型持續(xù)霸榜Hugging Face

近日，阿聯(lián)酋科技創(chuàng)新研究所（TII）打造出的400億參數(shù)的語(yǔ)言模型Falcon-40B，在Hugging Face 的OpenLLM排行榜上依舊排名第一，并持續(xù)霸榜，贏過(guò)此前LLaMA、StableLM和RedPajama等競(jìng)爭(zhēng)者。

Falcon-40B模型利用將近5億個(gè)Token、并使用384顆GPU進(jìn)行了2個(gè)月的訓(xùn)練。為提高訓(xùn)練過(guò)程的質(zhì)量，團(tuán)隊(duì)成員還自己組建了一套工作流程來(lái)篩選出“最高質(zhì)量的的語(yǔ)料”供該模型進(jìn)行訓(xùn)練。經(jīng)過(guò)多個(gè)基準(zhǔn)測(cè)試后，表現(xiàn)比LLaMA、Vicuna和Alpaca更加出色。

見(jiàn)智點(diǎn)評(píng)：

Falcon背后的研發(fā)方為阿聯(lián)酋的阿布扎比技術(shù)創(chuàng)新研究所（TII），這是中東首個(gè)世界頂級(jí)的大模型產(chǎn)品。團(tuán)隊(duì)采用了“多重查詢注意力”機(jī)制來(lái)提高模型的效率。其中，“多重查詢注意力”機(jī)制即模型可以對(duì)每個(gè)token進(jìn)行多個(gè)查詢，來(lái)更好表示同一序列中不同token之間的關(guān)系，從而在加速模型運(yùn)算效率的同時(shí)，降低模型的復(fù)雜性，進(jìn)一步提高模型整體的可維護(hù)性。

風(fēng)險(xiǎn)提示及免責(zé)條款 市場(chǎng)有風(fēng)險(xiǎn)，投資需謹(jǐn)慎。本文不構(gòu)成個(gè)人投資建議，也未考慮到個(gè)別用戶特殊的投資目標(biāo)、財(cái)務(wù)狀況或需要。用戶應(yīng)考慮本文中的任何意見(jiàn)、觀點(diǎn)或結(jié)論是否符合其特定狀況。據(jù)此投資，責(zé)任自負(fù)。

關(guān)鍵詞：