(相關(guān)資料圖)

目前，AI大模型的通用能力，讓其能夠應(yīng)用到人類生產(chǎn)生活的各個(gè)場(chǎng)景中，可謂“無(wú)孔不入”；AI的發(fā)展因此也帶來(lái)了新的安全隱患，如何解決這一問(wèn)題，在9月7日開(kāi)幕的2023 INCLUSION·外灘大會(huì)上，中國(guó)科學(xué)院院士何積豐開(kāi)出了他的“藥方”：利用對(duì)齊技術(shù)為大模型戴上緊箍咒。

何積豐認(rèn)為，大模型的安全問(wèn)題主要是在未經(jīng)同意的情況下，收集、使用和泄露個(gè)人信息。隱私問(wèn)題既可能發(fā)生在訓(xùn)練過(guò)程，也可能發(fā)生在使用過(guò)程中，而大模型的生成能力則讓“隱私泄露”的方式變得多樣化，造成隱私保護(hù)更加困難。

“為了應(yīng)對(duì)這些問(wèn)題，我們需要大模型對(duì)齊技術(shù)。”何積豐說(shuō)，“對(duì)齊（alignment）”是指系統(tǒng)的目標(biāo)和人類價(jià)值觀一致，使其符合設(shè)計(jì)者的利益和預(yù)期，不會(huì)產(chǎn)生意外的有害后果?！叭绻讶斯ぶ悄芸醋魑饔斡浝锏膶O悟空，‘對(duì)齊’就是唐僧的緊箍咒。有了緊箍咒，就可以保證技術(shù)不會(huì)任意使用能力胡作非為”。

不過(guò)，對(duì)齊技術(shù)同樣面臨挑戰(zhàn)。首先，對(duì)齊的基礎(chǔ)是人類的價(jià)值觀，但它是多元且動(dòng)態(tài)變化的，就需要保證大模型為人服務(wù)、與人為善；其次，大模型的“有用性”與“無(wú)害性”之間目標(biāo)也不完全一致。最后如何對(duì)錯(cuò)誤進(jìn)行有效糾正，設(shè)好大模型的“緊箍咒”也是挑戰(zhàn)。

因此，對(duì)齊技術(shù)已經(jīng)成為了一項(xiàng)令人眼花繚亂的跨學(xué)科研究，不僅考驗(yàn)技術(shù)，也審視文化。

何積豐介紹，反饋強(qiáng)化學(xué)習(xí)是實(shí)現(xiàn)對(duì)齊的技術(shù)途徑，目前有兩種方式，一種方式是通過(guò)人工反饋給模型不同的獎(jiǎng)勵(lì)信號(hào)，引導(dǎo)模型的高質(zhì)量輸出；另一種方式，事先給大模型提供明確的原則，系統(tǒng)自動(dòng)訓(xùn)練模型對(duì)所有生成的輸出結(jié)果提供初始排序。

“這意味著，不僅智能系統(tǒng)需要向人類價(jià)值觀對(duì)齊，人類的訓(xùn)練方法也要向價(jià)值觀對(duì)齊?！焙畏e豐由此提出一個(gè)口號(hào)，“人類要跟機(jī)器持續(xù)共同學(xué)習(xí)”。

最后何積豐呼吁，“在AI發(fā)展過(guò)程中，千萬(wàn)不要不要忘記人類的核心角色，希望AI技術(shù)成為我們的助手，而不是代替人類創(chuàng)造新世界的未來(lái)”。

風(fēng)險(xiǎn)提示及免責(zé)條款 市場(chǎng)有風(fēng)險(xiǎn)，投資需謹(jǐn)慎。本文不構(gòu)成個(gè)人投資建議，也未考慮到個(gè)別用戶特殊的投資目標(biāo)、財(cái)務(wù)狀況或需要。用戶應(yīng)考慮本文中的任何意見(jiàn)、觀點(diǎn)或結(jié)論是否符合其特定狀況。據(jù)此投資，責(zé)任自負(fù)。

關(guān)鍵詞：