4月13日周四，OpenAI的CEO Sam Altman表示，他同意特斯拉CEO馬斯克、蘋(píng)果聯(lián)合創(chuàng)始人Steve Wozniak等科技界領(lǐng)袖簽署的生命未來(lái)研究所公開(kāi)信的部分內(nèi)容。

【資料圖】

這封公開(kāi)信呼吁暫停6個(gè)月的AI研究。但Altman補(bǔ)充說(shuō)，這封信“遺漏了關(guān)于我們需要暫停的大部分技術(shù)細(xì)節(jié)?！?/p>

Altman說(shuō)：

我認(rèn)為謹(jǐn)慎行事和對(duì)安全問(wèn)題越來(lái)越嚴(yán)格非常重要，但我不認(rèn)為這封信是解決這個(gè)問(wèn)題的最佳方式。

3 月，馬斯克、Wozniak和其他數(shù)十位學(xué)者呼吁立即停止訓(xùn)練與“比 GPT-4 更強(qiáng)大”的大型語(yǔ)言模型相關(guān)的“實(shí)驗(yàn)”，稱(chēng)其“對(duì)社會(huì)和人類(lèi)構(gòu)成潛在風(fēng)險(xiǎn)”。這其中首當(dāng)其沖的就是OpenAI的旗艦大型語(yǔ)言模型。當(dāng)前，這封公開(kāi)信已經(jīng)有超過(guò)2.5萬(wàn)人簽名。

這封信說(shuō)：

人工智能實(shí)驗(yàn)室和獨(dú)立專(zhuān)家應(yīng)該利用六個(gè)月的暫停時(shí)間，來(lái)開(kāi)發(fā)和實(shí)施一套由獨(dú)立外部專(zhuān)家嚴(yán)格審計(jì)和監(jiān)督的高級(jí)人工智能設(shè)計(jì)和開(kāi)發(fā)的共享安全協(xié)議。

Altman周四說(shuō)：

我也同意，隨著AI能力變得越來(lái)越強(qiáng)大，安全標(biāo)準(zhǔn)必須提高。

今年早些時(shí)候，Altman承認(rèn)人工智能技術(shù)讓他“有點(diǎn)害怕”。 白宮、國(guó)會(huì)和美國(guó)各地各界都提出了關(guān)于安全和合乎道德地使用AI的問(wèn)題。

Altman說(shuō)：

我們正在GPT-4之上做其他事情，我認(rèn)為這些事情存在各種需要解決的重要安全問(wèn)題，但這封信卻只字不提。

這封發(fā)布在非營(yíng)利性組織“未來(lái)生命研究所”網(wǎng)站上的公開(kāi)信主張，在開(kāi)發(fā)強(qiáng)大的AI系統(tǒng)之前，應(yīng)先確認(rèn)其帶來(lái)影響是積極的、風(fēng)險(xiǎn)是可控的。

信中詳述了具有人類(lèi)水平智能的AI系統(tǒng)可能對(duì)社會(huì)和人類(lèi)帶來(lái)極大的風(fēng)險(xiǎn)，稱(chēng)“這一點(diǎn)已經(jīng)得到大量研究和頂級(jí)AI實(shí)驗(yàn)室的認(rèn)同”，并連續(xù)拋出四個(gè)疑問(wèn)：

我們是否應(yīng)該讓機(jī)器用宣傳和謊言淹沒(méi)我們的信息渠道?

我們是否應(yīng)該讓所有的工作自動(dòng)化，包括那些令人滿意的工作?

我們是否應(yīng)該發(fā)展最終可能在數(shù)量上超過(guò)我們、在智能上超越我們、能夠淘汰并取代我們的非人類(lèi)思維?

我們應(yīng)該冒著失去對(duì)我們文明控制的風(fēng)險(xiǎn)嗎?

顯然，比起技術(shù)，公開(kāi)信的支持者更在意的，是人工智能可能出現(xiàn)的“野蠻生長(zhǎng)”，以及它的發(fā)展可能帶來(lái)的社會(huì)和倫理難題。

公開(kāi)信中提到，此番暫停并不意味著從總體上暫停人工智能的開(kāi)發(fā)，而是從危險(xiǎn)競(jìng)賽中“后退一步”。人工智能的研究和開(kāi)發(fā)應(yīng)該重新聚焦于使當(dāng)今強(qiáng)大的、最先進(jìn)的系統(tǒng)變得更加準(zhǔn)確、安全、可解釋、透明、穩(wěn)健、一致、可信且可靠。

風(fēng)險(xiǎn)提示及免責(zé)條款 市場(chǎng)有風(fēng)險(xiǎn)，投資需謹(jǐn)慎。本文不構(gòu)成個(gè)人投資建議，也未考慮到個(gè)別用戶特殊的投資目標(biāo)、財(cái)務(wù)狀況或需要。用戶應(yīng)考慮本文中的任何意見(jiàn)、觀點(diǎn)或結(jié)論是否符合其特定狀況。據(jù)此投資，責(zé)任自負(fù)。

關(guān)鍵詞：