人妻夜夜爽天天爽三区麻豆AV网站,亚洲AV成人一区二区三区天堂,欧美人与动牲交欧美精品,亚洲AV无码一区东京热久久

當(dāng)前速看:75歲圖靈獎得主Hinton離職谷歌!痛悔畢生工作,無法阻止人類AI大戰(zhàn)

一覺醒來,整個科技圈驚掉了下巴?。?!

深度學(xué)習(xí)泰斗、神經(jīng)網(wǎng)絡(luò)之父Geoffrey Hinton突然宣布離職谷歌。

為了能夠自由談?wù)撊斯ぶ悄茱L(fēng)險,而不考慮這對谷歌的影響。


(相關(guān)資料圖)

紐約時報的報道中,Hinton直接警示世人:注意,前方有危險,前方有危險,前方有危險!

而正是對人工智能風(fēng)險深深地?fù)?dān)憂,讓這位深度學(xué)習(xí)巨佬直言:「我對自己的畢生工作,感到非常后悔。」

如今,距離Hinton入職谷歌,剛好十年。

對于Hinton此舉,有人甚至勸說,應(yīng)該將關(guān)注人工智能安全常態(tài)化,而不必辭去工作。

這更應(yīng)該是你留下來的理由。因為世界是不會停止的,像你這樣的偉大人物應(yīng)該堅持下去,并將人工智能發(fā)展的更好。

你應(yīng)該勸說你的學(xué)生Yann LeCun和Ilya Sutskever。

值得一提的是,ChatGPT背后真正的英雄正是OpenAI的聯(lián)合創(chuàng)始人兼首席科學(xué)家Ilya。

AI「關(guān)鍵時刻」,人類控制不住了

被稱為「人工智能教父」的Geoffrey Hinton,一直都是該領(lǐng)域最受尊敬的先驅(qū)之一。

今年3月末,萬名大佬簽字發(fā)出聯(lián)名信,呼吁暫停訓(xùn)練比GPT-4更強(qiáng)大的AI六個月。圖靈三巨頭中,Bengio高調(diào)簽名、LeCun旗幟鮮明地反對,唯有Hinton一言不發(fā),耐人尋味地保持沉默。

而Hinton提出離職的時間,正是在此之后的4月份。

從他的推特上可以看出,無論是最近GPT-4等超強(qiáng)AI引發(fā)的巨大爭議,還是谷歌高層的劇烈動蕩,Hinton都始終保持緘默,不發(fā)一言。

許多人關(guān)注著這位人工智能教父的態(tài)度。

在CBS的一次采訪中,Hinton表示「我們幾乎已經(jīng)讓學(xué)會計算機(jī)如何自我改進(jìn)了,這很危險,我們必須認(rèn)真考慮,如何控制它?!?/p>

從人工智能的開創(chuàng)者到末日預(yù)言者,Hinton的轉(zhuǎn)變,也標(biāo)志著科技行業(yè)正處于幾十年來最重要的一個拐點。

先驅(qū)的沉痛反思,讓我們終于不能再掩耳盜鈴,假裝沒有看見AI可能給人類社會引發(fā)的深刻改變和巨大危機(jī)了。

蓋茨等許多大佬認(rèn)為,ChatGPT可能與上世紀(jì)90年代初網(wǎng)絡(luò)瀏覽器一樣重要,并可能在藥物研究、教育等領(lǐng)域帶來突破。

與此同時,令許多業(yè)內(nèi)人士不安的是,他們擔(dān)心自己所做的研究,正在向外釋放某種危險。

因為生成式人工智能可能已經(jīng)成為產(chǎn)生錯誤信息的工具。并在未來的某個時候,可能會對人類構(gòu)成威脅。

在Hinton看來,如何防止壞人利用它做壞事,我們還未能找到方法。

在3月底呼吁暫停超強(qiáng)AI六個月的公開信發(fā)出幾天后,人工智能促進(jìn)協(xié)會的19位領(lǐng)導(dǎo)人也發(fā)布了公開信,警告AI的風(fēng)險。

其中就包括微軟的首席科學(xué)官Eric Horvitz,而微軟已在一系列產(chǎn)品中(包括Bing搜索引擎中)部署了OpenAI的GPT技術(shù)。

在喧囂的反對浪潮中,人工智能教父Hinton卻并未在這兩封信上簽名。

他說,自己在辭去工作之前,并不想公開批評谷歌,或其他公司。

忍到上個月,Hinton終于下定決心,通知谷歌自己即將辭職。

選擇離職谷歌后,Hinton終于可以暢所欲言地談?wù)揂I的風(fēng)險了。

我對我的畢生工作,感到十分后悔。

我只能這樣安慰自己:即使沒有我,也會有別人。

上周四,他與谷歌母公司Alphabet的CEO劈柴(Sundar Pichai)通了電話,但他表示不便透露此次談話的細(xì)節(jié)。

作為一家大公司,谷歌對于AI的態(tài)度一向保守,甚至保守到,眼睜睜看著自己在聊天AI機(jī)器人之戰(zhàn)中被甩在后面。

早在2015年,谷歌的圖像識別AI曾將黑人標(biāo)記為「大猩猩」,招致的批評讓谷歌成為驚弓之鳥。

在OpenAI推出Dall-E 2、名震全球之前,谷歌就有類似模型,但并沒有發(fā)布,因為谷歌認(rèn)為需要對AI生成的內(nèi)容負(fù)責(zé)。

而早在2021年,谷歌就已有了類似ChatGPT的LaMDA聊天機(jī)器人,但谷歌始終未發(fā)布。直到2022年11月底,OpenAI憑ChatGPT占盡風(fēng)頭。

如今,谷歌首席科學(xué)家Jeff Dean在一份聲明中表示:「我們?nèi)匀恢铝τ趯θ斯ぶ悄懿扇∝?fù)責(zé)任的態(tài)度,我們正在不斷學(xué)習(xí)了解新出現(xiàn)的風(fēng)險,同時也在大膽創(chuàng)新?!?/p>

開啟了歷史,也見證了歷史

1972年,Hinton在愛丁堡大學(xué)開始了他的研究生生涯。

在那里,他首次開始研究神經(jīng)網(wǎng)絡(luò)——一種通過分析數(shù)據(jù)來學(xué)習(xí)技能的數(shù)學(xué)系統(tǒng)。

當(dāng)時,很少有研究人員相信這個觀點。但這成了他畢生的心血。

2012年,Hinton和他兩名學(xué)生Ilya Sutskever和Alex Krishevsky建立了一個神經(jīng)網(wǎng)絡(luò),可以分析數(shù)千張照片,并自學(xué)識別花、狗和汽車等常見物體。

神經(jīng)網(wǎng)絡(luò)成為他與兩名學(xué)生共同創(chuàng)建的公司DNNresearch背后的突破性概念,該公司最終在2013年被谷以4400萬美元收購。

2018年,Geoffrey Hinton、Yann LeCun和Yoshua Bengio一起因?qū)ι窠?jīng)網(wǎng)絡(luò)的研究獲得了2018年的圖靈獎,而神經(jīng)網(wǎng)絡(luò)正是ChatGPT、Bard等聊天機(jī)器人背后的奠基性技術(shù)。

而Hinton的學(xué)生Ilya Sutskever,也在后來成為OpenAI首席科學(xué)家。

大約在同一時間,谷歌、 OpenAI和其他科技公司開始構(gòu)建從大量數(shù)字文本中學(xué)習(xí)的神經(jīng)網(wǎng)絡(luò)。

那時的Hinton認(rèn)為,這是機(jī)器理解和產(chǎn)生語言的一種強(qiáng)大方式。當(dāng)然不得不承認(rèn),比起人類處理語言的方式?jīng)],神經(jīng)網(wǎng)絡(luò)還是力不能及。

2022年,隨著谷歌和OpenAI 利用大量數(shù)據(jù)構(gòu)建超強(qiáng)AI。

Hinton的觀點發(fā)生了重大轉(zhuǎn)變。他仍然認(rèn)為這些系統(tǒng)在某些方面不如人類的大腦,但它們在其他方面正在超越人類的智力。

GPT-4發(fā)布當(dāng)天,Hinton曾表示,

毛蟲吸取了營養(yǎng)之后,就會化繭為蝶。而人類提取了數(shù)十億個理解的金塊,GPT-4,就是人類的蝴蝶。

Hinton稱贊的背后,讓許多人看到超強(qiáng)人工智能系統(tǒng)的智力已經(jīng)非同尋常。

對此,Hinton談到人工智能技術(shù)時表示,隨著科技公司改進(jìn)人工智能系統(tǒng),它們變得越來越危險。

看看五年前和現(xiàn)在的情況,如果還要繼續(xù)傳播這項技術(shù),后果就太可怕了!

在谷歌十年生涯中,Hinton一直看好谷歌在人工智能技術(shù)上謹(jǐn)慎的態(tài)度。

他表示,直到去年,谷歌一直扮演著這項技術(shù)的「合適管家」角色,謹(jǐn)小慎微地不去發(fā)布可能造成危險的AI。

這恰恰解釋了,為啥谷歌在這波人工智能浪潮中落后的原因。

但是現(xiàn)在,微軟為其必應(yīng)搜索引擎接入GPT-4的能力,已經(jīng)讓谷歌焦急地不得不做點什么。

Hinton稱,科技巨頭們正在進(jìn)行一場可能無法阻止的競爭。

他眼下?lián)牡氖?,互?lián)網(wǎng)上將充斥著虛假的照片、視頻和文本,人們也無法去辨別什么是真實的,什么是虛假的內(nèi)容。

他甚至還擔(dān)心,人工智能技術(shù)遲早會顛覆就業(yè)市場。

如今,像ChatGPT這樣的聊天機(jī)器人往往能很好地輔助人類工作,甚至取代律師助理、私人助理、翻譯、以及其他處理死記硬背任務(wù)的人。

未來,他表示自己很擔(dān)憂,GPT-4迭代會對人類構(gòu)成威脅,強(qiáng)AI從大量數(shù)據(jù)中能夠?qū)W到意想不到的行為。

人工智能系統(tǒng)不僅可以生成代碼,而且自己運(yùn)行代碼。前段時間爆火的Auto-GPT就是一個非常典型的例子。

他擔(dān)心有一天真正的自主武器ーー那些殺人機(jī)器人ーー會成為現(xiàn)實。

上世紀(jì)80年代,Hinton曾是卡內(nèi)基梅隆大學(xué)的計算機(jī)科學(xué)教授,但因為不愿接受五角大樓的資助,他選擇了離開CMU,前往加拿大。當(dāng)時,Hinton強(qiáng)烈反對在戰(zhàn)場上使用AI,他將其稱為「機(jī)器人士兵」。

在一些人看來,類似的系統(tǒng)實際上比人類更聰明。Hinton表示自己曾經(jīng)認(rèn)為,這太離譜了,最起碼要30-50年,甚至更久才能實現(xiàn)。

而現(xiàn)在,我不再那么想了。

許多其他專家,包括Hinton的許多學(xué)生和同事,說這種威脅還僅是一種假設(shè)。

他指出,谷歌和微軟,以及其他公司之間的競爭,將升級為一場全球性競賽。如果沒有某種全球性的監(jiān)管,這場競賽將不會停止!

但他表示,這也不是絕對的。與核武器不同,我們無法知道哪個公司或國家,是否在秘密研究這項技術(shù)。

網(wǎng)友熱議

有網(wǎng)友認(rèn)為,Hinton對于的AI的看法太悲觀了。

我見過的ChatGPT積極應(yīng)用案例遠(yuǎn)多于消極的,但現(xiàn)在的趨勢是把AI描繪成邪惡的煉金術(shù)。這些擔(dān)憂是合理的,我們會學(xué)習(xí),我們會糾正它,然后我們會繼續(xù)前進(jìn)。

甚至有網(wǎng)友將其比為天網(wǎng),但我們還不能將其關(guān)閉?!溉斯ぶ悄芫拖衽硕嗬哪Ш幸粯?,一旦打開就無法關(guān)閉?!?/p>

還有人對谷歌「負(fù)責(zé)任」這一觀點提出異議:

-使用Breitbart訓(xùn)練AI模型;-讓負(fù)面信息在YouTube上大肆傳播(反過來又為推薦算法提供依據(jù));-散布有關(guān)安全和隱私的科學(xué)假信息;-開除專家

谷歌大腦和DeepMind合并這一事,與此相關(guān)嗎?

還有網(wǎng)友發(fā)出疑問,連Hinton都離職了,下一個會是?

參考資料:

https://www.nytimes.com/2023/05/01/technology/ai-google-chatbot-engineer-quits-hinton.html

本文作者:新智元,本文來源:新智元 (ID:AI_era),原文標(biāo)題:《75歲圖靈獎得主Hinton離職谷歌:痛悔畢生工作,無法阻止人類AI大戰(zhàn)》。

風(fēng)險提示及免責(zé)條款 市場有風(fēng)險,投資需謹(jǐn)慎。本文不構(gòu)成個人投資建議,也未考慮到個別用戶特殊的投資目標(biāo)、財務(wù)狀況或需要。用戶應(yīng)考慮本文中的任何意見、觀點或結(jié)論是否符合其特定狀況。據(jù)此投資,責(zé)任自負(fù)。

關(guān)鍵詞: