5月22日，“AI詐騙正在全國(guó)爆發(fā)”話題沖上熱搜第一，引發(fā)網(wǎng)友熱議。

據(jù)每日經(jīng)濟(jì)新聞報(bào)道，近日包頭警方發(fā)布一起利用人工智能（AI）實(shí)施電信詐騙的典型案例，福州市某科技公司法人代表郭先生10分鐘內(nèi)被騙430萬元。

過程是這樣的，4月20日，郭先生的好友突然通過微信視頻聯(lián)系他表示，自己的朋友在外地競(jìng)標(biāo)，需要430萬保證金，且需要公對(duì)公賬戶過賬，想要借郭先生公司的賬戶走賬。好友向郭先生要了銀行卡號(hào)，聲稱已經(jīng)把錢打到郭先生的賬戶上，還把銀行轉(zhuǎn)賬底單的截圖通過微信發(fā)給了郭先生。

【資料圖】

基于對(duì)好友的信任，加上已經(jīng)視頻聊天核實(shí)了身份，郭先生沒有核實(shí)錢款是否到賬，就分兩筆把430萬轉(zhuǎn)到了好友朋友的銀行卡上，結(jié)果最終被AI換臉技術(shù)所騙。

而據(jù)湖北網(wǎng)警巡查執(zhí)法5月6日消息，AI技術(shù)改變?cè)p騙，新騙局來襲后，詐騙成功率竟接近100%。

第一種是聲音合成。騙子通過騷擾電話錄音等來提取某人聲音，獲取素材后進(jìn)行聲音合成，從而可以用偽造的聲音騙過對(duì)方。

第二種是AI換臉，因?yàn)槿四樞Ч兹〉脤?duì)方信任，騙子用AI技術(shù)換臉，可以偽裝成任何人，再通過視頻方式進(jìn)行信息確認(rèn)。

海外方面，在早些時(shí)候，三星在引入ChatGPT不到20天里，發(fā)生了三起半導(dǎo)體機(jī)密資料外泄事故，包括兩起“設(shè)備信息泄露”和一起“會(huì)議內(nèi)容泄露”。

3月31日，意大利個(gè)人數(shù)據(jù)保護(hù)局宣布，從即日起禁止使用聊天機(jī)器人ChatGPT，限制其開發(fā)公司OpenAI處理意大利用戶信息，并開始立案調(diào)查。ChatGPT被指控不遵守有關(guān)個(gè)人數(shù)據(jù)的立法并且沒有驗(yàn)證未成年用戶年齡的系統(tǒng)。

海內(nèi)外積極因?qū)I風(fēng)險(xiǎn)

5月19日消息，英國(guó)計(jì)劃與OpenAI和DeepMind的高管舉行關(guān)于AI風(fēng)險(xiǎn)的會(huì)議，英國(guó)的人工智能峰會(huì)最快可能在本月舉行。

5月18日，科學(xué)技術(shù)部部長(zhǎng)王志剛表示，中國(guó)積極應(yīng)對(duì)人工智能可能帶來的風(fēng)險(xiǎn)挑戰(zhàn)，推進(jìn)人工智能倫理治理，發(fā)布人工智能治理原則和倫理規(guī)范，向全球表明負(fù)責(zé)任人工智能的鮮明立場(chǎng)。

5月16日，OpenAI CEO Altman呼吁國(guó)會(huì)對(duì)人工智能（AI）系統(tǒng)采取安全標(biāo)準(zhǔn)。他認(rèn)為，政府可以將發(fā)放牌照和測(cè)試的要求結(jié)合起來，監(jiān)管開發(fā)AI模型的公司。

4月11日，據(jù)《華爾街日?qǐng)?bào)》報(bào)道，拜登政府已經(jīng)開始研究是否需要對(duì)ChatGPT等人工智能工具實(shí)行檢查。作為潛在監(jiān)管的第一步，美國(guó)商務(wù)部4月11日就相關(guān)問責(zé)措施正式公開征求意見，包括新人工智能模型在發(fā)布前是否應(yīng)經(jīng)過認(rèn)證程序。征求意見期限為60天。

4月11日，國(guó)家互聯(lián)網(wǎng)信息辦公室發(fā)布《生成式人工智能服務(wù)管理辦法(征求意見稿)》，向社會(huì)公開征求意見。該意見稿聚焦生成式人工智能，在算法設(shè)計(jì)、訓(xùn)練數(shù)據(jù)選擇、模型生成和優(yōu)化、提供服務(wù)、生成內(nèi)容、個(gè)人信息和隱私保護(hù)方面均做出了限制。

據(jù)中信證券研報(bào)，AI可能引發(fā)的安全問題主要體現(xiàn)在以下方面：

1）大模型訓(xùn)練、調(diào)優(yōu)所使用數(shù)據(jù)的安全問題。

比如前文所述意大利個(gè)人數(shù)據(jù)保護(hù)局因年齡審核、數(shù)據(jù)和隱私安全等問題，宣布限制ChatGPT運(yùn)營(yíng)；加拿大聯(lián)邦隱私監(jiān)管機(jī)構(gòu)宣布，OpenAI涉嫌“未經(jīng)同意收集、使用和披露個(gè)人信息”。

2）大模型生成內(nèi)容的可靠性、使用方式等問題。

中信證券指出，由于大模型在生成內(nèi)容上的基于概率統(tǒng)計(jì)的原理，其內(nèi)容可靠性可能存在問題，如引用的客觀數(shù)據(jù)是否是最新且來源可靠的，此外，由AI生成的新聞圖片出現(xiàn)在互聯(lián)網(wǎng)中，真假難辨，或引發(fā)傳播風(fēng)險(xiǎn)；歐洲刑警組織提示稱，ChatGPT可能被濫用于網(wǎng)絡(luò)釣魚、虛假信息和網(wǎng)絡(luò)犯罪。

華創(chuàng)證券還提到，網(wǎng)絡(luò)攻擊方面，搭載了AI能力的黑客如虎添翼，ChatGPT的強(qiáng)大功能降低了網(wǎng)絡(luò)攻擊者用于制作惡意軟件和降低技術(shù)門檻，使得攻擊手法轉(zhuǎn)向分布式、智能化、自動(dòng)化，智能化對(duì)抗將成為主要的攻防形式。

哪些技術(shù)有望用來應(yīng)對(duì)AI風(fēng)險(xiǎn)？

中信證券指出，由于大模型在訓(xùn)練、調(diào)優(yōu)數(shù)據(jù)過程中涉及用戶數(shù)據(jù)調(diào)用，伴隨生成式AI技術(shù)熱潮掀起，在數(shù)據(jù)采集、傳輸、存儲(chǔ)、處理、共享、銷毀等數(shù)據(jù)生命周期各階段，通過加密、數(shù)據(jù)水印等技術(shù)手段保護(hù)用戶數(shù)據(jù)特別是隱私成為當(dāng)務(wù)之急。

針對(duì)大模型生成內(nèi)容的可靠性、使用方式，中信認(rèn)為，應(yīng)對(duì)AI生成內(nèi)容進(jìn)行標(biāo)記，同時(shí)對(duì)AI生成內(nèi)容的可靠性及傳播鏈路進(jìn)行把關(guān)。

安信證券提到，當(dāng)前對(duì)AI生成內(nèi)容的判別主要可以由兩種技術(shù)途徑來完成：

1）通過算法識(shí)別AI模型生成內(nèi)容的特征，從而鑒別相應(yīng)的內(nèi)容是否由AI生成。根據(jù)公司公告披露，美亞柏科正在布局相關(guān)取證技術(shù)，比如對(duì)人工智能合成、生成的視頻圖像內(nèi)容檢測(cè)鑒定。

2）通過對(duì)AI生成的內(nèi)容添加特定的標(biāo)識(shí)，來區(qū)分相應(yīng)內(nèi)容是否由AI生成，這一方向的技術(shù)手段包括數(shù)字水印等相應(yīng)的加密技術(shù)。

國(guó)盛證券指出，AIGC可能生成的虛假信息，需要類似換臉甄別的技術(shù)來鑒別圖像等信息是否由AI生成；數(shù)據(jù)隱私方面，隱私計(jì)算可以在不暴露數(shù)據(jù)的情況下進(jìn)行計(jì)算和分析，以實(shí)現(xiàn)數(shù)據(jù)隱私的保護(hù)。

隱私計(jì)算是在保障數(shù)據(jù)隱私安全的同時(shí)，實(shí)現(xiàn)數(shù)據(jù)分析計(jì)算的技術(shù)體系，其價(jià)值是打破數(shù)據(jù)孤島,實(shí)現(xiàn)數(shù)據(jù)的可信流通和價(jià)值挖掘。國(guó)泰君安稱，隱私計(jì)算在政策和需求的雙輪驅(qū)動(dòng)下不斷發(fā)展壯大，到2025年，中國(guó)隱私計(jì)算市場(chǎng)規(guī)模有望突破百億級(jí)，市場(chǎng)空間巨大。

國(guó)盛證券還提到，安全問題不能僅靠AI廠商自律解決，還需要外部力量監(jiān)督。全球AI監(jiān)管處于探索階段，歐盟、英國(guó)、美國(guó)相關(guān)法律法規(guī)與指導(dǎo)意見逐步推進(jìn)。人工智能趨勢(shì)不可逆轉(zhuǎn)，與科學(xué)技術(shù)的高速發(fā)展相比，現(xiàn)有法律和倫理仍處于不斷起步探索的階段。

風(fēng)險(xiǎn)提示及免責(zé)條款 市場(chǎng)有風(fēng)險(xiǎn)，投資需謹(jǐn)慎。本文不構(gòu)成個(gè)人投資建議，也未考慮到個(gè)別用戶特殊的投資目標(biāo)、財(cái)務(wù)狀況或需要。用戶應(yīng)考慮本文中的任何意見、觀點(diǎn)或結(jié)論是否符合其特定狀況。據(jù)此投資，責(zé)任自負(fù)。

關(guān)鍵詞：