（原標題：“事故”頻發(fā)！AI龍頭也栽在了AI手里…）

作為AI龍頭股，市值超過1300億元的科大訊飛今天栽在了AI手里。

(資料圖片)

5月24日下午開盤后，科大訊飛股價快速跳水，盤中一度跌超9%。截至收盤，科大訊飛收跌4.26%。

據(jù)了解，近日網(wǎng)上傳出“科大訊飛被曝涉嫌大量采集用戶隱私數(shù)據(jù)”的文章。隨后，該文章被猜測是AI文檔工具“文心一言”所生成。

對此，科大訊飛盤后在投資者互動平臺表示，公司初步判斷該段不實信息系某AI生成式軟件生成。使用大模型編造虛假信息屬于違法行為，將受到法律制裁。

科大訊飛：AI編造虛假信息已有刑事案例

科大訊飛在投資者互動平臺上表示，公司初步判斷該段不實信息系某AI生成式軟件生成。對于惡意抹黑、捏造虛假信息，損害公司名譽權的機構或個人，公司會借助法律武器保護公司和投資者利益。

科大訊飛表示，公司高度重視企業(yè)信息安全及個人隱私信息保護，將信息安全管理作為公司發(fā)展的重要支撐戰(zhàn)略之一，并建立了完善嚴格的信息安全和隱私保護體系。竭力保障公司信息及用戶的安全權益。公司于2017 年通過ISO27001 信息安全管理體系認證，2020 年，又在此基礎上通過了ISO27701 隱私安全體系認證。

此外，科大訊飛還提到，使用大模型編造虛假信息屬于違法行為，將受到法律制裁。當前已有刑事案例。

據(jù)甘肅公安5月7日消息，甘肅公安偵破首例利用AI人工智能技術炮制虛假信息案。4月25日，甘肅省平?jīng)鍪泄簿轴轻挤志志W(wǎng)安大隊對“今晨甘肅一火車撞上修路工人致9人死亡”的文章，初步判斷為信息虛假不實。網(wǎng)安民警隨即開展工作，發(fā)現(xiàn)共計21個百度賬號均在同一時間段發(fā)布該文章。經(jīng)查，涉案百度賬號均為廣東深圳某自媒體公司所有，公司法人代表洪某弟有重大作案嫌疑。

5月5日，專案民警在廣東東莞嫌疑人住處對其使用的電腦及百家號進行取證。經(jīng)審訊，犯罪嫌疑人洪某弟通過微信好友獲知網(wǎng)絡賺取流量變現(xiàn)方法，并購買大量“百家號”。同時使用“易撰”網(wǎng)頁版，在全網(wǎng)搜索近幾年社會熱點新聞，為規(guī)避百家號查重功能，洪某弟通過近期火爆的ChatGPT人工智能軟件將搜集到的新聞要素修改編輯后，使用“海豹科技”軟件上傳至其購買的百家號上非法獲利。

洪某弟利用現(xiàn)代科技手段編造虛假信息，并散布在互聯(lián)網(wǎng)上，被大量傳播瀏覽，其行為已涉嫌尋釁滋事罪。

舊聞被重新翻出

有投資者當天在互動平臺上提問科大訊飛：“5月24日下午，市場出現(xiàn)多個關于科大訊飛的傳言，有外媒援引知情人士的話稱，美國正在考慮是否將科大訊飛、美亞柏科等加入實體名單。請公司盡快核實傳言，以正視聽?！?/p>

對此，科大訊飛在盤后回應稱：該條信息屬于對2019年5月23日相關信息的復制粘貼?？拼笥嶏w已于2019年10月被列入實體清單，科大訊飛擁有全球領先的人工智能核心技術，這些核心技術全部來自于科大訊飛的自主研發(fā)，擁有自主知識產(chǎn)權。被列入實體清單后，科大訊飛已迅速切換到以國產(chǎn)供應鏈為主的非美供應鏈體系，繼續(xù)為客戶提供優(yōu)質(zhì)的產(chǎn)品和服務，業(yè)務運營未受到重大影響。

證券時報記者查詢發(fā)現(xiàn)，“科大訊飛于2019年10月被列入實體清單”確實是當時的一篇舊聞。

中國互聯(lián)網(wǎng)協(xié)會：警惕！“AI換臉”新騙局

中國互聯(lián)網(wǎng)協(xié)會5月24日發(fā)文稱，警惕 “AI換臉”新騙局。今年以來，ChatGPT和GPT-4等技術的應用，成為了信息科技領域的熱點，引起公眾對AI技術的廣泛關注和熱情。但伴隨著深度合成技術的開放開源，深度合成產(chǎn)品和服務逐漸增多，利用“AI換臉”“AI換聲”等虛假音視頻，進行詐騙、誹謗的違法行為屢見不鮮。

據(jù)平安包頭微信公眾號，5月8日，包頭市公安局電信網(wǎng)絡犯罪偵查局發(fā)布一起使用智能AI技術進行電信詐騙的案件，警銀聯(lián)動成功緊急止付涉嫌電信詐騙資金330多萬元。據(jù)悉，4月20日11時40分左右，福州市某科技公司法人代表郭先生的好友突然通過微信視頻聯(lián)系到他，兩人經(jīng)過短暫聊天后，好友告訴郭先生，自己的朋友在外地投標，需要430萬元保證金，且需要公對公賬戶過賬，所以想要借用郭先生公司的賬戶走一下賬?；谝曨l聊天信任的前提下，郭先生沒有核實錢是否到賬，于11時49分先后分兩筆把430萬元給對方打了過去。錢款轉(zhuǎn)賬后，郭先生給好友微信發(fā)了一條消息，稱事情已經(jīng)辦妥。但讓他沒想到的是，好友回過來的消息竟然是一個問號。郭先生撥打好友電話，對方說沒有這回事，他這才意識到竟然遇上了“高端”騙局，對方通過智能AI換臉技術，佯裝成好友對他實施了詐騙。

接到福建省福州市公安局刑偵支隊的外協(xié)請求，包頭市公安局電信網(wǎng)絡犯罪偵查局立即啟動“包頭市警銀聯(lián)動綠色查詢機制”，在銀行的全力協(xié)助下，將該詐騙賬戶內(nèi)的336.84萬元被騙資金成功攔截。同時，向福州市公安局警方提供了剩余款項93.16萬元資金流出信息，為深入突破該案剩余資金查找提供了突破方向。

中國互聯(lián)網(wǎng)協(xié)會稱，做好個人信息安全第一責任人。加強個人信息保護意識，防止信息泄露：不輕易提供人臉、指紋等個人生物信息給他人；不要輕易透露自己的身份證、銀行卡、驗證碼等信息；不要貪圖方便把身份證、銀行卡照片等直接共同存放于手機內(nèi)。

該協(xié)會稱，對于不常用的APP，建議卸載前注銷個人賬號。若APP不提供個人賬號注銷方式，或為注銷賬號設置各類障礙的，請至12321.cn投訴。

“在AI時代，文字、聲音、圖像和視頻都有可能是深度合成的。在轉(zhuǎn)賬匯款、資金往來這樣的典型場景，要通過回撥對方手機號等額外通信方式核實確認，不要僅憑單一溝通渠道未經(jīng)核實就直接轉(zhuǎn)賬匯款！無論對方是誰！” 中國互聯(lián)網(wǎng)協(xié)會稱。

校對：蘇煥文

關鍵詞：