1. 跳轉至内容
  2. 跳轉至主選單
  3. 跳轉到更多DW網站

中國AI爭議頻傳 馬斯克:北京或推監管新規

2023年6月6日

人工智慧發展方興未艾,中國近期傳出多起相關詐騙、假訊息案件。同時,馬斯克5日首談中國之行,稱中國政府正準備推動人工智慧的監管法規。

馬斯克30日於訪華行程中,會見諸國外長秦剛
馬斯克30日於訪華行程中,會見諸國外長秦剛圖片來源: ASSOCIATED PRESS/picture alliance

(德國之聲中文網)推特、特斯拉執行長馬斯克(Elon Musk)結束上週為期兩天的訪中行程後,週一(6月5日)與美國民主黨總統候選人甘迺迪(Robert F. Kennedy Jr.)在推特音訊空間(Twitter Space)談話提到,中國政府正在推動人工智慧(AI)法規

馬斯克並未詳細說明,僅表示他在中國期間會見了當地高層,並就AI的風險及監管必要性,進行了「富有成效的討論」。他說,他也從這些談話中得知,中國計畫啟動AI的相關監管措施。

AI詐欺、假訊息興起

AI在中國飛速發展,該國AI相關欺詐案近期也有所激增。《華爾街日報》5日報導,中國各地警方近日都在官方社交媒體上,廣泛警告民眾小心犯罪份子藉AI假冒成朋友進行詐騙。

報導指,一名郭姓中國男子4月在微信上接到一通詐騙視訊電話,詐騙者在影像中以AI換臉、語音合成技術冒充其友人的容貌和聲音,假可亂真地說服他將約60萬美元的款項轉入內蒙古的銀行帳戶。直到郭姓男子聯繫朋友確認款項,才得知自己受騙上當。根據內蒙古警方的微信貼文,中國當局已終止該筆交易,並試圖追回受騙款項。

此事在中國網民間引起熱議,一度在微博上以「#AI 詐騙正在全國爆發」的標籤廣傳,該話題隨後受審查限制,無法再顯示搜索結果。同月,安徽警方因一起類似案件逮捕了一名詐騙份子。

假新聞?!AI造!

05:12

This browser does not support the video element.

除詐騙案外,AI也在中國造成多起假訊息事件。甘肅5月有男子藉網路收集的新聞片,以ChatGPT捏造了一篇火車事故的假貼文,在允許用戶分潤的部落格平台上發表,藉此得利。警方將其逮捕後稱,該篇文章獲得了1萬5000次瀏覽。同月,河南當局也稱,有名男子藉ChatGPT生成「餐館發生暴力扭打,一名女性被磚擊頭部後身亡」的假訊息,藉以獲得流量。

OpenAI並未在中國提供ChatGPT服務,但仍有許多中國民眾「翻牆」使用。

政府出手監管

為應對層出不窮的AI案件,中國政府已出台相關法規。

針對假消息、詐騙等案件,中國網信辦1月宣佈,禁止以AI生成的圖像、音頻和文本,傳播錯誤、違法或「破壞經濟或國家安全」的訊息內容。《華爾街日報》指,這些籠統而廣泛的定義,給了中國當局相當大的執法自由。

阿里巴巴日前宣佈將推出AI服務「通義千問」(資料照)圖片來源: CFOTO/picture alliance

中國網信辦4月也公佈了管理生成式AI服務(如百度「文心一言」、阿里巴巴「通義千問」等)的措施草案,規定AI產出的內容須「符合國家社會主義核心價值觀」、「不得宣揚恐怖主義、歧視、暴力」,並要求企業需為「訓練AI產品的數據的合法性負責」,且在公開推出產品之前,須先提交當局進行「安全評估」。

倘若企業未遵守上述指導方針,將被處以1萬元人民幣(約1450美元)以上的罰款,並得停止旗下AI服務,面臨刑事調查。

彭博社引述分析師說法指,中國網信辦的相關規定可能影響未來中國訓練AI模型的方式

除中國外,世界各國也都在尋求規範AI機器人發展的方法。義大利4月一度以個人訊息、隱私疑慮,以及生成內容不準確為由暫時禁止ChatGPT,並於ChatGPT母公司OpenAI更新隱私條款後解除禁令。

美國商務部4月亦曾針對「AI模型是否應經認證後才能上市」一事公開請求意見。對此,OpenAI回應「強大的AI系統應受嚴格的安全評估」,若想落實此類評估,就需要對AI加以監管,因此該公司願「積極與政府合作,以制定此類監管的最佳形式」。

(路透社、彭博社、《華爾街日報》、中國網信辦)

© 2023年德國之聲版權聲明:本文所有內容受到著作權法保護,如無德國之聲特別授權,不得擅自使用。任何不當行為都將導致追償,並受到刑事追究。

跳轉至下一欄 DW熱門報導

DW熱門報導

跳轉至下一欄 更多DW報導