1. 跳转至内容
  2. 跳转至主菜单
  3. 跳转到更多DW网站

中国AI争议频传 马斯克:北京或推监管新规

2023年6月6日

人工智能发展方兴未艾,中国近期传出多起相关诈骗、假信息案件。同时,马斯克5日首谈中国之行,称中国政府正准备推动人工智能的监管法规。

马斯克30日于访华行程中,会见诸国外长秦刚
马斯克30日于访华行程中,会见诸国外长秦刚图像来源: ASSOCIATED PRESS/picture alliance

(德国之声中文网)推特、特斯拉执行长马斯克(Elon Musk)结束上週为期两天的访中行程后,週一(6月5日)与美国民主党总统候选人肯尼迪(Robert F. Kennedy Jr.)在推特音讯空间(Twitter Space)谈话提到,中国政府正在推动人工智能(AI)法规

马斯克并未详细说明,仅表示他在中国期间会见了当地高层,并就AI的风险及监管必要性,进行了“富有成效的讨论”。他说,他也从这些谈话中得知,中国计画启动AI的相关监管措施。

AI诈欺、假信息兴起

AI在中国飞速发展,该国AI相关欺诈案近期也有所激增。《华尔街日报》5日报道,中国各地警方近日都在官方社交媒体上,广泛警告民众小心犯罪份子藉AI假冒成朋友进行诈骗。

报道指,一名郭姓中国男子4月在微信上接到一通诈骗视讯电话,诈骗者在影像中以AI换脸、语音合成技术冒充其友人的容貌和声音,假可乱真地说服他将约60万美元的款项转入内蒙古的银行帐户。直到郭姓男子联系朋友确认款项,才得知自己受骗上当。根据内蒙古警方的微信贴文,中国当局已终止该笔交易,并试图追回受骗款项。

此事在中国网民间引起热议,一度在微博上以“#AI 诈骗正在全国爆发”的标签广传,该话题随后受审查限制,无法再显示搜索结果。同月,安徽警方因一起类似案件逮捕了一名诈骗份子。

假新闻?!AI造!

05:12

This browser does not support the video element.

除诈骗案外,AI也在中国造成多起假信息事件。甘肃5月有男子藉网络收集的新闻片,以ChatGPT捏造了一篇火车事故的假贴文,在允许用户分润的博客平台上发表,藉此得利。警方将其逮捕后称,该篇文章获得了1万5000次浏览。同月,河南当局也称,有名男子藉ChatGPT生成“餐馆发生暴力扭打,一名女性被砖击头部后身亡”的假信息,藉以获得流量。

OpenAI并未在中国提供ChatGPT服务,但仍有许多中国民众“翻墙”使用。

政府出手监管

为应对层出不穷的AI案件,中国政府已出台相关法规。

针对假消息、诈骗等案件,中国网信办1月宣布,禁止以AI生成的图像、音频和文本,传播错误、违法或“破坏经济或国家安全”的信息内容。《华尔街日报》指,这些笼统而广泛的定义,给了中国当局相当大的执法自由。

阿里巴巴日前宣布将推出AI服务“通义千问”(资料照)图像来源: CFOTO/picture alliance

中国网信办4月也公布了管理生成式AI服务(如百度“文心一言”、阿里巴巴“通义千问”等)的措施草案,规定AI产出的内容须“符合国家社会主义核心价值观”、“不得宣扬恐怖主义、歧视、暴力”,并要求企业需为“训练AI产品的数据的合法性负责”,且在公开推出产品之前,须先提交当局进行“安全评估”。

倘若企业未遵守上述指导方针,将被处以1万元人民币(约1450美元)以上的罚款,并得停止旗下AI服务,面臨刑事调查。

彭博社引述分析师说法指,中国网信办的相关规定可能影响未来中国训练AI模型的方式

除中国外,世界各国也都在寻求規范AI机器人发展的方法。意大利4月一度以个人信息、隐私疑虑,以及生成内容不准确为由暂时禁止ChatGPT,并于ChatGPT母公司OpenAI更新隐私条款后解除禁令。

美国商务部4月亦曾针对“AI模型是否应经认证后才能上市”一事公开请求意见。对此,OpenAI回应“强大的AI系统应受严格的安全评估”,若想落实此类评估,就需要对AI加以监管,因此该公司愿“积极与政府合作,以制定此类监管的最佳形式”。

(路透社、彭博社、《华尔街日报》、中国网信办)

© 2023年德国之声版权声明:本文所有内容受到著作权法保护,如无德国之声特别授权,不得擅自使用。任何不当行为都将导致追偿,并受到刑事追究。

跳转至下一栏 DW热门报道

DW热门报道

跳转至下一栏 更多DW报道