编辑:Aeneas 好困

【新智元导读】周五,意大利全国上下对ChatGPT下了令。在20天内,OpenAI拿不出补救措施的话,将会面临最高2000万欧元罚款。

就在昨天,意大利政府突然下令,封禁ChatGPT!

很快,OpenAI首席执行官Sam Altman做出回应称,公司已经关停了当地的ChatGPT服务(但自认为并没有违反任何规定)。

文件地址:https://www.garanteprivacy.it/home/docweb/-/docweb-display/docweb/9870847#english

根据意大利国家数据保护机构GPDP发布新闻稿,OpenAI收集用户数据并用于算法「训练」的行为,缺乏法律依据。

同时,3月20日涉及用户对话和支付信息的泄露事件,也明确地暴露出了OpenAI在个人信息的处理上存在着问题。

除此之外,OpenAI虽然声称ChatGPT面向的是13岁以上的用户,但由于缺乏相应的年龄验证机制,因此未成年人很可能会看到超出其自身发展和自我认知水平的信息。

监管机构表示,OpenAI有20天的时间,如不给出可行的补救措施,则会面临最高2000万欧元,或全球总年营业额4%的罚款。

对此,OpenAI表示,现在已经为意大利用户关闭了服务,并承诺会保护用户的隐私:

「我们在训练ChatGPT这样的系统时,一直在努力减少个人数据,因为我们想要这个AI了解世界,而不是了解个人。当然我们也相信,AI监管是必要的。」

这么看来,ChatGPT未来在意大利的命运,可能就取决于这20天了。

不过,对于意大利来说,这已经不是第一次对AI聊天机器人采取此类行动了。

在2月份,监管机构就禁止了聊天机器人应用程序Replika.ai。Replika曾因一些用户与机器人建立的亲密关系而「臭名昭著」,后来Replika取消了角色扮演的选项,有用户甚至需要热线的援助。

是否应该限制AI工具?

ChatGPT发布后,虽然写论文、写代码的能力让人眼花缭乱,但它对错误信息的传播、对就业的影响,以及对整个人类社会更广泛的风险,都让很多人忧心忡忡,发出预警。

最近,封禁GPT技术的浪潮,更是一波接一波。

不仅图灵奖得主Yoshua Bengio、马斯克、马库斯等千名大佬联名签署公开信,呼吁全球所有AI实验室暂停训练比GPT-4更强大的AI模型。

而且消费者权益保护组织BEUC,也在近日呼吁欧盟和国家当局调查ChatGPT。

此外,很多专家也表示,由于AI对、就业和教育的潜在影响,需要制定新的法规来管理AI。

欧盟委员会发言人称:「我们希望所有在欧盟活跃的公司都尊重欧盟的数据保护规则。执行通用数据保护条例是欧盟数据保护当局的责任。」

欧盟委员会执行Margrethe Vestager在推特上表示,正在讨论欧盟人工智能法案的委员会可能不倾向于禁止人工智能。

「无论我们使用哪种技术,都必须保护自身的权利。这就是为什么我们不规范AI技术,而是规范AI的使用。」

在美国,非营利组织人工智能与数字政策中心(CAIDP)也要求联邦贸易委员会(FTC)调查OpenAI是否违反了消费者保护规则,并禁止其进一步发布GPT-4。

毕竟,有了千名大佬的联名信这个先例,CAIDP的申诉看起来也似乎更加顺理成章。而且,CAIDP主席Marc Rotenberg好不意外地也签署了那封信。

文件地址:https://cdn.arstechnica.net/wp-content/uploads/2023/03/CAIDP-FTC-Complaint-OpenAI-GPT-033023.pdf

整体来说,CAIDP申诉的内容与那封信一致,都是呼吁放慢生成式AI模型的发展,并实施更严格的政府监督。

不过,CAIDP更进一步地认为,ChatGPT「存在偏见、具有欺骗性,并且对公共安全构成风险」。

虽然OpenAI已经公开指出AI生成文本的潜在威胁,但CAIDP认为,GPT-4已经远远越线了,为了保护消费者,应该采取监管行动。

CAIDP表示,GPT-4模型具有许多重大的潜在威胁,比如GPT-4可以产生恶意代码,和高度定制宣传的方式,而它有偏见的训练数据,可能导致在招聘等方面形成刻板印象,或不公平的种族和性别偏好。

CAIDP认为,OpenAI的行为违反了FTC法案第5条,这一条令禁止不公平和欺骗性的贸易行为。

其中,AI模型的幻觉,信口开河胡说八道的问题,在CAIDP看来都是欺骗。它警告ChatGPT「宣传具有欺骗性的商业声明和广告」,这些都可能纳入FTC的权限范围。

在申诉中,CAIDP要求FTC停止GPT模型所有进一步的商业部署,并要求在未来推出任何模型之前,都要对模型进行独立评估。它还要求提供一种可公开访问的举报工具,类似于允许消费者提出欺诈投诉的那种。

CAIDP主席Lina Khan表示,CAIDP在寻找大型科技公司试图垄断竞争的迹象,而对AI军备竞赛的主要参与者之一OpenAI的调查,标志着调查的重大升级。

有分析认为,虽然CAIDP的申诉在短时间内不会让FTC有所行动,但未来很有可能会出现相关的监管,并可能让GPT-5的发布推迟。

最后,只能说,谷歌一直担心的「声誉风险」,终于来了。

参考资料:

https://www.reuters.com/technology/italy-data-protection-agency-opens-chatgpt-probe-privacy-concerns-2023-03-31/

作者 admin