编辑：Aeneas 好困
【新智元导读】周五，意大利全国上下对ChatGPT下了封杀令。在20天内，OpenAI拿不出补救措施的话，将会面临最高2000万欧元罚款。
就在昨天，意大利政府突然下令，封禁ChatGPT！
很快，OpenAI首席执行官Sam Altman做出回应称，公司已经关停了当地的ChatGPT服务（但自认为并没有违反任何规定）。
自此，意大利成为了世界上第一个宣布禁用ChatGPT的国家。
（其他国家和地区无法使用ChatGPT，是因为OpenAI一开始就没给开通。）
意大利封禁ChatGPT，全面调查隐私问题
3月31日，意大利国家隐私监管机构正式下令封禁ChatGPT，并指控OpenAI「非法收集个人数据」。
值得注意的是，该「临时禁令」将一直生效，直到OpenAI能够尊重欧盟具有里程碑意义的隐私法——通用数据保护条例（GDPR）。
文件地址：https://www.garanteprivacy.it/home/docweb/-/docweb-display/docweb/9870847#english
根据意大利国家数据保护机构GPDP发布新闻稿，OpenAI收集用户数据并用于算法「训练」的行为，缺乏法律依据。
同时，3月20日涉及用户对话和支付信息的泄露事件，也明确地暴露出了OpenAI在个人信息的处理上存在着问题。
除此之外，OpenAI虽然声称ChatGPT面向的是13岁以上的用户，但由于缺乏相应的年龄验证机制，因此未成年人很可能会看到超出其自身发展和自我认知水平的信息。
监管机构表示，OpenAI有20天的时间，如不给出可行的补救措施，则会面临最高2000万欧元，或全球总年营业额4%的罚款。
对此，OpenAI表示，现在已经为意大利用户关闭了服务，并承诺会保护用户的隐私：
「我们在训练ChatGPT这样的系统时，一直在努力减少个人数据，因为我们想要这个AI了解世界，而不是了解个人。当然我们也相信，AI监管是必要的。」
这么看来，ChatGPT未来在意大利的命运，可能就取决于这20天了。
不过，对于意大利来说，这已经不是第一次对AI聊天机器人采取此类行动了。
在2月份，监管机构就禁止了聊天机器人应用程序Replika.ai。Replika曾因一些用户与机器人建立的亲密关系而「臭名昭著」，后来Replika取消了色情角色扮演的选项，有用户甚至需要自杀热线的援助。
是否应该限制AI工具？
ChatGPT发布后，虽然写论文、写代码的能力让人眼花缭乱，但它对错误信息的传播、对就业的影响，以及对整个人类社会更广泛的风险，都让很多人忧心忡忡，发出预警。
最近，封禁GPT技术的浪潮，更是一波接一波。
不仅图灵奖得主Yoshua Bengio、马斯克、马库斯等千名大佬联名签署公开信，呼吁全球所有AI实验室暂停训练比GPT-4更强大的AI模型。
而且消费者权益保护组织BEUC，也在近日呼吁欧盟和国家当局调查ChatGPT。
此外，很多专家也表示，由于AI对国家安全、就业和教育的潜在影响，需要制定新的法规来管理AI。
欧盟委员会发言人称：「我们希望所有在欧盟活跃的公司都尊重欧盟的数据保护规则。执行通用数据保护条例是欧盟数据保护当局的责任。」
欧盟委员会执行副主席Margrethe Vestager在推特上表示，正在讨论欧盟人工智能法案的委员会可能不倾向于禁止人工智能。
「无论我们使用哪种技术，都必须保护自身的权利。这就是为什么我们不规范AI技术，而是规范AI的使用。」
在美国，非营利组织人工智能与数字政策中心（CAIDP）也要求联邦贸易委员会（FTC）调查OpenAI是否违反了消费者保护规则，并禁止其进一步发布GPT-4。
毕竟，有了千名大佬的联名信这个先例，CAIDP的申诉看起来也似乎更加顺理成章。而且，CAIDP主席Marc Rotenberg好不意外地也签署了那封信。
文件地址：https://cdn.arstechnica.net/wp-content/uploads/2023/03/CAIDP-FTC-Complaint-OpenAI-GPT-033023.pdf
整体来说，CAIDP申诉的内容与那封信一致，都是呼吁放慢生成式AI模型的发展，并实施更严格的政府监督。
不过，CAIDP更进一步地认为，ChatGPT「存在偏见、具有欺骗性，并且对公共安全构成风险」。
虽然OpenAI已经公开指出AI生成文本的潜在威胁，但CAIDP认为，GPT-4已经远远越线了，为了保护消费者，应该采取监管行动。
CAIDP表示，GPT-4模型具有许多重大的潜在威胁，比如GPT-4可以产生恶意代码，和高度定制宣传的方式，而它有偏见的训练数据，可能导致在招聘等方面形成刻板印象，或不公平的种族和性别偏好。
CAIDP认为，OpenAI的行为违反了FTC法案第5条，这一条令禁止不公平和欺骗性的贸易行为。
其中，AI模型的幻觉，信口开河胡说八道的问题，在CAIDP看来都是欺骗。它警告ChatGPT「宣传具有欺骗性的商业声明和广告」，这些都可能纳入FTC的权限范围。
在申诉中，CAIDP要求FTC停止GPT模型所有进一步的商业部署，并要求在未来推出任何模型之前，都要对模型进行独立评估。它还要求提供一种可公开访问的举报工具，类似于允许消费者提出欺诈投诉的那种。
CAIDP主席Lina Khan表示，CAIDP在寻找大型科技公司试图垄断竞争的迹象，而对AI军备竞赛的主要参与者之一OpenAI的调查，标志着调查的重大升级。
有分析认为，虽然CAIDP的申诉在短时间内不会让FTC有所行动，但未来很有可能会出现相关的监管，并可能让GPT-5的发布推迟。
最后，只能说，谷歌一直担心的「声誉风险」，终于来了。
参考资料：
https://www.reuters.com/technology/italy-data-protection-agency-opens-chatgpt-probe-privacy-concerns-2023-03-31/
0 留言