据路透社报道，当地时间3月31日，意大利个人数据保护局宣布，即日起暂时禁止使用聊天机器人ChatGPT，已就OpenAI聊天机器人ChatGPT涉嫌违反数据收集规则展开调查，并暂时限制OpenAI处理意大利用户数据。
该机构称，尽管根据OpenAI发布的条款，ChatGPT针对的是13岁以上的用户，但并没有年龄核实系统来验证用户年龄。
个人数据保护局说，3月20日ChatGPT平台出现了用户对话数据和付款服务支付信息丢失情况。此外平台没有就收集处理用户信息进行告知，缺乏大量收集和存储个人信息的法律依据。
美联社消息称，开发聊天机器人的美国公司OpenAI当天深夜表示，应政府要求，已为意大利用户禁用了ChatGPT。该公司表示，相信自己的做法符合欧洲隐私法，并希望很快再次推出ChatGPT。
意大利成首个禁止ChatGPT的西方国家
意大利个人数据保护局称：“没有任何法律依据表明，为了‘训练’平台运营背后的算法而大规模收集和存储个人数据是正当的。”
瑞典乌莫大学人工智能研究员兼副教授约翰娜·比约克伦（Johanna Björklund）对路透社表示：“缺乏透明度是真正的问题。”。“如果你做人工智能研究，你应该对自己的研究方式非常透明。”
此前3月20日，OpenAI公司宣布开源库中出现错误，致部分用户与ChatGPT的聊天记录被泄露。
该公司表示：“我们的调查发现，1.2%的ChatGPT Plus用户可能向另一位用户泄露了个人数据。”。“我们认为，实际向他人透露数据的用户数量极低，我们已经联系了那些可能受到影响的用户。”
当地时间2023年3月31日，意大利皮埃蒙特大区曼塔，人工智能OpenAI网站主页的计算机屏幕，展示了ChatGPT机器人。意大利隐私监管机构表示，已经屏蔽了有争议的ChatGPT，称这款人工智能应用程序不尊重用户数据，也无法验证用户的年龄。图/视觉中国
意大利个人数据保护局也质疑OpenAI用于训练平台算法的“大规模收集和处理个人数据”是否有法律依据。他还表示，ChatGPT有时会生成并存储有关个人的虚假信息。他指出，没有系统来验证用户的年龄，这使儿童面临“与他们的年龄和意识完全不相称”的反应。
OpenAI公司回应称，他们“在训练ChatGPT等人工智能系统时减少了个人数据，因为我们希望我们的人工智能了解世界，而不是个人。”
该公司表示：“我们也认为监管人工智能是必要的，因此我们期待着与意大利个人数据保护局密切合作，并教育他们如何构建和使用我们的系统。”。
尽管世界各地的一些公立学校和大学因担心学生抄袭而将ChatGPT从其本地网络中屏蔽，但意大利的行动是“西方国家首次在全国范围内限制主流人工智能平台，”监测全球互联网接入的倡导组织“网络块”（NetBlocks）的负责人阿尔普·托克（Alp Toker）对美联社说。
引发个人数据隐私安全担忧，OpenAI致歉
3月23日，OpenAI的首席执行官Sam Altman发布致歉推文，表示已经修复了错误并完成验证，他表示“我们对此感到很难过”。
据悉，OpenAI公司必须在20天内通过其在欧洲的代表，向意大利个人数据保护局通报公司执行保护局要求而采取的措施，否则将被处以最高2000万欧元或公司全球年营业额4%的罚款。
意大利监管机构此举正值人们对人工智能热潮的担忧加剧之际。
自去年11月发布以来，ChatGPT掀起了一股科技热潮，包括微软、谷歌和Meta在内的几乎所有科技巨头都参与到了该领域。企业纷纷将ChatGPT或类似技术集成到自己的应用程序和产品中。
根据瑞银上月发布的一份研究报告，今年1月，也就是ChatGPT发布两个月后，其月活跃用户就已经达到了1亿，成为史上增长最快的应用程序。微软的新必应搜索引擎也由OpenAI技术提供支持，自1月份发布以来的两周内，169个国家的100多万人使用了该搜索引擎。
人工智能OpenAI网站主页的手机屏幕页面。图/视觉中国
值得一提的是，欧盟执法机构欧洲刑警组织本周警告称，ChatGPT可能被滥用于网络钓鱼、虚假信息和网络犯罪，这引发了从法律到道德问题等一系列担忧。
本周三（3月29日），埃隆·马斯克（Elon Musk）和现代人工智能方法的创始人之一约舒亚·本吉奥（Yoshua Bengio）等人以社会面临重大风险为由，呼吁暂停开发比新推出的GPT-4更强大的系统六个月，以便公众有时间权衡风险。
一些行业专家和业内人士对《金融时报》表示，这一呼吁是虚伪的，这只是让人工智能“落后者追赶”OpenAI公司的一种方式，而此时大型科技公司正在积极竞争发布ChatGPT和谷歌的Bard等人工智能产品。
意大利个人数据保护局表示，根据其内部分析，ChatGPT“并不总是提供准确的信息”，这导致了个人信息的滥用。
意大利个人数据保护局主席帕斯夸尔·斯坦齐奥内（Pasquale Stanzione）3月31日晚间告诉意大利国家电视台，他是签署上诉的人之一。斯坦齐奥内表示，他这样做是因为“尚不清楚人工智能开发人员最终追求的目标是什么”。
斯坦齐奥内说，如果人工智能“影响”一个人的“决定权”，那么“这是非常危险的”。他还形容13岁以下用户没有过滤器“相当严重”。
另一边，OpenAI公司首席执行官Sam Altman在本周宣布，他将于5月开始一次六大洲之旅，与用户和开发人员讨论该技术。这包括计划在布鲁塞尔与欧盟立法者谈判全面的新规则，以限制高风险的人工智能工具，以及访问马德里、慕尼黑、伦敦和巴黎等。
新京报记者 姚远
编辑 唐峥 校对 赵琳
0 留言