ChatGPT持续火爆，它将如何改变我们的社会，又潜藏着哪些风险？近日，华东政法大学政治学研究院和人工智能与大数据指数研究院发布了“人工智能通用大模型（ChatGPT）的进展、风险与应对”研究报告。该报告聚焦以ChatGPT为代表的人工智能通用大模型及其社会影响，在深入分析其发展现状的基础上，对于各类治理风险进行总体评估，并提出应对风险的策略与具体建议。
人工智能技术并非新鲜事物，为何ChatGPT会引起如此大的轰动与关注？报告指出，ChatGPT的出现反映了人工智能发展的新趋势，即AI正在从感知智能向认知智能快速发展，它代表了通用人工智能突破的可能性。此前，人工智能运用的都是专用人工智能模型，往往只能在具体的领域内产生一定的效果。而ChatGPT代表了人工智能通用大模型的最新进展，显示了大模型的巨大影响力。
所谓大模型，是指容量较大、用于深度学习任务的模型，通常具有海量的参数和复杂的架构，具有涌现性、扩展性和复合性的特征。通用大模型的研发已经成为各国新一轮技术竞争的核心领域。报告指出，美国作为传统的科技强国，在大模型发展方面具有显著的优势，谷歌、微软、亚马逊等科技巨头公司均有相关雄厚的技术资源和能力，且都在通用大模型上进行了进一步的布局与投资。当前，中国在大模型发展方面正迎头赶上，各科技公司纷纷加入了大模型开发和应用的队伍。但总体而言，在原创能力、技术配套、制度环境三个方面，中美之间仍然存在一定差距。
与人聊天、帮人写程序甚至进行文化创作……ChatGPT因其“无所不能”而备受青睐，但随之而来的治理风险和挑战也不容忽视。报告指出，在技术方面，大模型存在着鲁棒性不足（编者注：鲁棒性指在异常和危险情况下系统生存的能力）、可解释性低、算法偏见等风险；在社会方面，大模型可能加剧数字鸿沟、侵犯个人隐私、诱发网络犯罪、冲击教育体系；在经济方面，大模型将加速寡头垄断、推动产业结构重塑、替代传统就业、推动世界分工的重组；在政治方面，大模型将给政治决策、舆论引导、监管机制与国际关系带来新的冲击。
针对通用大模型可能造成的治理风险，报告从构建法律之治、增强竞争能力、加强市场应用、防范失业风险、推动教育改革、维护政治安全等方面，提出了应对风险的具体原则、制度建构和相关举措。
在研讨中，华东政法大学副校长周立志指出，以ChatGPT为代表的人工智能通用大模型的不断发展和成熟，将会带来新的经济机遇，推动社会生产力发展，甚至改变人类知识的生产方式。但是通用大模型也会不可避免地带来一系列技术、社会、经济和政治等风险。系统研究人工智能通用大模型给人类带来的复杂影响并探求问题的纾解之道，已经成为当前的重要新课题，亟待学术界进行研究和反思。
中国工程院院士、清华大学计算机科学与技术系郑纬民教授认为，ChatGPT在基础技术方面并未有大的突破，主要是在数据清洗、人工标注反馈和整体系统工程化方面取得了进展，从而使其整体效果相比之前的系统取得了较大飞跃。ChatGPT为很多知识处理相关职业的自动化展示了一个美好前景，但要全面替代相关职业还需要进一步提升输出结果的可信度和可解释性。
“中国要做好类ChatGPT聊天机器人，还需要在算法、数据和算力三个方面作出更多努力。”郑纬民指出，这份研究报告对于通用大模型引发的社会政治问题进行了全面深入的分析，未来可进一步开展更加细化的研究，同时要做好研究报告的转化，增强相关研究对政府和社会的影响力。
报告总负责人、华东政法大学政治学研究院院长高奇琦教授表示，围绕本次报告和社会各界关注的相关议题，研究团队还将进一步开展更加深入的分析，并持续发布细分领域的系列报告。他希望社会各界继续关注这项研究的进展，并提出更多的批评和改进建议。
转载请注明来源“上观新闻”，违者将依法追究责任。
（栏目邮箱：shhgcsxh@163.com）
栏目主编：王珍 题图来源：上观题图 图片编辑：笪曦
来源：作者：周丹旎
0 留言