从可解释性看人工智能——一个缺少大问题的时代
每年夏天总有高考考生找各种途径来跟我打听,怎么报考专业,哪个专业有前途。不怕笑话,这个问题我从高中时就在思考,从这个角度来说我周围的人对计算机自信了20年,我迷茫了20年。先说个真实的笑话,2002年我进入高中,当时我有个匪夷所思的结论“编程绝对不是前途”,这也成为我逐渐放弃信息学竞赛的一半原因,这也使我这个初一拿了全省第一名,初三参赛高中组的选手,在高二的竞赛中直接拿了零分(参赛前一天抱来命令语句书,因为语句快忘光了)。被老师同学惊讶地问起来,我只能尴尬地说因为我其实挺笨的。
但是当时的部分思考逻辑是对的,如果一个方向仅限于对几套经典看似巧妙的算法、模型的掌握,和对问题建模中的智商考核,那么这个方向必然是无聊的,成为不了一个人求学和努力的根本动力。
但是,时至今日,我依然有这样的思考,我在每个组会中都会时不时的把这个思考传给我的博士硕士研究生——人工智能中究竟哪个方向才能托付起领域发展的使命?虽然我们近年来做了一些工作,如果有兴趣可以看文章后面的推荐,但是依然远远达不到对人工智能中众多问题的统一归纳和统一解决。
其实,对大部分领域来说,没有一个变革性的方向本身就是常态。少数领域只要在个别时刻发现一些苗头,一定会变得很火。
我更愿意将其成为一个没有“大问题”的时代。一个领域的前途取决于它是否存在“大问题”,大问题在历史上是很偶尔出现的,同时很多学者对“大问题”也是有所误解。
人工智能、机器学习、深度学习是“大问题”吗?实现“强人工智能”是“大问题”吗?不是,人工智能那是一大堆具体技术的统称,而不是具体的问题。“强人工智能”目前只是哲学上的概念,而不是科学范畴中的问题。
实现人工智能技术在工业社会中的无所不在的应用,全面实现中国社会产业升级,是“大问题”吗?不是,那些只是应用性的积累,在技术发展本身来看只是基于现有理论框架的线性拓展,而不是根本的阶跃性的进步。
实现100%的分类性能,实现完完全全安全的自动驾驶?不是,这个难度太大,是个“死问题”,是个在现有框架下无从讨论的问题。
人工智能具体应用中的共性问题,比如往粗了说“过拟合”,“神经网络结构”,“模型迁移性”,比如往细了说具体一类模型背后的共性问题的经验性观察(为什么Transformer性能那么好)。可惜,也不是,缺少对问题本质的建模,所以属于“应用中的重大问题”,而没有上升的“科学上的根本问题”。不同人从不同角度对这些问题进行建模和解读,但是学界尚缺少一套共识的且足够严谨可靠的对其建模手段。换言之有点儿像中医,我们都在探索它,它也确实存在,但是没有人说得清楚它是什么。基于研究者的IQ,这样的研究往往会在若干年内呈现点状的突破,但是这种突破终究会饱和,不是一条究竟的路线。
所以,大问题往往需要学者们不断的总结与归纳。同时,我国能否在人工智能领域掌握国际话语权,根本上不在于发表多少论文,而且能否提出引理领域发展的大问题。根本上,需要对这个领域中的各种表象的问题进行充分的总结与归纳,找到大部分经验性算法根本的内在原理。这个方向上,我们做了一些工作,虽然还不够彻底。后续展开介绍。
前言,漂在零丁洋里的体系博弈交互概念、定义、定理、推论、与计算动机:建模知识,连接性能背景基础Shapley value双变元博弈交互多变元博弈交互,及其近似计算多阶博弈交互相关定理与推论自然语言交互树博弈交互与知识表达的关探索中低阶博弈交互所建模的视觉概念及泛化能力探索高阶博弈交互所建模的视觉概念神经网络对纹理概念的建模相比形状概念更具有弹性博弈交互与对抗攻击的关系,推导证明与实验证明博弈交互与对抗迁移性的负相关关系证明多个前人迁移性增强算法可近似归纳解释为对博弈交互的抑制交互损失函数与迁移性的增强博弈交互与泛化能力的关系,推导证明与实验探索交互强度与泛化能力的关系证明Dropout对交互强度的抑制交互强度损失函数与泛化能力的提升从博弈交互层面解释对抗鲁棒性对抗攻击在多阶博弈交互上的效用从知识构成的层面探索对抗训练提升鲁棒性的原因去芜存菁:解释并萃取多个前人防御算法中公共的有效机理神经网络对抗迁移性:从神农尝百草到精炼与萃取完善Shapley value理论体系,建模并学习基准值在博弈交互体系内,对“美”提出一个假设性建模可解释性核心——神经网络的知识表达瓶颈博弈交互与神经网络知识表征发现并理论解释神经网络的表达瓶颈突破表达瓶颈及探究不同交互复杂度下的表达能力博弈交互与XXXXXXXXXXXXXXXXX博弈交互与XXXXXXXXXXXXXXXXX
0 留言