北大王亦洲：擦亮可信AI研究名片，需要产学研结合

人工智能起源于20世纪50年代，至今经历了三次发展浪潮无论是在实验室阶段，还是在大规模产业化阶段，几十年来研究人员都在不断推动它的技术进步，希望有一天机器真的能拥有人类一般的智慧，表现出人类全方位的认知能力

最近几年来，为了让AI更加健康地发展，一个技术领域正在成为工业界和学术界研究的热点:可信AI，即通过技术赋予人工智能人类社会的积极价值，包括可解释性，公平性，隐私保护和公平性。

从学术研究层面来看，可信AI主要集中在算法和系统层面的研究，包括安全性/健壮性，可解释性，隐私性，公平性，可审计性/可问责性，环保性等解释性包括学习方法或模型的理论解释，算法解释和行为解释，鲁棒性主要集中在模型稳定性研究，攻击模型和防御模型，隐私保护是指攻击和保护方法的直接博弈，比如差分隐私和多中心联邦学习公平旨在各种数据和模型的偏倚研究，平等与公正的平衡，环保是指寻求节能策略和更节能的计算硬件

不同于可信的AI学术研究，企业更专注于当下的问题，提出解决方案例如，2015年，蚂蚁集团启动了基于端特征的手机丢失风险研究项目，旨在用AI技术保护用户隐私为了解决AI中的公平问题，IBM在2018年开发了许多AI可信工具，并在AI系统中采用了无偏的数据集和模型，从而避免了对特定群体的不公平可信AI在行业中的应用要求更高，容错率更高很多可信AI白皮书都提到，可信AI确实需要投入到生产过程中，让它成为一种机制，发挥技术的绑定作用

青年学生是技术人才的重要储备对于学习可信AI的年轻学生来说，如何准备从事可信AI他们在当前的学习和生活中，要了解行业的学术前沿和最新技术趋势，思考哪些技术可以应用于哪些问题，主动观察和了解自己所处的世界，以及行业的需求痛点和技术瓶颈比如最新的可信AI实战技术真人秀，联动了国内一些顶尖高校，通过可信AI在工业界技术反欺诈中的应用，还原了可信AI技术在实际应用中的能力，把学术界和工业界在做的事情以大家都能看懂的形式公开，让技术从业者和技术研究者深度参与

做AI研究的时候，复杂是一个关键词环境复杂性，任务复杂性和系统复杂性决定了人工智能的水平对它的研究可以揭示AI产生的原理，也可以回答AI的终极问题，即对人类命运的终极影响未来可信AI的研究也要从复杂性分析的角度来看AI给人类带来的价值，需要学术界和产业界的共同努力来推动