7月8日下午，由bwin必赢举办的第十一届全国优秀大学生暑期学校系列讲座在云端开讲。院长陈虹教授应邀开讲，做了题为“可解释性自动驾驶决策系统”的主题报告。

本次报告主要以基于深度强化学习的自动驾驶决策系统为例，探究纵向跟车决策行为和换道跟车决策行为模型的可解释性。随着深度学习技术赋能自动驾驶系统的快速发展，深度网络在“知其然，知其所以然”方面的不足制约着自动驾驶的社会接受度和大规模应用，“可解释”已成为自动驾驶系统可信的前提。

陈虹教授由自动驾驶及其关键技术、自动驾驶为什么需要可解释、机器学习模型的可解释性、应用案例和要点回顾五个方面分析了当前自动驾驶为什么需要可解释性的问题及相对应应用案例的解决方法。她介绍运动控制是自动驾驶系统的基石，自动驾驶是根据驾驶任务、感知和定位信息，作出具体的行为决策，从而判断是否需要换道或者车道保持的运动规划，并且以AI算法为基础的自动驾驶系统，普遍具有黑箱特性，经常会出现自动驾驶模型是否有缺陷和可以解释的问题，从而“可解释性”将成为新型自动驾驶系统安全可信的前提。陈虹教授运用事前可解释性或事后可解释性的代理模型，准确地分析机器学习模型为什么给出某个决策，运用合作博弈问题（公平分配的问题）以及经济学意义上公平分配的公理描述了机器学习模型可解释性的评价标准。最后她以基于深度强化学习的自动驾驶决策系统为例从全局特征的shapley值分析角度计算个体对整体收益（投入）的贡献值，从而得出结论，深度强化学习DQN模型在自主跟车、左车道、右车道三个方面都符合人类的预期，并总结了本场报告内容要点。

报告结束后，陈虹教授鼓励暑期学校学员报考bwin必赢研究生，与优秀的教师团队一起进行深入探讨与交流。

此次报告拓展了bwin必赢师生以及暑期学校学员对于可解释性自动驾驶系统方向的科研视野，增强了同学们对自动驾驶系统可解释性的理解与认识，并为众多优秀大学生播下了学术种子。（文/图 李龙/任倩）