《面向安全攸关深度学习系统的软件测试技术》
深度学习近年来被广泛应用于各种借助机器智能提高效率的行业,
包括自动驾驶、医疗诊断、飞行器防碰撞等安全攸关领域。
深度学习的一般性测试不能满足安全攸关系统的高可靠性要求,
给人类的生命财产带来巨大威胁。本项目旨在探索基于对抗思想的深度神经网络测试机理,
研究具有领域特征的深度学习软件测试充分性方法,结合机器理解和人类理解实现测试样本的迭代生成技术,
研发相关测试支撑平台并进行大规模实验验证。项目研究目标为:完成一套深度神经网络的测试理论与方法、
一个深度神经网络测试对抗式生成框架、一个安全攸关深度学习系统测试支撑平台、
一个安全攸关深度学习系统测试案例数据集。本项目待解决的关键科学问题包括:
(1)深度学习软件的测试充分性内涵问题;(2)面向蜕变关系测试样本生成的GAN 技术问题;
(3)基于神经元激活多样化的最小扰动样本生成问题。本项目的研究,
对于安全攸关人工智能系统的质量保障具有重要的理论意义,对于深度学习乃至人工智能领域具有重要的应用价值。
《蜕变测试驱动的深度学习软件调试技术研究》
深度学习软件的质量问题是阻碍该技术广泛应用的一大瓶颈,已日渐成为业内共同关注的焦点。
然而现阶段针对其测试驱动的调试技术研究仍极为薄弱,亟待深入开展。本项目旨在面向这一紧迫需求,
研究形成一套完整系统的理论方法及工具。研究目标为针对深度学习软件实现一套由蜕变测试所驱动的
自动化调试解决方案,具有高效实用的调试效果,并能够真实应用于多个开发场景。本项目待解决的关
键科学问题包括:(1)一套系统的深度学习软件验证充分性准则;(2)一个新颖的深度学习调试技术:
(3)一个丰富开放的面向深度学习应用领域的蜕变关系共享库及工具套件平台。
本项目的研究符合当前紧迫需求,对于促进深度学习软件的自动化调试工作具有重要的理论与应用价值。