课程介绍

人工智能安全原理是一门专业基础课程，主要讲授人工智能安全原理和技术，包括针对人工智能模型的伦理与公平、可解释性、隐私保护、对抗攻击、对抗检测、对抗防御、人工智能的安全应用等方面，通过这门课程的学习可以使学生了解并掌握人工智能安全所面临的挑战，如何设计实现安全的人工智能系统，为将来从事人工智能相关的研究、设计和开发打下基础。

课程大纲

学习目标

1.了解人工智能安全所面临的挑战和问题；
2.了解人工智能模型的脆弱点，掌握经典的人工智能对抗攻击算法；
3.了解人工智能伦理与公平、可解释、隐私保护面临的挑战和技术
4.掌握人工智能模型对抗检测和防御算法，人工智能鲁棒性技术
5.了解人工智能在安全领域的应用；
6. 通过阅读和讨论人工智能安全领域前沿论文，培养学生研究能力。
7. 通过课程项目的实践，培育认识和发现问题的能力和团队协作解决工程问题的能力

考核标准

课件浏览60%,客观练习20%,主观练习0%,课内讨论20%,练习允许2次全部重做。。
课程内容不断迭代，成绩以当时的课程内容为准，一旦合格，可以申请证书。申请证书后，以结课处理，成绩不再改动