课程介绍

人工智能安全原理是一门专业基础课程，主要讲授人工智能安全原理和技术，包括针对人工智能模型的伦理与公平、可解释性、隐私保护、对抗攻击、对抗检测、对抗防御、人工智能的安全应用等方面，通过这门课程的学习可以使学生了解并掌握人工智能安全所面临的挑战，如何设计实现安全的人工智能系统，为将来从事人工智能相关的研究、设计和开发打下基础。

课程大纲

学习目标

1．了解人工智能安全所面临的挑战和问题；
2．了解人工智能模型的脆弱点，掌握经典的人工智能对抗攻击算法；
3. 了解人工智能伦理与公平、可解释、隐私保护面临的挑战和技术
4．掌握人工智能模型对抗检测和防御算法，人工智能鲁棒性技术
5. 了解人工智能在安全领域的应用；
6. 通过阅读和讨论人工智能安全领域前沿论文，培养学生研究能力。

考核标准

1、课程参与度：学生按时学习课程，积极参加课程
2、观看视频：学生完整观看每一课的视频
3、参与讨论情况：学生积极参加讨论，线上交流
4、课后测试成绩：课程设置在线测试，每一次课程学习后要完成主观题和客观题
5、期末考试成绩：参与期末线上考试，根据考试成绩进行评定