《机器智能及安全》课程教学大纲（硕士研究生）

PAGE2PAGE广州大学研究生课程教学大纲课程名称中文机器智能及安全课程编号0006200091英文MachineIntelligenceanditsSecurity开课单位网络空间先进技术研究院考核方式考查学时32学分3课程类别专业课编制者唐可可适用对象学术型硕士、专业型硕士课程简介(中文)：课程系统介绍机器智能和人工智能研究中的安全问题，包括机器智能及安全的基本概念，AI带来安全威胁（safety），AI自身的安全问题（security），AI技术应用于解决智能体及三维视觉感知的安全问题（forsecurity），以及AI涉及的其他安全问题和研究挑战。课程简介(英文)：Thecourseintroducesthesecurityproblemsinmachineintelligenceandartificialintelligence,includingtheconceptsofmachineintelligenceanditssecurity,AIsafety,thesecuritythreatsofAI,theapplicationofAIinroboticssecurityand3dcomputervision/graphicssecurity,andtheothersecurityproblemsandresearchchallengesinAI.课程目标与基本要求：使学生重点掌握机器智能自身存在的安全问题及相关技术，AI带来的安全威胁及相关技术，AI应用于智能体及三维视觉感知的技术和方法，理解AI与国家安全、伦理道德之间的关系。其中，以研讨形式，引导学生调研AI研究中的安全问题，围绕问题进行“开脑洞”式的研讨，重点引导学生在分析研讨过程中掌握分析思维方法。基本要求如下：1.掌握人工智能及其安全研究的基本概念；2.掌握人工智能自身存在的安全问题、带来的安全威胁和AI应用于解决智能体及三维视觉感知安全的方法；3.建立人工智能安全的完整概念，为开展人工智能安全研究奠定基础。课程内容及学时分配：第一章机器智能及安全概论1.1机器智能的概念2学时1.2机器智能安全概述2学时第二章机器智能内在安全2.1机器智能内在安全2学时2.2人工智能安全道德准则2学时第三章AI在智能体的应用及安全3.1智能体关键技术4学时3.2智能体安全问题4学时第四章AI在三维视觉感知的应用及安全4.1智能三维视觉感知技术4学时4.2智能三维视觉感知技术的安全2学时第五章机器智能与安全前沿5.1前沿报告6学时第六章AI安全的研究挑战和发展趋势6.1机器智能面临的研究挑战和发展趋势4学时教材及主要参考书目：1.蔡自兴等编，《人工智能及其应用（第三版）》，清华大学出版社，2003。2.N.J.Nilsson编，《ArtificialIntelligence:ANewSynthesis》，机械工业出社，1999。3.余来文等编，《智能时代：人工智能、超级计算与网络安全》，化学工业出版社，2018年。预修课程：人工智能与机器学习教师团队成员：李树栋、顾钊铨、仇晶、谭庆丰、唐可可编制者签名：年月日学科点意见：学科点负责人签名：年月日注：1、课程类别指公共课、专业课。2、适用对象指学术型硕士、专业型硕士、在职专业型硕士、博士等。3、