人工智能偏见、伦理使用以及学术诚信

人工智能偏见、伦理使用以及

学术诚信主持人2分组描述随着人工智能（AI）工具日益融入教育领域，教师和学术评议会必须应对其带来的挑战和机遇。本次研讨会将探讨人工智能固有的偏见、合乎伦理的使用策略、教师在维护学术诚信方面的作用，以及学术评议会在制定政策和支持专业发展方面的职责。与会者将深入了解如何减少人工智能中的偏见、确保学生获得公平的学习成果以及提升人工智能素养。3社区规范/协议我们知道这是一个容易引发强烈情绪的话题。我们今天不是来讨论高等教育中是否应该使用人工智能的。重点讨论：如果您正在使用或计划使用人工智能，以下是一些需要考虑的因素。。4人工智能在高等教育中的应用——范式转变

•专业发展应支持跨学科对话。

•人工智能的整合应体现以公平为中心的教学策略。

•建议各院校与学生共同制定人工智能政策。

•教师需要接受人工智能工具伦理使用方面的培训。

•数据集中的偏见若不加以解决，可能会影响学生的学习成果。

•参议院领导层在制定与人工智能相关的课程政策方面至关重要。

•学术诚信必须与时俱进，将人工智能生成的作品纳入考量。

•Turnitin等人工智能检测工具存在局限性和偏见。5人工智能素养的重要性人工智能素养是指在各种情境下理解、批判性评估和有效运用人工智能技术的能力。它包括对人工智能系统工作原理的基础知识、对其局限性和伦理考量的认识，以及负责任地与人工智能工具互动和应用的技能。人工智能素养的关键组成部分：技术理解——了解人工智能的工作原理，包括机器学习、算法、数据训练和自动化等基本概念。批判性思维——评估人工智能系统的输出，识别偏见，并质疑人工智能的决策。伦理意识——了解人工智能的社会、文化和伦理影响，包括公平性、透明度和隐私问题。实用技能——在学术、专业和日常任务中有效使用人工智能工具。6人工智能偏见数据偏差——用于构建人工智能模型的训练数据中存在的偏差。算法偏差——算法处理数据的方式所引入的偏差（例如人脸识别、强化刻板印象）缺乏透明度——难以理解人工智能模型如何做出决策代表性不足——某些群体在数据团队和开发团队中的代表性都不足。7算法正义算法正义是一个旨在识别、挑战和减轻由带有偏见或不公平的算法造成的危害，并确保这些技术公平地服务于所有群体的领域和实践。为什么这很重要歧视风险：算法可能会复制或加剧社会不平等（种族、性别、收入等）。权力失衡：受人工智能决策影响的人们往往对这些决策的制定过程缺乏控制权或理解。社会正义：算法正义与公民权利、数字权利和人权相交织。8人工智能的伦理使用以人为本的设计——关注用户需求、尊严和权利使用多样化和具有代表性的数据——确保培训数据涵盖不同人群，并审核是否存在差距和不平衡之处。保护隐私和数据权利——对所使用的数据保持透明。9致教职员工•为学生提供关于人工智能可接受和不可接受用途的指导，有助于培养

学术诚信。•教师可以通过公开透明地展示工具使用情况和

局限性，

树立人工智能伦理使用的榜样。

•人工智能伦理方面的专业发展培训能够帮助教师调整教学方法以适应新兴

技术。

•教师在将人工智能输出结果整合到教学或评分之前，应对其进行批判性评估

。

•设计强调分析、反思和创造力的作业可以减少对人工智能的依赖。

•与教学设计师和图书馆员的合作有助于以符合伦理的方式整合人工智能。10在课堂中使用人工智能在课堂教学中，每个学科对人工智能的理解和应用可能有所不同。一些大学的职业技术教育课程正在教授机器学习和人工智能，以帮助学生为进入行业做好准备。考虑将人工智能作为流程的一部分，而不是整个流程。例如，可以让学生使用人工智能来帮助生成想法或列表，然后让他们分组合作，根据作业的具体情况，扩展并批判性地评估各种方案。关于人工智能生成材料的伦理使用和引用的正式讨论强调这些工具可能造成的潜在偏见。11关于人工智能检测器的警告•人工智能的整合应体现以公平为中心的教学策略。

•学术诚信必须与时俱进，将人工智能生成的作品纳入考量。

•专业发展应支持跨学科对话。

•教务委员会领导层在制定人工智能相关课程政策方面至关重要。

•教师需要接受人工智能工具伦理使用方面的培训。

•Turnitin等人工智能检测工具存在局限性和偏见。

•建议各院校与学生共同制定人工智能政策。

•数据集中的偏见若不加以解决，可能会影响学生的学习成果。12对结果和评估的重新评估多关注人工智能难以完成或伪造的开放式、项目式和批判性思维任务。使用需要原创性思考、反思或应用于实际问题的评估方法。允许学生在学习过程中使用人工智能工具（例如ChatGPT、Grammarly），然后评估他们如何使用这些工具。13人工智能与评分——考量因素14透明度：学生应该知道何时使用人工智能以及它如何影响他们的成绩或反馈。公平性：算法必须在不同的学生群体中进行测试。教师培训：教师需要支持才能有效且合乎道德地使用人工智能工具。学生赋能：利用人工智能增强学生的自主性，而不是取代他们的思维。学术自由关注教师自主选择在课堂上使用人工智能的政策符合学术自由的权利。学术自由保障教师有权选择如何在课程中呈现课程材料（与课程大纲一致）。有些课程可能会使用人工智能来实现课程目标，而有些课程则可能不希望使用人工智能，课程设置存在多种选择。教师应明确阐述人工智能在课程作业中的作用。学术评议会的角色政策流程和程序专业发展与支持促进对话和讨论在制定政策、流程和程序时，确保各种不同的声音都能被听到。促进与行政部门、教职工委员会和学生组织的合作16学生自治组织合作项目与学生会/学生政府建立伙伴关系的重要性与9+1地区的合作包括学术诚信政策共同制定政策17人工智能资源（2024）18资源——