大语言模型通识微课课件：技术伦理问题

大语言模型通识微课

技术伦理问题大模型时代的到来，使得人工智能成为了真正影响人类社会的重要技术之一。随着人工智能不断取得突破，一些潜在的隐患和道德伦理问题也逐步显现出来。例如，人工智能在安全、隐私等方面存在一定风险隐患：“换脸”技术有可能侵犯个人隐私，信息采集不当会带来数据泄露，算法漏洞加剧则认知偏见……这说明，人工智能不单具有技术属性，还具有明显的社会属性。唯有综合考虑经济、社会和环境等因素，才能更好地应对人工智能技术带来的机遇和挑战，推动其健康发展。微课12.1技术伦理问题显然，我们比历史上任何时候都更加需要注重技术与伦理的平衡。因为一方面技术意味着速度和效率，应发挥好技术的无限潜力，善用技术追求效率，创造社会和经济效益。另一方面，人性意味着深度和价值，要追求人性，维护人类价值和自我实现，避免技术发展和应用突破人类伦理底线。只有保持警醒和敬畏，在以效率为准绳的“技术算法”和以伦理为准绳的“人性算法”之间实现平衡，才能确保“科技向善”。12.1.1人工智能面临的伦理挑战对人工智能与人类之间伦理关系的研究，不能脱离对技术本身的讨论。（1）首先，是人工智能的发展路径。在1956年达特茅斯会议上，人们思考的是如何将人类的各种感觉，包括视觉、听觉、触觉，甚至大脑的思考都变成信息，并加以控制和应用。因此，人工智能的发展在很大程度上是对人类行为的模拟，让一种更像人的思维机器能够诞生。著名的图灵测试，其目的也是在检验人工智能是否更像人类。但问题在于，机器思维在做出其判断时，是否需要人的思维这个中介？显然，对于人工智能来说，答案是否定的。12.1.1人工智能与人类的关系（2）人工智能发展另一个方向即智能增强。是否能发展出一种纯粹机器的学习和思维方式？倘若机器能够思维，是否能以机器本身方式来进行。机器学习通过海量的信息和数据收集，让机器从这些信息中提出自己的抽象观念，例如机器识猫。这时，很难说机器抽象出来的关于猫的概念与人类理解的猫的概念之间是否存在着差别。但是，模拟人类大脑和思维的人工智能尚具有一定的可控性，而机器思维显然不能做简单定论。12.1.1人工智能与人类的关系第一个提出“智能增强”的恩格尔巴特认为：智能增强技术更关心的是人与智能机器之间的互补性，如何利用智能机器来弥补人类思维上的不足。比如自动驾驶技术就是一种典型的智能增强技术，它的实现不仅是在汽车上安装了自动驾驶程序，还需要采集大量的地图地貌信息，需要能够在影像资料上判断一些移动的偶然性因素，如突然穿过马路的人。自动驾驶技术能够取代容易疲劳和分心的驾驶员，让人类从繁重的驾驶任务中解放出来。同样，在分拣快递、在汽车工厂里自动组装的机器人也属于智能增强，它们不关心如何更像人类，而是关心如何用自己的方式来解决问题。12.1.1人工智能与人类的关系智能增强技术带来了人类思维和机器这两个平面，两个平面之间需要一个接口，接口技术让人与智能机器的沟通成为可能。在这种观念的指引下，今天的人工智能的发展目标并不是产生一种独立的意识，而是如何形成与人类交流的接口技术。也就是说，人类与智能机器的关系，既不是纯粹的利用关系，也不是对人的取代，成为人类的主人，而是一种共生性的关系。由人工智能衍生出来的技术还有很多，其中潜在的伦理问题与风险也值得我们去深入探讨。如果人类要想在人工智能这一领域进行深入研究发展，就必须建立起一个稳妥的科技伦理，以此来约束人工智能的研发方向和应用领域。12.1.2人与智能机器的沟通业界已经展开了一定程度的探索。譬如构建有效的优化训练数据集，防止人工智能生成对公共安全、生产安全等有害的内容；在编程设计阶段，通过技术手段防止数据谬误，增加智能系统的透明度和公平性；预先设立应急机制和应对措施，对人工智能使用人员进行必要培训。这些举措，都在技术层面进一步夯实了人工智能治理的基础。近年来，我国陆续发布了《新一代人工智能伦理规范》《关于加强科技伦理治理的意见》《全球人工智能治理倡议》等，旨在提升人工智能治理能力，有效防控人工智能发展风险。12.1.2人与智能机器的沟通“大数据伦理问题”指的是由于大数据技术的产生和使用而引发的社会问题，是集体和人与人之间关系的行为准则问题。作为一种新的技术，像其他所有技术一样，大数据技术本身是无所谓好坏的，而它的“善”与“恶”全然在于对大数据技术的使用者，他想要通过大数据技术所要达到怎样的目的。大数据产业面临的伦理问题主要包括数据主权和数据权问题、隐私权和自主权的侵犯问题、数据利用失衡问题，这些问题影响了大数据生产、采集、存储、交易流转和开发使用全过程。12.1.3大数据伦理问题数据利用的失衡主要体现在两个方面。（1）数据的利用率较低。随着移动互联网的发展，每天都有海量的数据产生，全球数据规模呈指数级增长，但是，调研结果显示，企业大数据的利用率仅在12%左右。掌握大量数据的政府的数据的利用率更低。（2）数字鸿沟现象日益显著。大数据的“政用”“民用”和“工用”相对于大数据在商用领域的发展，无论技