《人工智能基础与应用》-《人工智能基础与应用》-模块6人工智能与社会变革

模块六任务一人工智能与人类关系任务二人工智能与职业任务一

人工智能与人类关系

任务一

学习目标.1.了解人工智能的道德问题产生的原因；2.了解人工智能带来的潜在危害；3.了解人工智能23条军规产生的背景及意义。任务一

任务导入.2017年10月26日，沙特阿拉伯授予香港汉森机器人公司生产的机器人索菲亚公民身份。作为史上首个获得公民身份的机器人，索菲亚当天在沙特说，它希望用人工智能“帮助人类过上更美好的生活”，人类不用害怕机器人，“你们对我好，我也会对你们好”。索菲亚拥有仿生橡胶皮肤，可模拟62种面部表情，其“大脑”采用了人工智能和谷歌语音识别技术，能识别人类面部、理解语言、记住与人类的互动。索菲亚的例子，提出一个问题：在技术高歌猛进的同时，人工智能不断模糊着物理世界和个人的界限，不断刷新人的认知和社会关系，延伸出复杂的伦理、法律和安全问题，但相应的规范和制度设计还存在盲区，这是一个极大的挑战。任务一

思考

1.假如有一天，跟你一起坐在教室里上课的同学中，有一半是机器人，你是否愿意跟（它/他/她）们一起上课？2.你认为机器人应该享有和人类一样平等的社会地位吗？任务一活动一人工智能的道德问题概述《银翼杀手》《机械公敌》《西部世界》等电影以人工智能反抗和超越人类为题材，机器人向乞讨的人类施舍的画作登上国外某杂志的封面……人们越来越倾向于讨论人工智能究竟在何时会形成属于自己的意识，并超越人类，让人类沦为它们的奴仆。任务一活动一人工智能的道德问题概述智能增强（简称IA）技术使得人工智能发展出一种纯粹机器的学习和思维方式。例如，打败李世石的阿尔法狗，根据棋手的说法，甚至在多次复盘之后，他们仍然无法理解像阿尔法狗这样的人工智能如何走出下一步棋。基于机器思维的人工智能，可控性就值得怀疑了。

近年来，国际人工智能界日益重视人工智能中的伦理与法律问题，并推动相关技术标准及社会规范的研讨和制定，如IEEE全球人工智能与伦理倡议、阿西洛马人工智能23条伦理原则，我国的《新一代人工智能发展规划》也专门提出人工智能伦理与法律的三步走规划。任务一活动二机器智能的危害在《未来战士》《二十二世纪杀人网络》等电影里，有机器人满世界追打人类的镜头。如果机器人具有了“情感”，具备了思索能力，那么，在将来的某一天，它们可能会像人类一样，自我设计，自我制造，以致摆脱人类的控制，将人类置于危险的境地。任务一活动二机器智能的危害1.霍金的告诫：当心人工智能的反噬享誉世界的英国天体物理学家、英国剑桥大学著名教授史蒂芬•威廉•霍金发出警告：“完美人工智能的开发，便意味着人类的终结!”任务一活动二机器智能的危害2.科技巨头对人工智能的担忧《奇点临近：当人类超越生物学》的作者雷•库兹韦尔预计，21世纪30年代人类大脑信息上传成为可能；到2045年奇点来临，人工智能完全超越人类智能，人类历史将彻底改变。特斯拉CEO埃隆•马斯克，微软CEO比尔•盖茨，美国麻省理工学院物理学家马克斯•泰格马克，美国加州大学伯克利分校计算机科学家斯图尔特•拉塞尔等科技巨头及学者均表达了对人工智能的发展不可控的担忧。以色列历史学家、《人类简史》一书作者尤瓦尔•赫拉利则对人工智能的发展持乐观态度。人工智能最终是天使还是魔鬼，完全取决于开发和应用技术的人。只要人类自身能约束好自己，未来的人工智能就一定会沿着服务于人类的方向前行。任务一活动二机器智能的危害3.机器信誉问题现在人们对机器更有信心。外出旅行时，即使有人非常熟悉路线，也必须打开“导航系统”。如果向导有一次指错了路，很长一段时间里他都不会被信任；如果导航系统出错，多数用户会简单地认为这是偶然的故障，并会继续信任它。人们往往更愿意相信机器，而不是人。人们对机器的过度信任，会引致严重的问题。例如，美国经常宣传无人机只是袭击和杀死了恐怖分子，而巴基斯坦、阿富汗、也门的当地媒体和目击者却经常报告它杀害了很多无辜的平民，其中包括儿童。我们并不应该害怕机器智能，而应该害怕的是人类轻信机器。任务一活动二机器智能的危害4.机器的速度问题未来的计算机速度将如此之快，控制它们本身就是一项大工程。我们已经无法控制计算速度快于人类大脑百万倍的机器。机器的计算速度要快于最聪明的数学家。我们编写算法，并把它输入机器。危险在于没有人能确保该算法设计正确，尤其是当它与众多算法交互时。这个问题将通过引入限速的方式来解决：只允许算法在一定的速度范围之内，只允许“警察”（防止算法引发问题的看门人算法）的速度更快。但这样的做法是否无法充分发挥机器的速度优势呢？任务一活动二机器智能的危害5.妖魔化常识我们在生活的方方面面越来越常见到一种愚蠢机器：它的规则不容人类智能干涉。例如在非常寒冷的晚上室内空调依旧吹着冷气，任何人都不会将温控器称为“智能”。

创造了机器后，有时候却很难按照常识控制它的行为。电脑控制的设备和电脑控制的系统往往让你无法按照常识和正常智能进行操作。充斥人类社会的数百万台机器可能会强制人类不使用常识，而只是遵循规则：它们会把人类变笨。任务一活动二机器智能的危害6.你是别人盈利的工具机器智能的另一个危险是运用计算能力作为销售工具。为了采取对用户更有针对性的销售策略，人工智能技术已经被用来收集用户信息（以前被称为“监视用户”）。智能软件控制你上网的一举一动并使用它来为你量身打造上网体验；计算机科学正在将你的生活转化成他人的商机。你可能会认为你换了一辆车是因为你想要一辆新车，如果换一个角度看待这件事：是车让你花钱，然后汽车企业可以用这个钱生产更多更好的车。到底是你主宰了汽车消费，还是汽车消费主宰了你？任务一活动二机器智能的危害7.责任问题人工智能技术的社会应用迅速改变了人类的生存环境，重塑人的行为，也不断挑战诸如隐私、责任等概念内涵及其既有策略。比如“责任”，比较典型的是自动驾驶系统的责任认定。假设你坐在一辆自动驾驶汽车上，两个孩子突然冲进了你前面的路上。汽车会决定撞上这两个孩子，还是跟对面车道上的车迎面相撞，还是撞上另一辆停着的车？计算机有几毫秒来决定采取哪种行动，而所有这些行动，都有可能导致人受伤或丧命。如同经典的“有轨电车难题”一样，到底哪个选择才是正确的呢？该牺牲谁的利益？任务一活动二机器智能的危害8.算法歧视另一个伦理挑战是算法歧视。算法有可能有意无意地歧视特定社会群体。由于缺乏透明性，机器在做决定时可能会考虑人类认为不恰当的因素，从而导致歧视。微软（Microsoft）的聊天机器人Tay曾经在Twitter上发表煽动性反犹太言论，微软不得不关闭它。产生有偏见的决策，导致了潜在的歧视性的结论，往往违背我们的道德价值观，虽然设计这一系统的人并非有意为之。任务一活动二机器智能的危害9.结论的不可解释性假如你的家庭有二个孩子。有一天，一个孩子回家找你，要求你给她零花钱，让她和朋友一起去看电影，你允许了。一周后，你的另一个孩子带着同样的要求来找你，但这次，你拒绝了。这将立即引起不公平和偏袒的问题。这时你要向孩子解释，她必须完成家庭作业，才有资格获得零花钱。现在用一个人工智能系统取代你的角色，通过研究其他家庭的零花钱决定的后果，得出结论，一个孩子应该得到零用钱，而另一个孩子不应该。但人工智能系统无法解释其中的原因。既然人工智能无法解释原因，那又如何判断人工智能的结论是有效的呢？任务一活动三人工智能23条军规随着人工智能的迅猛发展，机器在未来几十年内可能会达到人类的智能水平，到时机器人就可以改造自己，并创建其它同类，甚至制造出被称为超级智能的更强大AI。如何确保机器人为人类利益服务，而不是像电影《终结者》里一样，将人类文明终结，是必须纳入议事日程的重要课题。著名科幻作家阿西莫夫在其作品中为机器人制定了三大法则：第一法则，机器人不得伤害人类，或因不作为使人类受到伤害；第二法则，除非违背第一法则，机器人必须服从人类的命令；第三法则，在不违背第一及第二法则下，机器人必须保护自己。任务一活动三人工智能23条军规

2017年1月，在加利福尼亚州阿西洛马举行的BeneficialAI会议上，特斯拉CEO埃隆·马斯克、DeepMind创始人戴米斯·哈萨比斯以及近千名人工智能和机器人领域的专家联合签署了《阿西洛马人工智能23条原则》(AsilomarA.I.Principles)。任务一活动三人工智能23条军规

《阿西洛马人工智能23条原则》科研问题1.研究目标：创造有益而非不受控制的Al2.研究资金：资助如何有益利用AI的研究，包括计算机科学、经济、法律、伦理、社会研究等3.科学-政策连接：建设性的对话交流4.研究文化：合作、信任、透明5.避免竞赛：在安全标准上积极合作伦理价值6.安全：安全可靠性及可验证7.失灵透明性：Al系统造成的损害具有可追溯性8.责任：对高级AI系统的道德影响负责9.司法透明性：司法决策中使用AI系统应提供解释和救济10.价值对接：Al系统的目标和行为符合人类价值11.人类价值：Al系统必须兼容人类尊严、权利、自由、文化多样性12.个人隐私：访问、管理、控制个人数据13.自由和隐私：将AI用于个人数据必须不能剥夺人们实际的或者可感知的自由14.利益共享：尽可能赋能，惠及更多人15.繁荣共享：AI带来的经济繁荣应惠及全人类16.人类控制：人类应当决定如何以及是否将决策外包给Al系统17.非颠覆性：通过控制AI系统获得的权力必须尊重、改善人类社会的社会和民事程序18.AI军备竞赛：应当被禁止长期问题19.能力警觉：对于未来AI能力的上限未达成共识20.重要性：以适当的注意和资源计划、管理将对人类社会和地球产生重大影响的AI系统21.风险：适当预防潜在的毁灭或者生存危机22.循环的自我提高：具有此能力的AI系统必须具有充分的安全和控制措施23.共同利益：开发超级AI必须服务于全人类的利益任务一活动四人类与人工智能携手共舞目前并不需要担心人工智能的到来，因为我们离真正的智能机器还非常遥远。机器是我们未来幸福生活的关键，智能机器很可能对我们这个时代不可或缺。没有机器人的世界意味着人类将必须执行各种对健康危害很大的危险工作，如清理福岛的核灾难现场，在矿山、钢厂恶劣的工作条件下工作。在某些国家，人口变为负增长。这些国家正在步入“老年潮”时代。机器人可以解决劳动力短缺问题。

没有机器人的世界无法正常运转，非常贫穷的人在恶劣的条件下工作生活，老人无人照顾，残障人士无人帮助。没有机器人的世界是一个可怕的世界。任务一活动四人类与人工智能携手共舞人类现在正处于两股科学大潮的汇合处。生物学家正在破解人体的奥秘计算机科学家正在为我们提供前所未有的数据处理能力任务一活动四人类与人工智能携手共舞人类需要人工智能，而且也越来越离不开人工智能。我们需要毫不犹豫地与人工智能握手！任务一任务回顾随着人工智能的发展，国际人工智能界日益重视人工智能中的道德问题。人工智能可能会带来一些潜在的危害，例如人工智能可能会反噬人类，会产生歧视，带来责任难以界定问题，会犯致命性错误，结论的不可解释性等。在阿西洛马举行的BeneficialAI会议上，近千名人工智能和机器人领域的专家联合签署了《阿西洛马人工智能23条原则》(AsilomarA.I.Principles)，并呼吁全世界在发展人工智能的同时严格遵守这些原则，确保拥有自主意识的机器保持安全，并以人类的最佳利益行事，共同保障人类未来的利益和安全。人类需要人工智能，而且也越来越离不开人工智能。人类和人类创造的智能机器要学会协作，人机共存，共同繁荣。任务二

人工智能与职业

任务二

学习目标.1.了解人工智能对个人职业带来的颠覆性革命；2.熟悉人工智能时代职业的特点；3.掌握人工智能时代保住自己饭碗的方法。任务二

任务导入.富士康启动百万机器人计划，举刀大裁员，机器人代替人力。近年，富士康每年投入上万机器人。富士康最大工厂之一的昆山工厂，人数直接就从11万人被裁到了5万人，足足减少了一半人口。在机器换人的潮流中，很多人都被迫离开，从以前厂区内坐满的人到现在全是机械臂在工作，时代的变迁我们无法改变，只能跟随时代的脚步，否则就会被淘汰。在未来30年内，人工智能几乎可以完全取代人力。在由此带来的失业大潮面前，人们又该何去何从呢？任务二

思考

1.从职业的角度来说，人类在哪些方面不如机器人？2.你身边有没有机器人替代人类工作的例子？任务二活动一人工智能时代的职业革命

人工智能时代的到来，首当其冲的是让劳动工人和各个领域的从业者一下子失去了饭碗。在机器人和人工智能等技术的冲击下，全球劳动力市场将会发生颠覆性变革。据有关机构预测，未来5年内，全球15个主要国家将会减少710万个就业岗位；在全球范围内，会有上千万人失业。任务二活动一人工智能时代的职业革命1.劳动工人的危机：人工智能技术引发的失业大潮随着人工智能技术的突飞猛进，机器人将会取代甚至超越人类执行任何任务。因而，在未来30年内，将会有千千万万的人失业，各行各业都将受到影响。在日本，有一家Henn-na机器人酒店，由机器人取代人工来为客人提供服务。相比人工服务来说，酒店使用机器人服务除了节约运营成本外，在工作上机器人也显得更为敬业。任务二活动一人工智能时代的职业革命2.人工智能对行业的潜在影响力如果将人工智能技术特点与现实应用结合起来可以发现，在其应用领域，对下列行业存在着较大的潜在影响力。（1）自动驾驶。（2）服务机器人。（3）数据分析和挖掘。这些行业中机器人一旦到来，首当其冲的就是引发失业潮。任务二活动一人工智能时代的职业革命3.未来若干年内，极有可能消失的职业据一些业内专家预言