人-系统交互工效学 第810部分：机器人、智能和自主系统 征求意见稿

1GB/Z18978.801—202X/ISO/TR9241-801:2020人-系统交互工效学第810部分：机器人、智能和自主系统本文件涉及以下内容：——具备物理实体的RIA系统，例如用户将与之进行物理交互的机器人和自动驾驶车辆；——嵌入物理环境的系统，用户无需有意识地与其交互，但这些系统会收集数据和/或改变人们生活或工作的环境，例如智能建筑和情绪检测系统；——智能软件工具和智能体，用户通过某种形式的用户界面与其进行主动交互；——智能软件代理，无需用户主动输入即可根据用户的行为、任务或其他目的修改或调整系统，包括提供特定情境的内容/信息、基于用户信息定制广告、根据用户认知或生理状态自适应的用户界面以及“环境智能”；——多个RIA系统联合交互对用户的影响，例如在相同情况下多个RIA系统之间发生冲突行为；——RIA系统的复杂系统-系统及社会技术影响，特别是对社会和政府的影响。本文件并未探讨围绕机器人、人工智能、机器学习以及智能机器或环境的哲学、伦理或政治问题。有关伦理和政治问题，请参考如BS8611和IECP7000等标准。然而，本文件确实指出了在广泛的系统和情境中需要考虑伦理问题的地方及原因，因此提供了与RIA系统更广泛讨论相关的信息。与早期关于自主性的许多工作相比，本文件的关注点更为广泛，超越了对控制任务自动化和重复性物理或认知任务机械化的研究，而着眼于自动化水平。尽管本文件涉及了RIA系统的广泛技术应用，以及各行业和利益相关者对相关问题的看法，但由于RIA系统的应用日益多样化，对每个问题的讨论可能并不完整。2规范性引用文件本文件没有规范性引用文件。3术语和定义本文件没有需要界定的术语和定义。4符号和缩略语AI人工智能CRM团队资源管理DM决策GPS全球定位系统HCD以人为中心设计HCI人机交互HCQ以人为中心质量（见ISO9241-220）HF人的因素IA智能体ICT信息通讯技术IVR交互语音应答ML机器学习RIA机器人、智能、自主RPA机器人过程自动化2GB/Z18978.801—202X/ISO/TR9241-801:2020UxV无人驾驶（其中x=太空、大气层、地面、水面、地下或水下）交通工具UI用户界面UX用户体验5报告内容和结构本文件的目标读者包括决策者、设计师和工程师，他们可以通过考虑RIA系统的人-系统问题从中受益。未来学家、研究人员、技术开发者、监管者和立法者也可以发现本文件的价值。本文件的目标读者还包括从事RIA系统开发、采购和/或调试的标准开发社区和工效学专家。本文件基于一项分析，该分析从当前技术应用出发，预测技术将向更加互联、复杂、概率性和非确定性、社会化的系统/实体/智能体以及人类增强方向发展。在这里，"社会化"还包括物理交互。分析中涉及的应用包括机器人、智能系统和环境（如控制或以其他方式影响环境的智能建筑）以及自主代理/系统。该分析还考虑了以下方面的观点和担忧：各行业RIA系统用户和利益相关者对未来工作角色、人类任务和组织结构的影响；安全性、系统信任、权利和文化的影响。分析同时考虑了工效学的限制，并初步识别了可能的变化领域。在本文件编制过程中，我们参考了广泛的已发布文献和专业知识，包括未来学文献、监管工作、敏锐观察者的意见，以及当前和计划中的产品报告。此外，还纳入了项目团队的深入讨论和分析。——第6章讨论了人工智能和工效学中的相关概念。——第7章描述了已识别问题的分类。——第8章描述了如果不应用工效学可能导致的危害和潜在的伤害。——第9章说明现有工效学标准如何解决这些问题。——第10章描述了为更好地解决RIA系统技术问题而需要对工效学标准进行的修改。附录A至E主要针对以下群体编写：——工效学界：为RIA系统项目/讨论提供专业输入，以确保其具有可行性；提供关于工效学如何应用/应如何发展/需要得到支持的建议；为涉及此类项目时需要提出的问题提供框架。——RIA系统开发、采购、调试或批准人员：为参与执行、项目、设计或法律和监管角色的人士提供需要考虑的事项和潜在问题清单。——标准开发者和用户：帮助理解RIA系统的工效学方面如何影响其活动；提醒那些尚未将人类或工效学需求纳入其领域的从业者关注与RIA系统相关的新兴或紧急的人-系统问题或需求。附录A详细阐述了每个类别中的人-系统问题。附录B列举了RIA系统的示例，说明了问题、危害和工效学考虑。附录C对工效学需要发展的领域进行了两阶段审查，以解决这些问题。附录D包含更详细的分析描述，并说明了对工效学和标准的必要扩展。附录E描述了本文件所基于的分析过程。6概念6.1概述实施RIA系统需要使用多种技术，这些技术以各种组合形式应用于人类可能交互的广泛场景中。这导致了定义和术语普遍缺乏一致性和精确性，包括在标准中，RIA系统技术和应用根据特定环境的要求以不同方式进行定义。由于无法完全预测未来这些技术将以何种不同方式开发和应用，本文件未引用其他标准中的现有定义。相反，本文件采用通用且常用的术语，尽管这些术语仍可能引发不同个人的解释和意见，但它们在更广泛的范围内被理解和接受。本文件在标题中使用了最常见的通用术语（机器人、智能、自主并理解这些术语可能引发一系列关联和不同意见。这些概念并非彼此独立。此外，本文件重点关注这些术语作为人类对某类智能体特征的集体描述的用途。这些智能体通常根据使用类型或使用情境进行限定（例如，自动驾驶汽车、智能建筑、护理机器人）。6.2.1智能体3GB/Z18978.801—202X/ISO/TR9241-801:2020智能体是通过传感器进行观察，并通过执行器对环境进行作用的实体。它以实现目标为导向开展活动。智能体可以通过学习或使用知识来实现这些目标，其复杂程度可能从非常简单到极为复杂不等。智能体通常是软件实体，它们以某种程度的独立性或自主性代表用户或其他程序执行一系列操作，并在此过程中利用对用户目标或需求的某种知识或表示。例如，用于操作员辅助或数据挖掘的自主程序（有时称为“机器人”）也被称为“智能体”。6.2.2自主智能体自主智能体是以高独立性代表所有者运行的智能体。这种智能体是一个位于技术或自然环境中的系统，并作为该环境的一部分，能够感知该环境的全部或部分状态，并根据自身的驱动因素（或预设目标）采取行动以实现其目标。这些目标由驱动因素（或编程目标）演变而来。自主智能体通过改变环境的部分状态或环境本身来发挥作用，并对其感知的内容产生影响。非生物的示例包括智能体、自主机器人以及各种软件代理（例如人工生命体和许多计算机病毒）。生物学领域的自主智能体尚未定义（除活生物体外）。术语“机器学习”通常与智能体一起使用，而一些自主系统的定义还将学习能力视为此类系统的特征之一。6.2.3机器学习机器学习（ML）是人工智能的一个领域，它利用统计技术使计算机系统能够从数据中“学习”（例如逐步提高在特定任务上的性能），而无需通过明确的编程进行指定。6.2.4自主机器人自主机器人是一种能够以高度独立性执行行为或任务的机器人。这一特性在诸如太空飞行、家庭维护（如清洁）、废水处理以及商品和服务的递送等领域尤为理想。一些现代工厂机器人在其直接环境的严格限制内具备自主性。这并不意味着它们的周围环境中存在所有可能的自由度，但工厂机器人的工作场所通常充满挑战，并且可能包含混乱且不可预测的变量。下一步工作的具体方向和位置（在更先进的工厂中甚至包括物体的类型和所需任务）通常是确定的，但从机器人的角度来看，这些可能会不可预测地变化。机器人研究的一个重要领域是使机器人能够适应其环境，无论是在陆地、水下、空中、地下还是太空中。完全自主的机器人可以：——获取环境信息；——在没有人工干预的情况下长时间工作；——在其操作环境中自主移动全部或部分身体，无需人类协助；——避免对人类、财产或自身有害的情况（除非这些情况是其设计规范的一部分）；——学习或获取新知识，例如调整完成任务的新方法或适应变化的环境；——与其他机器一样，自主机器人也需要定期维护。6.2.5ISO机器人本文件中使用术语“机器人”，旨在涵盖ISO8373:2012，2.6中所定义的设备。在本文件中更广泛地使用该术语，是为了适应机器人/机器人技术在概念化、设计和应用中的各种变化和重叠，并避免使用更具体的定义（如ISO8373中的定义），因为随着机器人能力的不断发展，这些定义可能仅适用于某些特定的模型和应用。6.3工效学概念6.3.1RIA系统的工效学问题在涉及RIA系统的工作设计中，需要考虑多种交互性影响。为了更好地解决RIA系统的问题/挑战，人类工效学及其标准需要适应和演进。目前，有些主题仍超出了人类工效学的范畴。传统上，人类工效4GB/Z18978.801—202X/ISO/TR9241-801:2020学关注的是物理世界中的身体和认知活动，而现在，它开始涉及交互式系统和数字世界，涵盖与物理世界相关的信息以及自身的信息，包括科学、商业信息系统、娱乐和知识。随着RIA技术的发展，人类工效学可能还需要考虑社会工效学，以评估和改善用户体验、可访问性、可用性并避免伤害。人类工效学需要扩展其范围，以考虑通过RIA系统进行的社会交互的影响，包括社交媒体、人机协作以及自适应界面和环境。同样，人类工效学需要研究RIA系统对非用户的影响，即那些身处RIA系统运行环境中但未直接使用该系统的人群。此外，人类工效学还需要考虑由其他相关方（大部分或甚至完全没有人类工效学投入）制定的法律、监管和治理要求。6.3.2RIA系统的设计方法在设计RIA系统与其用户（包括人和其他RIA系统）之间的关系时，可以采用一系列设计方法。这些在表1中描述。它们具有工效学、社会技术、伦理和可能的政治含义。应用于RIA系统的工效学应考虑最适合应用的范例以及对个人和社会的影响。在设计RIA系统与其用户（包括人类用户和其他RIA系统）之间的关系时，可以采用多种设计方法。这些方法在表1中进行了描述，涉及人类工效学、社会技术、伦理以及可能的政治影响。在人类工效学应用于RIA系统时，应考虑最适合具体应用的设计范式，以及其对个体和社会的影响。表1RIA系统的设计方法不一定有害，但人类不一定意识到RIA系统的作用。6.3.3感知自主性从以人为中心的角度来看，表面上的自主行为是一个人类-系统交互问题，应在设计中予以解决。事实上，从人类-系统交互的角度来看，系统行为被感知为自主的程度可能比系统的技术自主程度更重要。5GB/Z18978.801—202X/ISO/TR9241-801:2020自2015年以来，“自主”和“自主系统”这些术语在市场营销和新闻报道中被广泛用作“自动”、“自动化”的同义词，以及用于描述具有感知自主行为的系统。这种用法非常普遍，以至于即使在技术文献或法规中，也无法假定其具有更精确的含义。因此，相较于真正的自主智能体，用户感知为“自主”的行为反而是一种更常见的现象。6.3.4控制环路控制环路由基本控制功能、支持信息、执行器和感受器组成，这些是在过程中进行调整所必需的。如果用户、自主智能体或系统的其他组件处于用于对过程进行调整的过程流中，则该用户、自主智能体或系统的其它组件被称为处于环路中。随着RIA系统智能体的出现，对用户在环路中的位置的更精细描述正在出现。例如，在自动或自主流程执行过程中处于环路中的用户具有主要监督性质的交互。环路中使用的一个不太常见的变化的例子是环路之前的用户。这些用户在执行自动或自主过程之前进行交互，但在过程执行期间不负责监控或进行调整。有关决策/行动循环（OODA环路）的讨论，见10.3。7人-RIA系统问题的类别7.1概述已识别的人-RIA系统问题（即问题）分为六类。这些类别的概述见图1，详细描述请参见7.2至7.7。与这些类别相关的ISO标准示例可参见第9章。本章提供用于分析的数据，而非结论。它描述了与RIA系统特定或特别相关的人-系统问题，而非那些常见于非RIA系统的问题。图1确定的人-RIA系统的6类问题7.2RIA系统—对人的影响这一类别主要代表RIA系统的特性对其运行环境中的个体产生的影响。这些影响包括身体、认知、情感、行为和动机方面的反应。需要强调的是，这一类别中的问题并不仅限于用户（即与RIA系统交互或因其作用而受影响的人）所经历的问题。除非一个RIA系统完全不引人注目，否则它也会对非用户产生影响，而这些非用户对其行为并无任何既得利益。对于非用户而言，一个引人注目的RIA系统在其环境中可能会改变他们对环境的感知，激发情感反应并改变其行为。例如，仅仅是RIA系统的存在就可能被视为一种干扰，或被认为侵犯了隐私或个人空间。因此，用户和非用户的反应可能并不相同。6GB/Z18978.801—202X/ISO/TR9241-801:2020有关RIA系统设计特性如何影响人的更多问题示例见A.2。7.3人-RIA系统交互除非RIA系统是完全自主的，否则人会在某种程度上直接与其交互。这类人构成RIA系统的用户。这一类别是当今大多数工效学的所在。它解决了任务的性质和工作设计，以确保用户能够完成其预期任务。该类别中的问题特别涉及用户界面设计对用户（即个人或团队）与RIA系统交互的后果和影响。有关与人-RIA系统交互相关的问题的更多示例见A.3。7.4多个RIA系统相互作用-对人的影响可以预见，未来会出现多个RIA系统在同一环境中运行的情况，这些系统无需人为干预即可协调活动并进行交互。在具有物理实体的RIA系统的情况下，这种交互对用户可能是显而易见的；而在软件智能体的情况下，用户可能只感知到单一系统的存在，而非其组成要素。当来自不同供应商或组织的RIA系统相互交互时，RIA系统之间的兼容性和通信问题是可以预见的，尤其是在多个RIA系统共同运行的环境中，与环境中人的兼容性问题也同样值得关注。很难预测这些交互会产生何种新兴行为及其对用户的影响。有关多个RIA系统交互对人类影响的更多问题示例，请参见A.4。7.5RIA系统—组织的RIA系统可能会影响组织中发生的工作、组织流程以及组织中人员所扮演的角色等活动。这些问题提出了一个问题，即我们如何优化现有组织结构/工作实践等，以在现有组织中充分利用新的RIA系统。尽管这类问题可能不会出现在每一个RIA系统中，但它们可能会出现在组织级别实施的任何RIA系统上。与组织级别的RIA系统相关的问题的更多示例见A.5。7.6社会/文化/伦理的RIA系统不会孤立运行，而是在社会和文化背景下运行。一个有效的RIA系统将作为团队中熟悉的成员或合作实体无缝地集成到这个环境中。RIA系统的行为应符合社会和文化规范。这一类别中的问题描述了RIA系统的设计如何积极或消极地影响社会互动、群体态度和动机以及集体群体行为，这取决于系统在社会和文化背景中的无缝匹配程度。社会、文化和伦理问题的更多示例见A.6。7.7新出现的社会问题RIA系统的广泛或战略性使用将重新定义人类与技术的关系。从长远来看，可以使用智能体来做出关于治理的重要决策。关于所使用的数据和算法以及如何管理它们的保证可能是一个问题。当引入大规模智能体时，将存在与如何分配责任相关的社会技术问题。人类可能只会被分配工作，以补偿不完全的自主性，可能会导致角色不丰富、不参与等，并且人在循环中得不到充分维护，无法在需要时有效介入。用自动化系统取代以知识为基础的工作可能会带来就业方面的变化，其方式类似于19世纪和20世纪工业化取代熟练的体力劳动者，但另一个后果是，如果需要，失去的高级认知技能可能需要几代人才能复制。更多新出现的社会问题见A.7。8工效学和RIA系统8.1概述本章介绍了工效学作为解决人-RIA系统的问题的一种方法。RIA系统将更具关联性、复杂性、概率性和非确定性、社会性，并大大增强人类的能力，而不仅仅是取代体力劳动。与这些智能体的互动可以成为一种关系，他们的界面可以个性化，用户和智能体可以组成复杂的人机团队，共同努力实现共同的目标。8.2和8.3中被识别的益处和问题将存在于人与非人-系统交互的环境中。人类工效学仍然是相关的，但适用于这些新RIA系统的方法和技术的比例不断变化（见第7章）。7GB/Z18978.801—202X/ISO/TR9241-801:2020RIA系统需要考虑整个系统设计。任务性质和工作设计的变化，以适应RIA系统复杂的社会人机交互，是工效学的基础。这些变化将要求工效学解决系统方法，调整其最佳实践，并扩展到目前工效学家不经常处理的心理学和其他社会科学领域。8.2RIA系统应用工效学的好处工效学提高了机械和计算机控制自动系统的可用性。如果采用符合工效学的方法来支持RIA系统的设计和使用，将会有好处。具有高水平的以人为中心的质量的系统和产品往往在技术和商业上更成功。按照以人为中心的原则开发和使用的RIA系统将带来更多好处。其中包括：——提高用户/人员在需要时进行控制的能力；——提高具有各种能力的人的无障碍；——改善用户体验；——改进RIA系统在人类团队中的接受和集成；——改进人力任务和活动的整合和支持；和——在所有RIA系统状态[主要/正常、降级、紧急和恢复（当系统不可用时）]以及在这些状态之间可能出现特定问题的过渡期间，提高了系统性能。这可能导致：——提高产品/系统/服务的接受度；——增加对产品/系统/服务的信心和信任；——降低支持成本；——竞争优势；和——降低了人的错误和人机组队错误、用户意外使用系统以及系统运行不理想或进入不安全或不期望的操作模式的风险。8.3RIA系统不应用工效学的危害RIA系统对个人和社会造成危害。对使用该系统的个人的绩效以及其他受该系统影响的人的行为产生负面影响的可能性很高。这些负面影响包括：——系统中不适当的信任/信心水平（对RIA系统具有正确的信任或信心水平很重要。这取决于任务、情境和情况，即RIA系统在某些情况下比在其他情况下更可靠，用户理解这一点的能力至关重要，通过系统行为的透明度/可预测性等）：——信任不足可能导致：由于额外的检查和监督活动，用户不采用该系统（如果他们有选择的话）或不愿意操作该系统，以及RIA系统的预期效益没有得到充分实现，导致工作量增加；——过度信任可能导致错误的发生或遗漏、任务的脱离以及当系统没有按预期运行时对系统的不满；——情境警觉丧失；——脱离任务；——过度依赖RIA系统完成任务；——精神负荷增加；——由于RIA系统的存在而产生的不确定性导致的普遍压力；——在恢复、紧急和降级的系统状态下或在没有系统的情况下可能需要的知识、技能和能力的退化；——培训需求增加；——对工作或环境失去控制，这可能会影响工作满意度和员工留任；——责任和义务的模糊或丧失；——可用性差；——反过来，这些对个人绩效的负面影响会危及安全；——增加使用错误，导致事故和伤害；——当用户需要重新参与任务（重新进入环路）时，增加用户重新参与任务所需的时间，可能会延迟纠正措施，以防止出现不安全状态或操作；——导致用户有意（或无意）开发RIA系统的工作方式，并违反流程，以圆满完成任务。8GB/Z18978.801—202X/ISO/TR9241-801:2020类似地，当没有充分考虑人的因素时，对使用RIA系统或在RIA系统环境中工作的人群会产生负面的社会影响。其中包括：——对环境的社会方面普遍不满；——由于RIA系统的存在或运行，使用该系统的团队的运作受到干扰，或社会互动出现偏差；——与系统相关的负面事件的一般责任扩散；——社交团体和/或用户团队对隐私的侵犯；——社会团体和/或用户团队认为安全性降低；——由于RIA系统的存在而产生的不确定性导致的普遍压力；——知识、技能和能力的退化，如果出现电磁或地磁脉冲等需要，社会需要相当长的时间才能恢这些负面的社会影响反过来会导致RIA系统被拒绝，从而对系统制造商和用户组织的声誉、产品销售或服务绩效以及最终的盈亏底线或效率产生负面影响。它们还可以创造一个功能失调的工作场所，带来所有困难和成本。因此，在所有级别（系统、组织和系统规模）都必须考虑以人为中心的方法（人的增强其中RIA系统和总体系统设计的重点是人类用户保留的决策和任务（在所有潜在用例中：最佳、降级、逆转和紧急），RIA系统支持这些决策和任务。人员应保持在环路中，以达到所有系统状态所需的性能和安全水平。当系统在诸如从正常操作到紧急状态的状态之间转换时，这尤其重要。确定所需的范围是系统风险评估的一部分。同样，至关重要的是将RIA系统与其运行的社会环境无缝集成，以确保其运行不会破坏环境的社会和文化结构。因此，无论何时将RIA系统引入到包括团队或其他社会互动可能受到影响的群体的环境中，都必须实施有效的变更管理程序。尽管在引入任何新的或修改的系统时，变更管理很重要，但这些系统帮助确保其被接受并最大限度地减少对环境中团队活动的干扰尤为重要。9RIA系统中工效学标准涉及的领域9.1概述工效学标准提供了有助于解决第7章所述的许多问题和第8章所述危害的信息，特别是与用户界面、组织问题和生命周期过程相关的信息。尽管这些标准可能不能充分涵盖RIA系统特性的新需求，但本章总结了如何使用这些标准来解决RIA系统。9.2工效学原理ISO26800描述了一般工效学方法，并规定了适用于任务、工作、产品、工具、设备、系统、组织、服务、设施和环境的设计和评价的基本工效学原理和概念。工效学的基本原理保持不变，尽管对它们的相对重视程度会有所不同。ISO26800中所述的原则和概念对设计过程至关重要，无论在何处都需要人的参与，以确保将人的需求和特性最佳地整合到设计中。基于这些原则和概念的工效学和人因标准可供高管、经理、工程师和设计师在选择、设计和管理系统和设备时使用，以确保其有效、高效和令人满意。这些概述如下。ISO27500借鉴了广泛的工效学和人因知识，以简洁的形式向执行委员会成员和决策者介绍了以人为中心的基本原理和一般原则。它解释了以人为中心的组织的特点。这些原则如下：——利用个人差异作为组织力量；——制定可用性和无障碍战略业务目标；——采用全系统方法；——确保健康、安全和福祉是业务重点；——重视员工，创造有意义的工作环境；——公开和可信；和——以对社会负责的方式行事。当考虑或实施RIA系统时，它们为组织行为提供了框架。ISO27501概述了管理者在支持以人为中心的组织方面的责任，以及在内部、外部和社会利益相关者方面实现七项原则中的每一项。9GB/Z18978.801—202X/ISO/TR9241-801:20209.3以人为中心的设计过程以人为中心的设计是交互系统开发的一种方法。通过应用人因/工效学以及可用性知识和技术，以人为中心的设计旨在通过关注用户需求，使系统可用和有用。这一方法提高了有效性和效率，改善了人类福祉、用户满意度、可及性和可持续性；并抵消使用对人体健康、安全和绩效可能产生的不利影响。ISO9241-210为基于计算机的交互系统的整个生命周期中以人为中心的设计原则和活动提供了要求和建议。它旨在供管理设计过程的人员使用。它关注交互系统的硬件和软件组件如何增强人-系统的交互。所述方法补充了现有的系统设计方法。它可以被纳入各种方法，如面向对象设计、瀑布式、敏捷和其他快速应用程序开发过程。两个以人为中心的设计过程模型阐述了以人为中心设计方法的原则和活动。ISO9241-220描述了确保交互系统以人为中心质量的过程。ISO/TS18152描述了解决系统工程中人-系统问题的过程。这些标准中的流程远远超出了HCD实践中的现行规范（即，规定了在治理和项目管理中支持HCD的流程，表示HCD人员尽早参与，定义用户需求，然后驱动系统/技术/平台级需求），并将适用于RIA系统，也适用于其他类型的系统和任何一组人-系统问题。ISO9241-220:2019，附件F，提供了风险管理和以人为中心的设计指南。9.4交互和界面ISO9241-110、ISO9241-112、ISO9241-13、ISO9241-129和ISO9241-154为交互系统的工效学设计制定了一般设计原则，和不考虑使用、应用、环境或技术情况下的信息呈现。它们为将这些原则应用于交互系统的分析、设计和评价提供了一个框架。虽然它们适用于所有类型的交互系统，但它们没有涵盖每种使用情境的细节，例如安全关键系统和协作工作。这些原则通常独立于任何特定的设计风格或应用。ISO9241-129专门针对自适应对话。其他部分涉及新颖和多种模式。对话是“用户和交互系统之间的交互，作为一系列用户动作（输入）和系统响应（输出），以实现目标”，其中用户动作不仅包括数据输入，还包括用户的导航和其他（控制）动作。与对话和个性化相关的原则有助于防止可用性问题，包括：——任务中不需要的额外、不必要的步骤；——误导信息；——关于用户界面的信息不足且较差；——交互系统的意外响应；——使用期间的导航限制；和——错误恢复效率低下。与信息和指导相关的原则为用户提供了各种好处，包括速度、准确性、脑力劳动和用户体验的提高。它们也有助于防止用户在呈现信息时遇到可用性问题。此类问题的示例包括：——尽管存在信息，但不检测信息；——其他分散用户注意力的信息；——不区分信息，因为它们看起来是相同的；——误解信息，因为信息的含义不明确；——花费不必要的时间来理解信息，因为信息呈现不必要地冗长；——不熟悉的内容和格式导致对信息缺乏理解。ISO9241-154给出了交互式语音应答（IVR）应用程序用户界面设计的指导和要求。它涵盖了使用按键输入的IVR系统和使用自动语音识别（ASR）作为输入机制的IVR。它同样适用于呼叫者或IVR系统本身（例如在一些电话营销应用中）发起呼叫的情况。它打算与ISO/IEC13714一起使用，ISO/IEC13714专门涵盖语音信息。尽管ISO9241-154涵盖了许多与本章中引用的其他标准相同的主题，但ISO9241-15是特定于应用的，并提供了超出一般原则的指导。9.5无障碍ISO采用的无障碍工效学定义侧重于通过考虑最广泛的用户需求、特征和能力，扩大产品、系统、服务、环境和设施的用户范围，以使尽可能多的用户能够在特定的使用环境中实现其目标。ISO9241-171、ISO/IEC29136、ISO9241-129、ISO9241-971和ISO/TR22411提供了关于交互系统设计的具体方面的指导，这些方面考虑了尽可能广泛的用户范围。具体指南的应用是在9.3所述的以GB/Z18978.801—202X/ISO/TR9241-801:2020人为中心的设计方法的应用范围内进行的。EN17161描述了一种考虑到无障碍的设计方法，该方法侧重于尽可能广泛的用户。ISO9241-171为工作、家庭、教育和公共场所使用的无障碍软件设计提供了工效学指南和规范。它涵盖了为身体、感官和认知能力最广泛的人（包括暂时残疾的人和老年人）设计无障碍软件的相关问题。ISO9241-171中的大多数规定适用于实现或有助于软件用户界面的软件的任何部分。ISO9241-171指出，除了采用以人为中心的设计方法外，提供个性化的能力也是增加人系统界面无障碍的重要工具。这使不同的用户需求、特性和能力能够通过适应和定制特定需求来满足。这可以包括响应于特定用户行为的界面和交互特性的自动识别和调整。因此，ISO9241-129在这里以及9.4中讨论了个性化。除了描述具体的实施特征外，ISO9241-129还提供了关于何时以及如何适合采用个性化的一般建议。ISO/IEC29136为个人计算机硬件的无障碍提供了要求和建议，用于规划、开发、设计和分发这些计算机。ISO9241-971提供了工效学指导，重点是确保与ICT系统的触觉交互的无障碍。这包括无障碍触觉交互设计的一般和具体指南。本文件涉及触觉模态（如手势、振动和力反馈）的模态转换和无障碍指导。ISO/TR22411没有提供设计指南，但提供了描述不同用户功能特性、能力和响应的数据集。特别是，它有大量与老年用户相关的数据。该数据可用于确定适用的值和尺寸，这些值和尺寸在考虑到特定使用环境的变化的情况下为尽可能广泛的用户进行设计时是合适的。9.6工作空间和工作负荷ISO6385、ISO9241-2和ISO10075系列为任务、工作和工作系统的设计提供了工效学原理。它们鼓励在设计过程中以平衡的方式关注人、社会和技术要求。这些标准中的系统方法有助于现有和新的情况，如RIA系统的引入。对现有或新工作系统的工效学评估将表明需要并鼓励关注这些系统中的工作负荷和工人的角色。工作系统涵盖了各种各样的工作和休闲情况，包括永久和灵活的工作场所。工作系统包括给定空间和环境中的人员和设备的组合，以及组织内这些组件之间的交互。工作系统的复杂性和特点各不相同。这些标准中规定的原则支持在任务绩效、工作负荷、人类福祉、安全和健康方面设计最佳工作条件。这包括发展现有技能和获取新技能，同时考虑到作为工作系统一部分的技术和经济效益以及人们的效率福祉。根据工作系统设计中的实际经验，应用工效学知识旨在考虑工作负荷及其测量中满足人类需求。9.7情境和环境ISO9241-11提供了一个框架，用于理解可用性的概念，并将其应用于人们体验或使用交互系统（包括RIA系统）、其他类型的系统（包括构建环境）、产品（包括工业和消费产品）和服务（包括技术和个人服务）的情况。可用性是一种可扩展的、基于任务的度量，衡量用户能够有效、高效和满意地实现目标的程度，同时考虑到使用情境。ISO9241-11解释了可用性如何根据人的绩效和满意度来解释。它强调可用性取决于使用情境（体验或使用系统、产品或服务的特定环境）。控制和控制中心展示了RIA系统的早期和广泛应用。ISO11064-1中介绍了控制中心处理用户需求的总体策略。ISO11064-2提供了控制室与其支持区域相关的设计和规划指南。ISO11064-3涵盖了控制室布局要求。ISO11064-4中规定了控制中心工作场所设计的工效学要求、建议和指南。ISO11064-5和ISO11064-6中介绍了显示和控制、人机交互和物理工作环境。ISO11064-7中阐述了评估原则。ISO为物理和热环境特性的建模、测量和评估制定了标准。随着RIA系统增加其在环境中的存在，特别是在控制动态集成环境时，个人能力、舒适性和安全性将越来越依赖于这些标准的机器应用以及对环境因素综合影响的正确解释。10为更好地应对RIA系统技术对工效学标准所带来的变化10.1概述人机交互（HCI）范式（继承自工效学）主要是基于任务的。任务由行动步骤或目标实现来定义。到目前为止，HCI专注于任务支持，例如人造产品功能的可用性。这是因为专注于行动导致专注于用工具支持行动。考虑到RIA系统，我们需要将重点从支持工具用户转移到帮助团队实现目标（团队包括单GB/Z18978.801—202X/ISO/TR9241-801:2020个或多个用户和单个或多智能体）。此外，重点不是强调完成任务，而是转移到吸引用户和塑造行为，以及塑造工作性质。以人为中心的质量（HCQ）仍然适用于作为一种测量手段。基于风险和目标的标准化方法可能比规定更有效。这符合ISO9241系列规范的方法。但经验告诉我们，它们更难解释和实施，而且它们的使用带有一定程度的不确定性，许多利益相关者对此感到不安。10.2需要的指南类型和读者群人类工效学传统上涉及用户界面及其上下文的设计和评估。工效学家开发和研究系统的操作概念，定义要执行的任务，并将这些任务分配给用户、机器或用户与机器的某种组合。控件的物理表示和布局、显示给用户的信息的内容和格式以及物理工作空间是工效学家感兴趣的，以确保用户界面的无障碍和可用性。感觉和感知、认知、学习和记忆、社会和组织互动和团队合作、人类绩效评估、工效学和生物力学是工效学家常见的知识、技能和能力的一般示例。工效学家为开发系统中的用户界面而应用的原理和技术工具箱已经演变为支持根据用户在系统将要运行的环境的工程模型的情境中提供的输入来运行的系统。自动化在这样的模型上运行，通常遵循脚本逻辑来执行用户原本必须执行的任务。工效学家需要通过应用更广泛的工具/方法，继续促进用户友好，例如社会学、人类学、社会和组织心理学、情感设计和用户体验（UX）。需要修改工效学家应用的原理和技术工具箱，以解决自主性带来的独特交互挑战。随着自动化扩展到更复杂的自主、动态、概率和非确定性行为，这些行为将更适应系统的操作需求。仅仅关注控制面板的设计和布局将不足以规定用户与系统的交互。需要以人为本的设计方法：——与RIA系统的更广泛的系统工程和设计过程相一致，并与之相联系；——能够应对系统中系统的复杂性增加，以及它们对用户的影响；——考虑对RIA系统的信任度进行适当校准，并协助用户决定何时以及在何种程度上需要越过RIA系统，并随之承担此类任务；——促进RIA系统的HF需求识别、架构、建模、设计、人在环路测试、验收过程等。ISO/TS18152和ISO9241-220中已经讨论了与工程、管理和设计以及用户需求管理的集成。凭借与其他人或团队类似的高级自主性，协作意识和团队资源管理是可应用的团队和监督指挥与控制的结构和技术的示例。同样，异常情况的管理也可以提供相关指导。与当前使用的固定模式和功能展示一样，理解特定用户群体的社会期望和社会契约中的偏见对于自主系统的开发人员在设计中考虑和控制至关重要。这可以像确保自动驾驶汽车正确使用转向灯一样简单，也可以像决定老年人的医疗水平一样复杂。人类工效学标准化——考虑与人类工效学家处理自主发展相关的问题、原则和技术，需要解决我们所知道的如何设计人与自动系统之间的有效接口，以及系统实施、团队合作和监督指挥与控制的工业和社会心理之间的中间地带。其他领域，如社会学和人类学，可以有一些原则和技术，这些原则和技术可以证明对处理自治问题的工效学家有用；计算机科学也是如此。10.3透明的交互和透明的用户为了让人和RIA系统在未来通过透明的交互协同工作，用户不仅需要了解系统的当前状态，还需要了解系统在正在进行的活动中执行的功能，还需要预测系统在给定环境/条件下的行为。同样，系统需要“了解”用户的当前状态、其在正在进行的活动中执行的功能，并预测用户在给定环境/条件下的行为。这意味着用户状态监测传感器和任务、用户目标和人类行为的模型都已内置到系统中。由于人类特征、行为、文化、经验、生理和认知状态、性格等的广泛差异，这可能是复杂的，适应并补偿机器模型中的不足导致的次优系统行为/决策。如果RIA系统设计用于学习（即修改其人类和系统模型则应注意所学内容如何（或是否）纳入系统并应用。当人发现执行任务的更高效或更高级的过程时，尤其是在团队中运作或与其他人进行互操作时，他们并不总是能够自由地改变自己执行任务的方式，例如图2。GB/Z18978.801—202X/ISO/TR9241-801:2020人图2人-智能体组队的双观察–定向–决定–行动（OOOA）环路为了优化人-机团队，重要的是，人和机器元素都朝着一个共同的目标努力，共同了解当前情况和期望的最终状态。如果没有对目标和当前情况的共同理解，人-机团队可能会变得效率低下，甚至使人与机器相互冲突。有必要开发补充的任务模型，以帮助在RIA系统中开发这些透明的人机交互。10.4RIA系统的安全问题RIA系统可能会引入新的安全问题。例如，一些在时间上对人来说太快而无法实时处理的事情，或者其他无法直接观察到的事情，例如在线活动。延迟是另一个因素，即人必须从检测到失去控制的RIA系统中接管的时间。或者，在社会层面，存在“弗兰肯斯坦问题”：当发明者（人或整个人类）没有及时对所创造的智能体承担责任时的系统性后果。防护措施是必要的，但它们应该采取什么形式，工效学起什么作用？安全集是一组基本的正常/预期人类行为，例如处于与人体物理接触边缘状态的机器人。这些可能被表述为一组安全要求（“系统应在这些情况下……这样做”）或案例。例如，自动驾驶汽车在失去控制的情况下要达到的安全条件是：停在路边，危险灯亮着。为了在线人-系统安全，例如：“做用户最常做的事”；但是，诸如机器学习无法访问的离线行为等问题可能会导致智能体（如穿戴个人防护设备）做出不同的、危险的解释。在其他情况下，被认为是合乎伦理的可能是最合适的。表2根据人-系统问题类别对安全问题进行了以人为中心的分析。表2按人-系统问题分类的安全方面私验题GB/Z18978.801—202X/ISO/TR9241-801:2020安全集与伦理/法律/法规有关。要决定一个通用集合中的内容并不容易。用户/RIA系统关系方法（如表1所示）可能会对安全行动和安全/危害结构产生影响。不同的文化可能需要不同的安全集。应在使用环境中添加安全/安全的文化结构。每个类别可能有不同的安全集，尽管类别之间会有相互关联的因果关系（例如，对机器人的态度延伸到社交）。为便于安全考虑，RIA系统的工效学标准应包括评估方法。应考虑最广泛地应用以人为中心的质量测量作为评估的基础。这包括避免伤害，这是一种以人为中心的安全和其他类型伤害（对人和来源于人）的处理方法。ISO9241-220、ISO25063和ISO25065分别包含关于HCQ、情境和用户要求的支持材料。ISO9241-220:2019，E.5，包含使用危害的示例。GB/Z18978.801—202X/ISO/TR9241-801:2020人-RIA系统的问题A.1概述被识别的人-RIA系统的问题分为6类。这些总结见第7章。本附录对其进行了更详细的描述。它提供数据用于分析，而不是结论。它描述了RIA系统的人-系统问题的不同之处，而不是相同之处。它提供了我们目前能提出的最简单的解释，指出了该类别下的新的、具体的问题。A.2RIA系统—对人的影响见7.2。社会、文化、伦理和社会问题在A.6和A.7中所述的类别中涉及。RIA系统的引入通常旨在帮助人类活动并提高任务绩效，从而提高受影响流程的可靠性、效率和生产量。它可以很容易地支持个性化，并在任务执行过程中解释和利用这种互动的情感影响。它可以帮助人完成需要高体力和脑力任务负荷、记忆力和注意力的任务。它可以改善对困难的现有人工任务需求的服务获得性。RIA系统可以让人力资源从体力上执行枯燥、肮脏或危险的任务中解放出来，这样的任务对疲劳和伤害的敏感性就会大大降低。同样，需要长时间执行的任务以及在这段时间内的一致精度也可以得益于RIA系统的熟练应用，使其对还保留的操作员的疲劳和轮班变化不太敏感。将任务转移到自主性以及增加人工操作员的监控和管理任务并不一定会减少这些操作员的任务负荷和工作量。同样，对a）系统对用户的期望（从系统到用户的反馈）和b）系统正在做什么以及为什么（状态信息）的认识可能会受到不利影响。机器目前被认为是工具。它们的设计特点可供操作员使用，以促进或实现特定的、通常受限的任务或任务集的精确、可重复性能。尽管机器可以包括根据机械设计或软件脚本精确且重复地执行同一组任务的自动系统，但通常不认为它们在执行任务期间具有高度适应性伙伴的特征。RIA系统设计了只有其他操作员或团队成员才能拥有的特性。这些特征包括机器的行动自由度大大提高，以及适应和学习如何更好地执行分配给机器的任务的强大潜力，放松了对包括智能体的机器需要如何行动来完成这些任务的限制。RIA系统可以在没有关于系统如何运行的主动用户输入的情况下进行操作，而是关注操作员表示需要完成的任务。RIA系统可以使用个性化作为界面的属性，利用社交互动来获得期望的输入和效果，以完成系统的任务。已知这些特征会影响操作员或团队成员有效执行团队所需任务的能力。向RIA系统的人工操作员分配任务的更远端、协作或监督性质可能导致系统执行任务的知识、技能和能力下降。对任务执行细节的情境意识和/或认知工作量的增加可能会减少，转而转向协作意识。由于RIA系统承担更复杂的任务，否则将需要多个人工参与者，从而推进了任何单个人工参与者所能做的事情，因此RIA系统名义上在更少人工操作员的情况下运行的能力可能会导致在系统故障的情况下，人工操作员无法恢复此类任务。如果个性化不是RIA系统设计的一个嵌入特征，拟人化可能会导致人类用户将个性化错误地归因于系统，从而导致对系统如何对交互尝试做出反应的不恰当或误导性假设。A.3人-RIA系统交互见7.3。这组问题解决了RIA特性如何改变操作员和RIA系统之间的交互形式。赋予机器智能和行动独立性的后果是人类操作员如何与机器交互以完成任务的重大转变。正如在机器引入自动控制时所了解到的那样，这种任务从人到机器的重新分配不仅导致了系统中需要如何支持人工操作员的重大变化，还导致了许多以前不存在的新出现的人工任务。RIA系统可以允许与非人类自主智能体进行新的交互模式，例如自适应对话、高级组合模式。人类行为本身可以构成与RIA系统交互的一部分，因此需要考虑使用该系统的人群的行为规范。隐式和显式的交流形式以及交互空间的功能展示是RIA系统将启用并需要考虑的交互模式的额外示例。在执行任务期间的社交接触和其他形式的物理接近可以是与RIA系统交互的特征，从而打开用户交互空间以包括个人、社会、政治和存在层面。GB/Z18978.801—202X/ISO/TR9241-801:2020RIA系统需要考虑社会规范和伦理方面的文化和社会差异，否则违反这些规范可能会导致系统对人类用户的期望混淆，用户对使用RIA系统感到不适，对系统不信任，最终拒绝该技术。在与用户的交互中不考虑社会规范的RIA系统也可能导致涉及与系统直接或间接交互的事件或事故。RIA系统对用户的社会规范的适应将要求RIA系统能够解码社会线索或个人特征并根据这种规范做出响应。如果RIA系统的行为没有以人为中心的方式设计，可能会产生刺激感、监视感、系统缺乏可控性和透明度等。对该系统的信任会降低，恢复起来会变得更加困难。考虑到自适应行为的潜力，界定RIA系统行为并揭示这些界限将变得重要。相反，使用RIA系统强制执行安全行为，即删除人类用户的选择和行为元素，可以有助于加强安全、健康和安全。RIA系统对抗人类用户的控制输入的这种能力最多可能导致用户的模糊命令权限。我们如何向用户传达他们控制的内容和系统控制的内容，特别是当这可能会动态变化或呈现独特的无障碍需求时？用户应该采用什么方法来更改和跟踪人力/RIA系统控制级别？解释RIA系统的意图可能具有挑战性。如果RIA系统没有强有力的、及时的、隐含的/明确的沟通、展示和适当的/预期的行为，用户可能无法准确地解释系统的意图和期望。解释意图的能力与信任相结合，因为解释意图的困难或无能会降低对系统的信任。同样，RIA系统可能需要能够感知和理解用户的行为如何影响任务的执行以及用户正在努力实现的目标。如果RIA系统不能正确地解释用户的意图，那么RIA系统和用户可能会有不同的目的。随着互联性的提高，这种对用户试图实现的目标的误解可能会在整个系统中传播，从而导致效率低下、性能不佳、沮丧、工作量增加等。人机团队的这些方面提出了以下潜在需求：——人对当前和未来可能的RIA系统状态和行为有适当的心理模型；——RIA系统应足够透明，以允许用户了解当前系统状态和行为；——RIA系统具有适当的人类行为和能力模型；——RIA系统具有监测人类状态和行为的手段；——人和系统同步或调整其情境意识、理解和任务目标的一种方法。A.4多个RIA系统交互-对人的影响见7.4。这涉及系统之间的协同问题，但也可以从工程角度识别出额外的用户需求。此外，用户可能会将不同RIA系统的响应视为相互关联。这种感知的互联性可能带来负面影响。例如，如果系统的某一部分功能不可靠，那么对该部分的信任丧失可能会蔓延至其他可靠的系统部分，从而影响用户对整个系统的接受或采用。典型的系统之间交互案例包括：——重症监护病房(ICU)中多个设备的报警：护士和医生需要从一个系统获取所有测量数据以解决——船舶驾驶桥的警报管理系统：包括对RIA系统之间交互的人类监控/意识；——飞机飞行管理系统与自动飞行系统之间的模式交互与转换；——相同情况下不同RIA系统的冲突行为：例如麻醉师使用的血氧计与剂量计之间的交互。RIA系统的交互可能发生在由制造商定义的协议上下文中，而这些协议不与人类用户交换信息。当允许RIA系统之间进行交互并发展其通信时，人类用户可能无法理解其交互过程，并可能产生未预料到的突发行为。同样，当RIA系统的交互发生在为两种非常不同文化设计的系统之间时，使用人类交互协议进行通信可能会导致误解或其他混乱。RIA系统到RIA系统的交互也可能要求人类用户协调交互或充当不兼容系统之间的桥梁。当多个交互RIA系统在支持或协助用户完成任务时，用户仍需对系统整体的性能负责。协作意识包括以下内容：——对综合系统的存在及其特性/能力的理解：包括能够传递系统成员活动和与任务相关状态的信——对各代理及其共享资源和产品的活动和位置的理解：即了解系统中各种操作和资源的动态；——对目标实现进度的理解：即了解RIA系统的使用在实现目标方面的进展情况。A.5RIA系统—组织的见7.5。组织可分为几种类型：GB/Z18978.801—202X/ISO/TR9241-801:2020——设计、开发和支持RIA系统生命周期的供应商组织；——获取和利用RIA系统能力以实现商业、社会或其他目标的组织；——受RIA系统部署影响的组织或人群，如员工、客户、公众、患者等。同样，与实现组织、设计方组织和用户组织相关的问题也有区别。实施组织拥有用户组织确定的特定需求的要求。设计组织负责RIA系统的表征，并支持价值链。设计组织可以根据组件的开发人员（例如，机器人、ML包）和将组件连接在一起以创建系统的集成人员来定义。用户组织为RIA系统提供支持和维护，并为用户提供培训。用户对需求的表达主要通过用户行为、购买决策、明确表达等，这些都与RIA系统相关。现有的基础设施（如监管机构）明确了社会中可以存在和不可以存在的内容，RIA系统的许可或认证，以及用户需求的监管和法律问题。这包括更高社会和基础设施级别的组织，在这些组织中，企业结合许多组织需要以某种方式进行连接，以实现和维持新的生活方式。此类问题主要涉及加强安全、风险补偿、领域/运营知识和责任/责任。将RIA系统插入工作场所与自动化面临着类似的挑战，需要进行调整，以使人类工人面临次优工作场所的风险。在系统设计的早期，需要了解责任和业务问题。例如，它们通常通过创建用于监控和故障排除的新组织功能（“机器人后清理”）来影响组织。组织结构、业务/生产/工作流程和实践将不断发展，以便在现有组织中充分利用新的RIA系统，同时确定持续改进的机会和使用组织内RIA系统生成的数据。关于生命周期HCD过程，请参见9.3。A.6社会/文化/伦理的见7.6。RIA系统将考虑其在其运营的社会中的行为的社会和伦理规范（例如行为期望、容忍、公平、同情以及违反这些规范会如何导致系统对人类用户的期望的混淆、对自主权使用的不适感，以及最终拒绝自主权。不考虑社会规范的自主会导致涉及人类与系统直接或间接互动的事件或事故。RIA系统技术正在应用于军事、工业和民用应用。技术的交叉可能是有益的（例如辅助医疗和医疗系统、安全系统），但也可能是有害的（例如在犯罪或恐怖应用中出于恶意使用民用RIA系统技术）。当自主和/或机器人系统技术应用于另一个领域时，用户所需的培训水平和行为规范可能会发生显著变化。引入非人类自主系统将：——改变现有的任务分配，产生新的和紧急的人工任务；——要求重新考虑所采取行动的权力、责任和责任；——改变人类及其相关团队和组织结构在工作场所的角色，产生更广泛的社会影响。在战争中，远程驾驶系统允许人们在舒适的家庭和家庭生活中开始和结束与战斗暴力无关的战斗。在民间社会，除非在引入RIA系统时考虑更广泛的人的问题，否则提供工作满意度的任务的自动化或重新分配可能会导致工作场所的不满、动荡以及招聘和挽留问题。工作所需技术能力的降低也会导致组织或流程对RIA系统故障或意外外部事件的恢复能力降低。RIA系统将人与任务的执行分开，增加了与行动后果的伦理距离，使得随着引入更强大的自主性，可能导致负面后果的任务更有可能被执行，例如某人拒绝向客户贷款，或因RIA系统的建议而拒绝健康保险，消除人类的自由裁量权和伦理自由。一个人对具有伦理后果的行为承担风险的意愿随着以下因素而增加：——更大的距离感知；——导致行动的任务具有更间接的性质；——更大的匿名性。对于培训RIA系统的人来说，这种现象也会存在，这就提出了一个问题，即谁的角色将反映在RIA系统未来的行为中。如果RIA系统能够在与用户交互的过程中自主学习和成长，那么这些体验也将影响系统的未来行为。用户的仁慈不能被假设。如果RIA系统没有建立和实施对基本行为的不可改变的检查，则可能导致RIA系统所处社会的同理心降低和反社会行为增加。A.7新出现的社会问题见7.7。GB/Z18978.801—202X/ISO/TR9241-801:2020在应用新的科学或技术发展期间或之后不久，问题往往会出现。这些问题通常涉及整个社会，并通过社会变革、政策、标准、法规和程序来处理。因此，尽管人因/工效学专家可以在解决RIA系统的某些问题方面发挥作用，但许多其他类型的专业人员以及普通公众将共同解决这些问题。人类工效学、HCD过程和方法、适用理论、影响范围、设计原则、测量方法和度量的界限可能需要改变，因为人类工效学的当前界限被扩展以适应RIA系统的社会方面。同样，计算机系统其他方面的现有标准可能开始与人类工效学标准重叠，特别是在分类、测试、保证、规范和系统集成方面。考虑到RIA系统的社会方面，使用环境对RIA系统尤其重要。考虑到RIA系统的非确定性/概率性，测试、保证和规范尤其会给RIA系统带来挑战。随着时间的推移改变行为的系统（例如机器学习）可能会对RIA系统的人机界面设计提出特殊挑战。如果RIA系统没有强大的隐式/显式沟通、启示和适当/预期行为，用户可能无法准确解释系统的意图。解释意图的能力与信任相结合，因为解释意图的困难或无能会降低对系统的信任。同样，如果没有来自传感器的适当反馈以及对用户正在努力实现的任务和目标的理解，RIA系统可能无法正确解释用户的意图，从而导致他们的工作目的交叉。由于具有更大的互连性，这种对用户试图实现的目标的误解可能会在整个系统中传播，从而导致效率低下/性能不佳/受挫/工作量增加等。GB/Z18978.801—202X/ISO/TR9241-801:2020RIA系统工效学问题示例/案例研究B.1概述这里提供了RIA系统工效学问题的各种示例和案例研究。其中包括一般的自动驾驶系统，以及航空和其他汽车运输系统的简要示例；工业机器人；medivac；在线支持（特别是使用IVR）和活动管理以及人员和RIA工作环境之间的冲突。此处未详细讨论但已确定的其他示例包括：信息搜索/图书馆、远距离通信、维护某物、旅行、手术、分享新闻、娱乐、护理、辅助技术（例如人工耳蜗、假肢、外骨骼、拼写/语法检查、电子地图）以及通过临时启用/脱离自动化来平衡工作量。B.2自主系统用户理解他们当前的工作空间，因为这样的空间被设计为具有用户体验所共有的展示和界面所呈现的其他隐式和显式通信，并且与任务和执行任务的环境自然地流动。工效学家设计这样的工作空间的目的是使空间对于目标用户群体来说是一致的、直观的和可预测的。人类工效学原理和技术的发展考虑到了这一点。当用户接近这样的工作空间时，用户知道他/她期望完成工作空间支持的任务。当工作空间能够自主适应时，当工作空间可以改变其状态以更有效地满足用户完成支持任务的需求时，会发生什么？当以前的自主工作区降级，为用户提供的帮助减少，支持减少时会发生什么？问题从开发和加强用户对一致工作空间的意识（即用户确切知道在任何给定时刻所期望的工作空间）转变为开发和保持用户对动态环境中当前对他们的期望的意识。模式混淆是当系统自动改变其状态和改变这些状态的逻辑时可能发生的不利影响的一个例子。在设计过程和随后的用户培训中，支持构建和维护用户对自动化正在做什么的意识需要花费大量时间。即使有了好的设计，用户有时也必须花费相当大的精力来构建和保持对自主性将做什么以及用户需要做什么的意识。当系统响应刺激而改变其行为时，用户对系统改变的情境感知以及对用户对未来行为的预测的影响可能会带来额外的挑战。现有的自动系统在其后端具有基于规则的算法，该算法可以导致系统变化，但用户仍然可以理解。而体现了强大AI（一种学习自己规则的算法）等功能的系统可能会导致根本无法理解的系统变化（例如，GoPlay，系统提出了最佳解决方案，但没有人知道原因）。自主系统中的第二种控制可能导致模式混淆和不透明的更强烈的影响。监控自主系统的重大感知和认知负担，以及当用户依赖自主而没有实践自主所执行的任务所需的知识、技能和能力时，用户的技能退化，都是涉及将自主引入工作空间的不利影响的额外示例。在这些例子中，压力和疲劳加重了用户的负担，因为自主系统的操作可能需要更多的注意力、决策和记忆。同样，依靠用户作为故障保护器，当自主性失效时，将全部操作责任推卸给用户，这将对涉及复杂、安全关键、可能高速操作的任务的控制和信息显示带来相当大的挑战。例如，在航空领域有很多例子，自动飞行系统中的故障模式涉及飞机的部分或全部手动控制，从而导致事故和事故。在航空中，自动驾驶系统中的自动模式转换不那么极端，当然也更常见，因为自动驾驶系统需要飞行员不同的手动控制责任，这也导致了事故和事故统计。考虑到飞行员的高度训练和反复训练，模式混乱的发生率以及每个飞行员无法及时完全控制飞机的行为令人担忧。在不需要如此严格培训要求的领域，逆转和模式转换意识对事件和事故的发生率和严重程度有何影响？在设计动态系统时，时间维度至关重要，其中不可预测或过度的时间压力是主要因素。目前存在的例子是操作员启用和解除自动化以临时平衡工作量。更普遍的情况是适应自动化的使用。新兴的自动驾驶汽车技术已经提供了自动驾驶失败的例子，将手动操作恢复到驾驶员手中，而驾驶员尚未准备好完全控制汽车。随着自主性所代表的更高级功能，恢复可能需要对基本信息的处理水平进行补偿，并对单个独立用户无法在可用时间内执行的选项进行评估。对于自主系统的设计者来说，这些和许多其他挑战的指导原则和解决方案可能会扩展工效学家通常用来开发系统中用户界面的工具箱。社会心理学、组织和工业心理学以及人类学是研究领域的例子，这些领域可能提供工具和技术，工效学家将发现这些工具和技术在研究和设计跨文化不同人群使用的RIA系统时非常有用。GB/Z18978.801—202X/ISO/TR9241-801:2020B.3汽车应用如A.2所示，系统应清楚地显示其处于何种模式，以及系统是否处于“活动”状态。当自动化系统启动时，海上钻井中发生了许多严重的伤害，因为它们可以在没有明显标志的情况下供电，然后突然移动。电源指示在控制室，但不在设备上。考虑到自动驾驶汽车，其他道路使用者是否应该知道汽车是处于自动驾驶模式还是处于驾驶员控制之下？关于沟通意图，人们善于解释他人正在做的事情，特别是来自他们自己的文化，但对于来自不同文化的人或承担人们通常执行的任务的非人类智能体来说，这一点并不好。任何有风险的人都应能够停止RIA系统。或者，如果这不可行或不合适，则应明确地向控制器发出指示。例如，如果飞行员遇到一架无人机，他们应该能够像预测另一架有人驾驶飞机一样预测其行为。如果无人机存在风险，可以实时呼叫无人机驾驶员，这是一个适当的考虑因素。航空业的另一个例子是，飞行员如何使用铁路线飞行，并按照某些国家的标准做法，将铁路线保持在左侧，这样就不会与从另一个方向过来的人发生正面碰撞。无人机通常被编程为直接飞越生产线，这可能会降低安全边际。关于控制和监测问题，我们如何决定哪些系统需要监测，哪些系统不需要监测，而哪些系统需要快速的人为干预？如果是驾驶自动驾驶汽车的人，他们是否有能力驾驶或处于健康状态，以便在紧急情况下驾驶车辆避开危险，还是因为他们在系统或法律职责中没有角色而不需要这样做？如果需要监控，例如，一个中央监管机构监管多个单位，那么对于驾驶和监控系统的人员，在情境意识和干预时间方面的要求是什么？这是一项合理的任务吗，还是由于高度集中和长时间无所事事而过于困难？在2018年发生的一起致命的自动驾驶撞车事故（Uber）中，监控司机不是一名年轻的警觉的技术人员，而是一名康复的前罪犯，有已知的药物滥用问题。驾驶员完全控制车辆所需的控制装置被禁用，从而否定了监控驾驶员必须对车辆进行积极控制以避免致命碰撞的能力。这意味着，如果某些用户能够执行监控作业，那么他们可能很难执行这些作业，而且干预时间很短。在撰写本文时，Uber的这起致命撞车事件尚未得到全面调查，但它引发了另一个问题。传感器制造商已经宣布，他们的传感器会检测到被杀害的人，因此他们指责那些定义危险参数的程序员识别了汽车前面的人。但被撞者的行为出人意料，在路上推着一辆装满塑料袋的自行车，从系统程序员的角度来看，造成了一个“意外”的形象。很有意思的是，程序员们对无家可归的人几乎没有经验，他们总是骑着自行车到处乱扔自己的物品，因此没有在“可忽略的安全”规则集中添加适当的规则。这里提出的问题是，决策规划中需要什么样的生活经验或多样性，以确保涵盖所有现实世界的危险？是否有一种通用的控制模式可以应用于自动或自主系统，以安全地绕过未识别或其他不寻常的威胁（例如，来自航空的“飞行、导航、通信”一个系统在某种程度上继续依赖人工操作员，特别是当系统遇到不知道如何处理的情况时，这就引出了一个问题，即人工主管或监控人员如何知道什么时候发生了故障或即将发生故障？RIA系统将在人们附近运行，它应该对环境有更深入的了解，尤其是产品周围和产品周围的人类行为。如何定义安全操作和不安全操作之间的界限？识别和应对行为的时间范围是什么？自动驾驶汽车目前有大量的书面排除清单，由于情境的原因，有很多“陷阱”。航空是当今可以轻易实现的，但具有高度自动飞行能力的飞机的操作需要高水平的投资和培训，以安全地适应这种能力。也许需要更清楚地解释设备的功能。什么是“当其他一切都失败时”的基本任务？设计师知道基本任务是什么吗？这是否扩展到编程/参数化？这可以是一个基本的设置吗？蜥蜴的大脑功能是什么？这里的一个例子是割草机：“不要碾过草地上的东西”如果一个系统学习并发展了专业知识，如何知道它达到了什么水平？关于梅赛德斯驾驶员辅助系统，变速器学习驾驶员风格。如果更换了变速器，则新系统是幼稚的，驾驶员会被指示让系统重新学习。这将如何适用于更复杂的系统，以便我们知道该系统现在是专家，并理解这意味着什么，例如，它可以在过去需要控制输入的情况下自主行动？RIA系统所拥有的最高级别的权力应向各方明确。自动驾驶汽车的决策算法设计中出现了一些新问题。目前正在进行有关如何在崩溃中确定优先级的研究。例如，车辆是否应始终保护驾驶员，因为他们是客户，即使这意味着要撞上一群行人或骑自行车的人？如果共识是否定的，那么正在销售的产品可以决定采取可能杀死其所有者的行动。显然，今天所有车辆都是如此，但致命的决定是由驾驶员而不是产品做出的。人们担心会出现一个黑市，富人会非法重新绘制碰撞算法或其他保护措施，从而不惜一切代GB/Z18978.801—202X/ISO/TR9241-801:2020价为自己谋取利益。鉴于已经有一个非法的重新测绘行业来规避排放控制，这可以被视为一个真正的风B.4工业机器人在制造环境中，工作空间设计以前没有太多考虑用户和机器人/自主系统之间的直接交互。安全法律和法规要求通过物理屏障和围栏将传统高速、高负载工业机器人完全隔离。这种严格的执行是必要的，因为仅仅依靠人类的监测和意识来减轻风险是不够的。各种防护措施（基于传感器的速度和分离、手引导模式、功率和力限制）现在提供了安全的工业人机协作/共存（如ISO10218-1和ISO/TS15066所示）。由于集成和机器人过程自动化（RPA）可以极大地提高业务绩效，这使得小型和大型车间机器人和自主系统的水平显著提高。然而，无论采取何种保护措施，这种更紧密的界面都会影响工作任务本身的设计。随着用户与机器人/自主系统之间的直接交互变得越来越普遍，这将不可避免地带来更大的人类认知需求和对自主模式的认知需求。工作任务的属性，如决策自由度、技能自由度、时间和用户在任务中的方法控制，可以直接受到更密切的人机交互的影响。尽管以前的工作人员与执行基本任务的隔离系统没有紧密的联系和直接的互动，但车间的操作员现在正在与执行更复杂任务的系统协作。他们必须准确地解释系统正在做什么，预测下一步要做什么，并决定他或她可能需要采取什么行动。此外，当环境包括多个系统和运营商，具有不同程度的自主性和移动性，需要协作意识状态变化时，这些需求将显著加剧。培训和经验将有助于操作员开发新技能，以执行其工作任务，但这些系统的设计和集成应考虑认知工效学、心理健康和安全，而不仅仅是当前的技术/功能安全和业务绩效。B.5急救人员处理伤员并将其送往医院这个理论示例考虑了受伤公众的第一响应者治疗以及他们随后的医院交通。在本例中，所考虑的RIA系统的用户是提供服务的组织。然而，还有其他潜在用户，如患者、管理护理或将患者运送至医院的人员以及相关系统的维护人员。考虑到这些不同的用户，可以给出系统及其影响、风险和机会的不同观点。在本例中，有几个阶段涉及到对受伤公众的响应，每个阶段都有不同类型的RIA系统支持。该理论示例中的这些阶段是：——将第一响应者分配给受伤人员；——初步诊断；——伤员的初步稳定和治疗；——将患者送往医院；——将伤员移交给医院人员并继续治疗。在本例中，并非所有这些阶段都得到了详细考虑，但它旨在强调可以考虑的潜在人因的范围。过去——在街上发现伤员时，公众会找到最近的公共电话，并致电当地紧急控制中心，口头提供伤员位置信息，然后再返回伤员。控制中心呼叫离伤员最近的救护站，并将信息传递给救护站控制器，后者将信息传递到救护站的救护人员。救护车由一辆装有担架的货车组成，车上有一名司机和一名急救技术人员。如果需要，救护人员使用当地知识和纸质地图导航到患者。到达现场后，进行基本急救，将伤员送往医院，并将所提供的治疗记录和获得的有关伤员的任何其他信息记录在纸质记录表上。到达医院后，一名搬运工将伤员从救护车上卸下，并将其与纸质患者记录一起带到急诊室，将其传递给医院医疗团队。从最近的过去到现在——在街上发现伤者时，一名公众使用手机拨打紧急电话。呼叫会根据呼叫者的位置自动路由到区域控制中心。呼叫者的位置被提供给紧急呼叫处理者，该处理者从呼叫者收集信息，以用关于患者及其状况的信息填充预先准备的基于计算机的对话。呼叫处理程序识别离伤员最近的可用救护车，这些救护车分布在整个区域的预定位置，并口头传递有关伤员位置和状况的信息。救护车由一辆专业车辆组成，其中包含一系列用于诊断和治疗的独立设备，由训练有素的急救技术人员和训练有素的护理人员组成。救护人员将伤员位置输入卫星导航系统，该系统为伤员提供建议路线。当救护车在途中时，呼叫者可以与呼叫处理人员保持联系，呼叫处理人员根据急救培训课程为伤员提供基本治疗建议。到达现场后，护理人员使用诊断设备决定提供何种治疗。护理人员决定伤员在哪一点处于足够稳定的状态，以便将其转移并运送至医院，在这一点上，他们被装载到救护车