2025A2M大会：人机共协-AI时代ToB产品设计实践

人机共协—AI时代ToB产品设计实践《B端产品设计精髓》作者之一；深耕B端12年，先后负责数据&智能中台、人力、协同、EPM等产品线及其他业务线赋能工作及关键项目的推进；（如财务费控、供应链、采购、U8C等）负责人力云产品入选2021Gartner全球推荐；带领团队先后多次获得集团产品重大创新二、三等奖、UXPA好体验最佳AI应用奖等；曾在UXPA、HiPM、AIDD、蚂蚁金服、阿里云栖闭门会议、北京部分高校分享交流；现负责AI入口及相关智能设计；中国500强企业中国500强企业中国制造业500强中国制造业500强80%证券公司中国零售业500强中国零售业500强国内千万级旅客吞吐量机场国内千万级旅客吞吐量机场国内主要港口企业国内主要港口企业中国农林牧渔上市企业中国农林牧渔上市企业中国医疗卫生领域中国医疗卫生领域国内大中型能源企业国内大中型能源企业80%广播电信企业建筑央企及地方国资系建筑企业建筑央企及地方国资系建筑企业\vMobilPart01-带来了什么？Part01-带来的冲击和挑战Part01-当AI成为基础设施不同于自动化浪潮下，机器人对蓝领的替代，AI不同于自动化浪潮下，机器人对蓝领的替代，AI时代，受AI影响最大的是一些初级专业人士和技术人员，即部分白领的工作具有创造力，深度思考、探索能力的人，将享受AI带来的效率优势麦肯锡《生成式人工智能和美国工作的未来》报告提出，2030年美国工资最低的岗位将减少110万个，但工资最高的岗位可能增加380万个智能要素的重要性提高、附加值提高，推动社会资源向头部汇聚生产效率提升并不代表着购买力的提升，普通民众收入有限，社会供需失衡再分配方式调整：向大企业征收增值税，向民众发放补贴，世界币计划等AIAI成为基础设施一些基础工作被代替Part01-构建传统的意图与流程，人力的多少决定了智能的程度2015年的时候推进流程自动化，试图利用“规则意图”的工具“去穷尽当时的智能”现在是让机器学习知识而非人力堆砌语料和规则传统：手动维护语料库内容，统一问题需要多种到2027年，80%的中国企业将使用多模型生成式人工智能策略来实现多样化的模型功能、满足企业要求并获得成本效益。—到2027年，80%的中国企业将使用多模型生成式人工智能策略来实现多样化的模型功能、满足企业要求并获得成本效益。—Gartner预测到2026年，将有50%的中国500强数据团队使用AIAgent来实现数据准备和分析。—IDC预测到2026年，超过80%的企业将使用生成式Ai的API或模型，或在生产环境中部署支持生成式AI的应用。到2027年，50%的业务决策将通过用于决策智能的AI智能体得到增强或实现自动化。—Gartner预测「业务场景」是发挥大模型的重要战场接下来的时间我们将一起探讨产品设计的革命效率工具的融合实践基于AI的体验启示与反思在产品与体验实施中的挑战与反思从传统SaaS到AI原生设计的根本转变，探在产品与体验实施中的挑战与反思从传统SaaS到AI原生设计的根本转变，探索TOB产品设计的变革性变化与独特挑战范式转移：TOB产品设计的革命Part01-信息技术是当代最具代表的对商业和企业服务的的影响和改变也最大人力与自然斗争史人力对自然的加工史服务交付（信息、人、数据）技术聚合（AI、云计算、大数据、社交…）*结果、效益作为交付对象*粗犷“数智”化时代（信息）+人口老龄化…“数智”化时代（信息）+人口老龄化…3.0-工业互联/物联网社会级-商业创新，跨界：智能化生产、社会化资源高效利用丹尼尔·贝尔《后工业社会的来临》（3.0-工业互联/物联网社会级-商业创新，跨界：智能化生产、社会化资源高效利用2.0-互联网（C/SB/S）企业级-全面效率提升：提升效率，降低成本人-物-设备-信息互联数字化/智能化工厂智能排程与调度社会化协同企业级-全面效率提升：提升效率，降低成本人-物-设备-信息互联数字化/智能化工厂智能排程与调度社会化协同大数据分析大模型智能化设计制造的统一网络化协同制造部门级-局部效率提升：设计制造的统一网络化协同制造精细化管理全球统一管控平台结绳记事、纸质全球统一管控平台结绳记事、纸质…2020-2022年“智能要素在产品中的占比也是财务管理财务管理2023-至今“为客户交付多少结果、创造价值、提效的多少是衡量AI产品的重要维度”精细&结果&预测—基于内部资料，几年前的预测命令行终端图形化界面命令行终端图形化界面GUI、鼠标键盘交互动态HTML+CSS、鼠标键盘交互移动+Web自然语言交互、AR/VR界面、脑机接口如智能构建器、智能公文、智能招聘等业务如智能构建器、智能公文、智能招聘等业务如日程、会议纪要、邮件总结等，这是用户最直接能体验付费意愿与场景价值•数据分析与决策•重复性劳动自动化、半自动化•生产、排产与供应链优化•客户营销、定位•财务合规与风险到卖协作到卖协作卖最终成果这一转变将重塑TOB产品设计的核心逻辑：不再关注功能有多强大，而是关注能为客户创造多少可量化的业务价值。——融合红杉资本2025年AI峰会闭门会Part01-企业级产品最终还是为了商业成功，底层逻辑没有变化降本增效、精准运营、风险管控企业应用AI的目标也很明确-用友人机共协：人、AI模型、效率工具的融合实践Part01-企业级产品的变化2050ANDBEYONDANDBEYOND是否能成为“企业生存的必备条件”y技术颠覆者能力赋能者创新促进者业ERP系统正在从僵化的基础设施转变为动态智能，重新定义工作场所——赋予—SAP管理工具的设计会管理的AI与企业用户协作\甚至自主管理工具的设计人效率工具AI模型人效率工具AI模型•Part02-在不被破坏现有产品形态上我们如何做创新助手式在具体应用场景中，智友VPA与业务界面共同帮助用户完成业务目标嵌入式助手式在具体应用场景中，智友VPA与业务界面共同帮助用户完成业务目标嵌入式在业务界面中调用AI工具，辅助完成相关任务沉浸式通过对话连接不同应用和数据，完成用户所需业务目标，输出用户满意的结果2021—2024，2025我们重新构建了智能范式（后面有讲到）Part02-企业级产品进程与趋势Part02-产品向着智能辅助系统转变传统单据单据类XXX单单据+自然语言交互（Copilot）Gartner决策智能模型智能决策都可以分为5个阶段，而明智的决策拥有相同的关键特征人力/机器学习基于原则和道德、经验和便宜、逻辑和推理、情感、技能和风格（单据、委托、合作），由人做出的决增强的形式众多。机器建议：人力决策。人类建议：机器决策。人类和机器共同决策。各有各的好处。人力/机器学习基于原则和道德、经验和便宜、逻辑和推理、情感、技能和风格（单据、委托、合作），由人做出的决增强的形式众多。机器建议：人力决策。人类建议：机器决策。人类和机器共同决策。各有各的好处。机器使用人工智能生成建议，并可提供诊断行分析供人类验证和机器为人类决策者提供可视化、探索、警报和其他支持反馈&异常处理进行风险管理，例如，护栏或异常情况下人机回圈。使用预测、预报、模拟、规则、优化或其他人工智能，由机器自主决策。决策组成传统决策中的次优选择个人偏好很重要政治因素比数据更重要决策理由难以追踪决策的过程可能是为了做出决策者前期隐含的决定价值驱动型决策的严谨性使用决策组件和透明的流程推动可信、透明、数据驱动的包容性决策仍然包含了人类因素Part02-AI信任、风向和安全管理Part02-智能体的爆发Workday、Salesfor描述通过自然语言与人们互动对话，往往是特定任务、基于规则或由人工智能驱动，能力范围有限与人类写作以提供建议和定制化推荐的协作式人工智能系统帮助自动化特定任务并提供相关信息的交互式系统。可个性化且具备情景感知能力自主运行的系统，独立做出决策和执行操作。可在后台运行，并结合实时数据。自主成程度低：预定义规则和有限的人工智能逻辑中等：执行任务需要一些用户输入中等：提供智能协助，可作出推荐，但仍需用户输入。高：在最少的人类监督下独立运行示例回答密码、政策等帮助起草、备忘、总结、生成想法回答有关工资单、全球福利和休假请求问题人力资源系统助力寻找候选人、自动化外联并推荐顶级人才的招聘代理/en-us/ai-agents-enterprise-how-will-they-change-way-we-work.htmlPart02-范式转移：ToB产品设计聚焦单一元素的智能化，为独立元素注入AI能力（智能表单字段、图像自动标注）自动化多步骤流程，优化线性任务链（智能审批流、客服工单自动分配）封装完整功能模块，实现特定用户目标（智能搜索建议、文档自动摘驱动整个应用的核心逻辑、构建端到端解决方案（智能设计工具）作为基础能力赋能所有功能，全面渗透现有系统（云平台级AI服务）连接异构系统实现数据/服务流通，跨系统协同网络（智慧城市AI中枢、工业物联网平台）来自：GenerativeAIUXDesignPatterns作者：KarlMochelPart02-早期快速商业验证软硬件智能系统（2015年）Part02-范式转移：构建AI入口AI将发现新的知识AI将进入物理世界创造价值AI将发现新的知识AI将进入物理世界创造价值AI代理开始工作了系统分配权。（智能入口优先跑出来了可能是—VeraLiao.informingDesignPracticesforExplainableAIUserExperiences.IBMReserach•从“功能交付”到“认知对齐”智能体实践的设计核心是弥合心理模型鸿沟Part-03可解释、清晰明确指引高效决策解释即探索对解释即探索对XAI系统的信任本质上探索性的。主动探索信任关系不应最求单—稳定状态或脱离语境的量化指标，而需维持动态适应的预期水平。具体包括：5个领域端到端案例1、验证计算机陈述的可信依据2、帮助用户识别机器建议的不可靠情景（即使表面可信也应拒绝遵循）3、评估可能影响积极结果概率的情景不确定性4、识别并缓解非理性信任与非理性不信任5、发现预警指标以规避过度依赖或盲目拒绝建议的风险（尤其在时间紧迫或信息混乱时）6、理解系统在正常运行但特定参数变异下仍不可信的情景(!谨慎用户可能通过优质解释建立合理信任，但后续使用中若遭遇自动化意外（如深度神经网络犯下人类不会犯的错误），可能迅速转为非理性不信任。随后系统提供额外解释后，用户可能重新评估其表现，最终达到适度信任区间）—Arya,V.etal.AIExplainability360:ImpactandDesign.IBMResearch.—JanetH.HSIAO.etal.RoadmapofdesigningCognitiveMetricsforExplainableArtificialIntelligence(XAI)—SuqingWu.etal.Human-generativeAIcollaborationenhancestaskperformancebutundermineshuman’sintrinsic.Nautre—RobertR.Hoffmanet.al.MetricsforExplainableAI:ChallengesandProspects.InstituteforHumanandMachineCognition）：视觉：AR标注+热力图（图像识别场景），必要时采用仅在系统检测到用户困惑（如长时间凝视AI输出）或高风）：需要针对不同语言文化、专业背景、工作经验、性别的人输出内容进1.长句拆分：将原文复合长句按中文2.概念显化：将"operationaldefinition 确定性指标 确定性指标对比解释Why-Not4.学术规范：保留文献引用格式"Hoffman,2010“未选A因过敏”决策修正率提升63%“如拥堵减少20分钟”用户理解率90%“未选A因过敏”决策修正率提升63%“如拥堵减少20分钟”用户理解率90%置信度85%专家信任度提升40%6.被动语态转换：将英文被动式转换为中—Arya,V.etal.AIExplainability360:ImpactandDesign.IBMResearch.—JanetH.HSIAO.etal.RoadmapofdesigningCognitiveMetricsforExplainableArtificialIntelligence(XAI)—SuqingWu.etal.Human-generativeAIcollaborationenhancestaskperformancebutundermineshuman’sintrinsic.Nautre—RobertR.Hoffmanet.al.MetricsforExplainableAI:ChallengesandProspects.InstituteforHumanandMachineCognition—XuhaiXU.etal.XAIR:AFrameworkofExplainableAIinAugmentedReality.META用户对AI的信任是技术可信度与主观感知的复杂互动结果AI可信度需要满足准确性、可靠性、鲁棒性、客观性、安全性、可解释性、安全性、问责性和隐私等技术特性。然而，用户信任不仅取决于客观特性，更依赖于用户对这些特性的主观感知。（个性、文化、年龄、性别、技术经验、AI使用经验等都会影响会用户对AI系统的初始信任）•角色生成：模拟不同背景用户角色（职业/认•角色生成：模拟不同背景用户角色（职业/认•任务协同测试：多角色协作完成•量化分析验证：任务成功率/时延/错误率统计→迭代优•传统方法融合：专家走查+用户观察法补充••分工合理性（人为中心、共生、AI主导）••人机协作双重效应性能提升与内在动机削弱的复杂关系，需要AgentUX测量Agent-as人机协作双重效应性能提升与内在动机削弱的复杂关系，需要AgentUX测量使用智能代理系统评估智能代理系统，实现自动化规—MingchenZhugeetal.Agent-as-a-Judge:EvaluateAgentswithAgents.Meta—YuxuanLu+etal.UXAgent:ASystemforSimulatingUsabilityTestingofWebDesignwithLLMAgents.—SerinaChangetal.ChatBench:FromStaticBenchmarkstoHuman-AIEvaluation.MicrosoftResearch—AndrewAndersonetal.(MeasuringUserExperienceInclusivityinHuman-AIInteractionviaFiveUserProblem-SolvingStyles—SUNYOUNGPARK.Etal.DesigningandEvaluatingUserExperienceofanAI-BasedDefenseSystem—GeorgeFragiadakisetal.EVALUATINGHUMAN-AICOLLABORATION:AREVIEWANDMETHODOLOGICALFRAMEWORK—GaganBansaletal.ChallengesinHuman-AgentCommunication.Microsoft—Harisubramonyametal.Content-CentricPrototypingofGenerativeAIApplications:EmergingApproachesandChallengesinCollaborativeSoftwareTeams.Stanford&GooglePart-03AI产品设计阶段体验指导原则场景过程可溯决策可调结果可释1、用户可以全局控制2、随时终止服务3、系统离开智能依然可正常运行4、确保模型可解释，避免解释过长，使用置信度而非白百分比提升置信度水平5、具有渐进式的解释（局部or全局）6、加快获得AI结果的时间7、AI与用户协同工作8、动态分配任何和功能……After：1、记住用户最近的交互行为2、从用户行为中学习3、谨慎更新和调整4、鼓励细颗粒度的反馈5、传递用户行为的结果6、提供全局控制7、和用户高频沟通8、避免产生过度依赖，让用户提高对AI结果的警惕9、测试和监测用户危害……1、支持高效调用2、支持高效关闭3、支持高效校正4、目标不明确事审视服务5、明确系统为什么样这么做6、尽量较少人工检查和代价高昂的错误产生的成本7、帮助用户理解和处理无法理解和错误的输出……阶段一：1、匹配相关的社会准则2、减少社会偏见3、注意数据中存在的偏见等相关问题4、降低模型治理的风险和成本5、建立对AI的信任，提高透明度和可追溯性……Before：1、明确职能系统可以带来什么价值2、明确智能系统可以做到何种程度3、不用AI行不行4、确定AI角色……1、具体场景和时间提供服务2、显示场景相关信息及3、有个性化推荐避免冷启动4、目标不明确时审视服务内容5、明确系统为什么这样做6、避免偏激去掉GUI……让用户有掌控感并尊重他们的价值观、目标和社会准则，避免让用户对AI产生过度依赖，让用户对AI结果保持警惕。AI失效时系统仍可正常运行……—Microsoft、SAP、IBM、yonyou…Part03-基于AI的体验启示、对设计师的挑战（Late1980S~2007）（~2007-~2015）优化人工智能行为·智能系统表现出不断进化的行为·智能可以自主处理中不可预测的场景·AI机器行为会导致有偏差的输出，不定性和不可预测性会影响用户体验·优化提升机器学习，减少算法偏差·支持人类有经验的人员进行可控管理·防止用户过度信任AI·提高用户对一场场景的监控和处理能力·利用用户参与、迭代原型、UX测试等优化算法训练和测试·收集用户反馈，优化AI系统……可解释的人工智能·AI“黑盒效应”会导致AI系统输出的不可解释性·人工智能可解释性对用户信任和体验有较大影响·以用户为中心的可解释·具备渐进式解释能力·AI设计的解释可以追溯验证·可解释透明的UI可视化设计·可解释AI的模型·心理学解释理论为基础方法人类和智能体相互协作·在人类和人工智能之间建立信任、心智模型、情境感知、决策和可控性·结合人类和机器的能力最大化的提升系统能力与用户体验·人机协作带来了一种全新的用户体验·基于协作的认知用户界面·人与机器动态分配任务、功能·感知、理解和预测人类与人工