版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领
文档简介
Sumsub数字信任现状:AI治理基准报告亚太地区各组织AI自主性、问责性与可追溯性评估指南前言03AI采用趋势05研究方法08问责不对称12其他观察发现19分行业解读28分市场解读34监管锚点概览42未来展望44AI治理准备度检查清单47Sumsub如何提供帮助50未经注明来源为Sumsu©SumadSusaced(UK2026年SumsubAI治理基准报告前言SumsubSumsubSumsub过去几年,我们大多数人都在关注AI的一个核心问题:AII代AII过去仅于起草资录或这就跨业务的多个步表现得如同企业运营中的参与动的软件。越多地与企决策的世界进行互动与交易。I?责任归属一目了然次决策AISumsub 前言Sumsub亚太区数字信任状AI subSumsub应用于数据分析、运营和客户服务等分析AII广近四分之I应用于数据分析、运营和客户服务等分析AII广情况下完成多个步骤的任务。之三的企业将其用于欺诈检测。AI,数行AI入执情况下完成多个步骤的任务。之三的企业将其用于欺诈检测。AI在组织中扮演的角色经批准后执行处理部分决策或行动,但在关键步骤或审批环节需要人工参与 51%自主智能体建议支持21%自动化保留对结果的人工审批支持与建议仅在例外情况或监督环节需要人工参与24%4%制下自主运行
(51%),要么在基于例外情况的监督机当前亟待解决的问题是,如何治理这些替我们做事的决2动AI当前亟待解决的问题是,如何治理这些替我们做事的决2动AIISumsubAI治理基准报告研究方法SumsubSumsubSumsub第9页
SumsubAI治理基准报告Bkec,Ssb域的嘉70级专时三202646表示其治理水平越成熟。各,表示其治理水平越成熟。自主性AI在组织内部自主运行的程度 问责性自主性AI在组织内部自主运行的程度问责性组织对AI行为的责任归属与回应机制的明确程度可追溯性组织是否能够还原、解释并审计其AI的行为AI是否能够在有限人工介入下执行多步骤任务AIAI是否能够在有限人工介入下执行多步骤任务AI所承担的最高级别角色AI执行动作时所需的人工参与程度自主智能体角色的覆盖范围AI自主性的发展趋势AIAI出错时由谁承担责任现有的治理管控措施智能体采取行动前所需的审批级别追踪和解释AI决策的信心程度支持可追溯性的现有能力仍存在的差距和障碍对未弥合这些差距所带来风险的认知Sumsub
研究方法受访者概况:企业规模样本量720名受访者
60%大型企业
: 40%中小企业与初创企业覆盖市场中国香港
职位层级印度马来西亚新加坡泰国
%涉及领域金融服务业 IT与软件服务业
出行与配送平台)
)
平台)
第10第10页 Sumsub亚太地区数字信任现状AI治理基准报Sumsub
26%
25%
25%第11页 Sumsub亚太地区数字信任现状AI治理基准报告本研究还根据治理评分将组织划分为三个成熟度等级:图表图表27550发展中上是自愿性和被动应的。AI几乎没有能力审计或重建系统 尚标准化理基进阶已有AI, 署前已明确指定结果的责任人,领先与自主性保持同步。在理所做的工作。围。责任归属界定模糊。 但 建具体案例或建立防篡改追提供清晰的审计追踪Sumsub
研究方法Sumsub亚太区数字信任状AI subSumsub在各行业及市场中,可追溯性的成熟度均低于自主性和问责性。亚太地区组织在AI整体治理方面的平均得分为1分满分100关注的规律。自主性和问责性得分均接近分。我们将这一差距称为“问责不对称”:即组织对其AI决策承担责任的程度,与其证明这些决策具体内容的能力之间的差距。自主性会放大这一问题:当监管机构、股东或客户要求组织说明发生了什么时,已承担但无法还原或审计的责任,便会转化为无法量化的风险。图表图表3AI治理评分61.0自主性责任性可追溯性总体这个差距,归根结底是证据的问题自主性正在跑赢管控一种直观的理解方式
亚太地区各组织正在加强对AI驱动结果的责任承担能95%的受访者表AI50%的受访者能够还原决策路径,仅有38%的受访者具备防篡改审计轨迹。真正的挑战在于,当监管机构、股东或客户进一步亚太地区已进入高自主性阶段,系统正在以远超直接人工监督能力的速度和规模执行决策。可追溯性未能同步加剧了合规、运营和客户信任方面的风险暴露。自主性就像油门,问责性就像坚持自己掌握控制权的驾驶员,而可追溯性则是方向盘。当前,亚太地区企业正在踩下油门,手里却没有方向盘。许多企业正在扩大AI的应用范围,许多企业愿意为AI的决策承担责任,但仍有许多企业无法追溯AI的行为,也无法在事后对其进行纠正。自主性在这里起到了放大作用。当AI以任何团队都无法手动跟踪的速度和体量做出决策时,AI实际做了什么与AI已经执行了数千项无人能够说明责任归属的行动。MickAmelishkoSumsub
AI况下可让组织能够在“账单”免了成本,只是把成取的行动 那不是让组织能够在“账单”免了成本,只是把成取的行动 那不是第第15页 Sumsub亚太地区数字信任现状AI治理基准报Sumsub问责不对称自主性光谱
范围范围入的情况下可以向右少任务就越薄示问责不维度助手副驾驶智能体自主性:需要多少人工交互?低自主性中等自主性处于人工监督之下高自主性行任初始目标后可自中间执行步骤任务范围:AI在单次交互中能的任务复杂程度窄范围根据提示执行具体任务中等范围在监督下执行多步骤任务宽范围协理完作/;)交互方式:AI按需响应一次提示,一次动作(回复)持续协作流程并持供建议。常成于工作环境最小化交互行任行报结在后台执必要时发起询问主动性:AI动或调整其行动无主动性议动或提出建半主动在够预测需程中的情用户出下一步建议完全主动整划和行数据图表4:当AI代表组织行动时,组织最担忧的问题受访者可对此问题选择多个答案。错误或不可靠的决策
52%监管或合规风险数据质量或输入问题可解释性欺诈或滥用声誉损害无重大担忧 5%
33%31%31%31%
44%43%(44%)同样位居其中。作为最受媒体关注的数据质量或输入问题(43%)、缺乏透明度或可解释性31%。是否中、)这些都是可靠性与证据层面的问题,而监管I(44%)同样位居其中。作为最受媒体关注的数据质量或输入问题(43%)、缺乏透明度或可解释性31%。5I主要5SumsubAI治理基准报告其他观察发现SumsubSumsubSumsubAI首先在风险较低的领域迈向智能体化。自主智能体最先应用于运营、客户服务和内部分析领域。支付、合规和反洗钱(AML)领域的应用均相对滞后,因为这些领域一旦出错,代价最高。在采用新流程方面,组织表现出更高的谨慎性。图5:AI承担自主智能体角色的应用领域图5:AI承担自主智能体角色的应用领域本题为多选运营与工作流程处理68%客户服务与支持63%内部决策与分析53%软件与工程工作流程42%欺诈检测、AML与39%合规与案例审查35%支付与金融交易20%暂无,无自主1%应用场景AML和风险监控看似是智能体的天然应用场景(模式分析、规则执行、任务分流、移交至下一处理步骤,但仅有39%的受访者表示在这些领域部署了自主智能体角色,合规与案例方面更是只有35%AIHollyFang新加坡金融科技协会主席
迈I融科技企、客户资金流转工监他受监管活动的信心,将与技术本身的发展同等第第22页 Sumsub亚太地区数字信任现状AI治理基准报Sumsub其他观察发现第23页 Sumsub亚太地区数字信任现状AI治理基准报告有三方面因素限制了 1其进一步发展:23
漏识别受制裁实体或未提交可疑活动报告,可能导致而误报则会让合规客户经历不必要的繁琐流程,还可能引发公平对待方面的投诉。目前仅有50%的受访者能够还原决策路径,38%的受访者具备防篡改审计轨迹。在这种情况下,将高风险决策交由智能体执行,无异于在规模上放大那些经不起追问的操作。这一矛盾在反洗钱等受监管领域尤为突出,因为这些领域的责任体系已经非常明确。AML领域的责任归属建立在人身上:洗钱报告负责人需要签署确认,而监管机构也要求由具体人员作出回应。可追溯性差距正在高风险领域造成影响,而这些领域恰恰是风险最高的地方。只有当企业能够在监管机构提出体才能真正被信任并应用于欺诈预防和AML工作。因68%的受访企业保留了AI41%的企业具备安IT行业持平并领先于其他行仍远未达到监管级可防御性要求。Sumsub
其他观察发现NimitGulati
真正的挑战并不在于AI是否能够做出决策,而在于这些决策是否值得信““a,解决
组织在支付和金融交易领域的推进更加谨慎,这反映出当涉及资金时,对责任承担和可问责性的门槛更高。”研究结果凸显了在AI驱动的商业活动中,透明度、安全性和责任机制的重”第第4页 Sumsub亚太地区数字信任现状AI治理基准报Sumsub其他观察发现真正的智能体AI仍处于早期阶段
仅有31%的受访者表示,AI能够在有限人工介入的情况下主动发起或完成多步骤任务。对于大多数组织而言,基于规则的执行(28%)或常规自动化(27%)仍然是当前的天花板。图6起或完成多步骤任务31%基于预定义规则执行操作28%自动化完成流程中的常规步骤27%为人工提供建议或洞察8%标记问题或案例,供人工审核5%仅提供信息或摘要1%大多数企业仍然卡在AIAI图6起或完成多步骤任务31%基于预定义规则执行操作28%自动化完成流程中的常规步骤27%为人工提供建议或洞察8%标记问题或案例,供人工审核5%仅提供信息或摘要1%AI的应用正在跑赢其管控措施
AI系AI行动出错的情况。712AI系统用于超出预期用途的场景62% 大幅扩展否8%30%图图8AI行动产生非预期或问题性结果否35%31%32%2%不确定AI63%去一年中,92%的组织扩大了AI系统的使用范围,3个因为如今在运行的A,早IAI63%去一年中,92%的组织扩大了AI系统的使用范围,I承担从未针对其实际Sumsub亚太区数字信任状AI subSumsub第29页 Sumsub亚太地区数字信任现状AI治理基准报告金融服务行业(40%)和IT与软件服务行业(39%)采用AI(21%)以及出行与配送平台(23%)AI能够在有限人工介入的情况下主动发起或完成多步骤任务。图9图9自主性问责性可追溯性综合得分金融服务业72.463.373.7IT服务业70.861.968.8电子商务与交易平台69.259.665.465.3出行与配送平台64.4Sumsub
分行业解读银新加坡Edmund PhuangCIMB新加坡数字数据与AI采用负责人
。,提AI稿第第30页 Sumsub亚太地区数字信任现状AI治理基准报Sumsub分行业解读金融服务业IT与软件服务业电子商务与交易平台
I2产环境中运行多步骤AI相关问题将直接转化为责任风险。68%的金融机构保留(50%)(55%)69.6分,在问责性和可追溯性两项上均领先。取,I业(4)或滥企(4),相关问题将直接转化为责任风险。68%的金融机构保留(50%)(55%)69.6分,在问责性和可追溯性两项上均领先。42%的组织在过去一年中大幅扩大了AI系。该行业中处于“领42%的组织在过去一年中大幅扩大了AI系。该行业中处于“领先”阶段的组织占比也最高 步骤流程31%(50(46等风险销售与营理架构。AI(71%)以及这个行业更依赖实用性操作层销售与营理架构。AI(71%)以及29%户投诉的工端客户体验驱动业的特点相符。依靠较流6I批29%出行与配送平台
车网算要因AI治理框架容易被置于次中的配送任务、司机收入结算和路I实控可追溯%中的配送任务、司机收入结算和路I实控图10:组织当前具备的用于支持AI决策可追溯性的能力本题为多选。金融服务业(181)
IT与软件服务业(184) 电子商务与交易平台(179)总体(720)AI决策审计轨迹输入和输出日志记录
50%
55%55%
59%58%58%61%
64%
68%68%重建决策路径的能力
52%53%48%48%50%模型和数据来源文档记录可解释性工具或方法
53%55%51%
62%59%58%
66%64%
70%54%提供AI行动永久审计轨迹的安全、不可篡改记录
34%37%38%SumsubSumsubAISumsub最。图11:分市场解读自主性 问责性 可追溯性 综合得分总体泰国菲律宾
61.0
69.970.371.270.370.169.6
印度 62.8
68.5
71.870.9中国61.9
68.0
71.5香港60.2
66.7
70.569.2澳大利亚
60.0
66.7
71.3印度尼西亚
59.8
66.0
69.5新加坡
59.6
65.6
69.8Sumsub马来西亚Sumsub
56.0
62.4
65.965.5领先市场印度与信心悖论
国以位居榜首,拥有该地区最高的可追溯性得等665%近三分之一的泰高。字平台服务皇家法国以位居榜首,拥有该地区最高的可追溯性得等665%3A市同B)业检AIAII标6最高比例的“领先”倾AIAII标国和印度均取得AI的组织表示曾遇IAI能力的信心正在超过其实际部署后的可靠中国:为每个智能体赋予国家身份标识
分位列收入挂钩的罚款或暂停服务等处罚。合规已成为进入市家互联网信息办公室实施算法备案制度、数据本地化要求收入挂钩的罚款或暂停服务等处罚。合规已成为进入市家互联网信息办公室实施算法备案制度、数据本地化要求7”这一理念制定相关政策。66智之发现别并建立信任自主行动并执行交本报告的核心你()绕这一理念制定相关政策。中间梯队与尾部市场
进7先AIAI年《隐私法》关于自动化决策透明度修订条款于2026香AIAIAI年《隐私法》关于自动化决策透明度修订条款于20260来AI1约机具有管理AI期AI1理态度和成熟的治理文化。型治通信媒体发展局推出的《智能体AI模这正是6理态度和成熟的治理文化。型治通信媒体发展局推出的《智能体AI模定的《智能体金Ari局新依坡企。正式治理框架。组理法案种情况即将AI罚用制使基于风险的治理模从零开始加快构建正式治理框架。这。全面要中较低得分体现图12:AI治理成熟度得分发展中 先进型 领先型国家/地区:6%总体
22%
71%新加坡香港马来西亚
9%5%13%11%
20%18%
71%
78%76%印度尼西亚菲律宾澳大利亚中国
9%16%6%6%3%
20%
28%
66%
75%74%73%第40页 第40页 Sumsub亚太地区数字信任现状AI治理基准报SumsubBreakdownby领域:2%金融服务业69%29%IT业5%64%31%电子商务与交易平台8%75%17%出行与配送平台10%78%11%5%印度泰国 3%
25%
31%31%
64%66%PennyChaiSumsub
“企业态智能体缺乏战涉系统会带来无法受的运营风险溯全I,安第第1页 Sumsub亚太地区数字信任现状AI治理基准报Sumsub分市场解读SumsubAI治理基准报告监管锚点概览SumsubSumsubSumsub第43页
SumsubAI治理基准报告截然不同的监管基础。以下是各市市场监管姿态支撑框架与关键信号泰国行业法令与国家级伦理指引国家AI菲律宾合规优先,与国际标准对齐)AI战略路线图2.0》与《欧盟AI法案》保持一致印度创新优先,配合严格数据法(MeitYAI以七项“原则”为基础中国严格监管,以市场准入为门槛(CAC中国智能体互联标准(20266统一)香港基于现有法律体系,隐私保护驱动个人资料)个人资料私隐专员公署(PCPD)发布的《模型框架》生成式AI澳大利亚技术中立,更新现有法律体系澳大利亚隐私法》关于自动化决策的修订条款(2026年12月10日)澳大利亚AI安全研究所印度尼西亚从自愿向强制过渡金融监管机构发布的银行业AI治理要求AI伦理通告)AI总统条例新加坡智能体球首个发布智能体AIAIVerify马来西亚向法定监管AI)国家AIStandardsSumsub
监管锚点概览SumsubSumsubAISumsub未来脱颖而出的组织,将是能够证明AI自主行为的组织。对企业领导者而言对合规与风险团队而言对监管机构与政策 制 定 者 而 对市场而言
将问责机制作为架构的一部分。在部署AIAI定价的风险资产。将可追溯性作为审计要求。关键检验标准在于:审查人员是否能够还原一项AI问题在于证据,而企业采用AI的意愿已经存在。能够认可并激励可验证的可追溯性、可还原的决策过程以及防篡改轨迹的标准,将比仅审查书面政策的规则更能推动市场发展。重证明,而非重文件。可验证的责任机制正在成为一种竞争优势。随着智能体智能体执行了什么操作、依据谁的授权执行”的企业,将成为其他企业愿意与之开展交易的对象。能够满足监户和合作伙伴选择你的重要理由。市场走向
三大变革已在演进之中:01 企业与机构正在计划积极提升其成熟度层级7治14先进利亚年自动化决策法规以及马来西亚《人工智能治理02人类与人工智能身份可追溯性正日益成为一项强制性要求02AI划转或变更客户数据倾大应AI划转或变更客户数据进行绑定进行绑定合规与治理模式正在从基于纸质的核对清单向持续审计转变03实时防护栏以方遏03实时防护栏以方SumsubAI治理基准报告AI检查清单SumsubSumsubSumsub完成以下清单。三大支柱展开在一次部署体逐项完成以下清单。自主性:了解你的AI正在执行什么AI下能够执行的最高级别操作操作最初用途明确哪些操作在执行前必须获得人工批准任何新增自主能力在全面投入运行前,必须经过分阶段逐步部署为每一个自主系
温馨提示
- 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
- 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
- 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
- 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
- 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
- 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
- 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
最新文档
- 2026年北京市养老护理员中级职称考试重点知识点习题集及答案
- 2026年蚌埠医科大学龙湖实验室科研助理招聘5名笔试模拟试题及答案解析
- 2026年国家能源集团化工公司人员招聘考试备考试题及答案
- 2026年上海邮政人员招聘考试模拟试题及答案
- 2026年苏教版初中生物八年级上册第10章细胞分裂测试卷及答案
- 2026年中国铁路南昌局集团有限公司人员招聘考试备考试题及答案
- 玉山县综合性专业抢险救援队劳动合同制队员招聘实施考试模拟试题及答案解析
- 2026年西安交通大学第一附属医院榆林医院招聘(52人)笔试模拟试题及答案解析
- 2026年第四季度金堂县公证处面向社会公开招聘编外工作人员(1人)考试参考题库及答案解析
- 2027广东佛山市顺德国资国企校园招聘考试参考题库及答案解析
- 江苏南通市2026-2027学年高一年级上学期第一次月考英语测试卷(含答案无听力原文无音频)
- 2026年校招:中国船舶集团笔试题及答案
- 2026年单元复习讲义:专题04 数与运算的再认识(考点梳理+例题讲解+举一反三+提升练习)-2026-2027学年数学六年级上册(苏教版·新教材)(解析版)新版
- 初中八年级数学《理财小课堂》综合与实践活动教学设计
- 城乡一体化供水改造提升工程项目绩效评价
- 野外生存技能训练2026年培训课件
- 核素-靶向协同治疗策略
- 24J113-1 内隔墙-轻质条板(一)
- 2026考研英语二万能作文模板 图表+书信+议论文三件套完整版
- Android移动终端开发 答案
- 外交部人员培训制度
评论
0/150
提交评论