国际证监会组织发布人工智能报告-

1国际证监会组织发布人工智能报告国际证监会组织(Internationalorganizationofsecuritiescommissions, IOSCO")发布了题为《人工智能在资本市场中的应用场景及相关风险与挑战》的咨询报告("《Al报告》")。该报告汇集了来自iosco成员(即各司法管辖区的证券监管机构)及行业参与者就金融产品与服务中应用人工智能(ArtificialIntelligence,"Al")技术所涉问题、风险和挑战的反馈意见,旨在促进各方就Al在资本市场的应用达成共识,并协助IOSCO成员制定相应的监管策略。本报告系IOSCO继2021年发布《市场中介机构与资产管理机构使用Al及机器学习技术的最终报告》后的又一阶段性研究成果本次报告充分考虑了人工智能技术的最新发展行业实践以及监管政策导向作为IOSCO人工智能监管"两步走"战略的第一阶段成果,IOSCO后续将据此制定更具操作性的监管工具与实施建议,为IOSCO成员提供进一步指导。 2IOSCO是国际间各证券监管机构所组成的国际合作组织,其核心职能是推动证券及金融市场的有效监管。其首要目标在于制定和推广高标准的监管规范,从而切实保护投资者权益确保市场公平与透明,并维护全球金融市场的稳健运行。IOSCO与金融稳定委员会(FinancialstabilityBoard,"FSB")和国际货币基金组织(InternationalMonetaryFund)等其他国际组织密切合作多年来,IOSCO在推动国际证券监管实践趋同化方面发挥了关键作用,旨在增强投资者信心,并保障全球金融市场的平稳运行。虽然Al在资本市场的应用已非新鲜事物,但近期Al技术领域涌现出诸多重大创新,并吸引了大量的投资与关注,尤其是生成式Al技术,其出现大大颠覆了Al技术发展的原有格局。在其202l年的Al报告中,IOSCO提出了六项衡量标准,旨在反映市场中介机构和资产管理机构在应用Al和机器学习(MachineLearning)技术时应遵循的预期行为规范虽然该指引不具备强制约束力,但losco鼓励其成员在各自的法律与监管框架内审慎参考。这六项标准涵盖以下关键内容:•公司治理机制•高级管理层的职责与问责制度•数据质量保障•Al及机器学习技术的验证、测试、监控与监督•与第三方供应商的关系及依赖性评估•关于使用Al及机器学习技术的信息披露二、Al在资本市场中的应用场景根据1OSCO的报告,Al技术在过去数年中已逐步渗透至金融市场的多个环节。随着技术创新和投资规模的持续增长,人工智能的应用场景也得到了显著拓展。该报告将Al模型区分为确定性(deterministic,输入输出关系恒定)与非确定性(non-deterministic,输出结果基于概率算法)两类。根据IOSCO的调查结果,Al最常见的应用场景包括与客户沟通、算法交易(algorithmictrading)、智能投顾服务(robo-advising)及资产管理,其次是市场监控与欺诈检测内部运营效率提升及反洗钱合规。金融机构还利用Al技术辅助投资研究市场分析及情绪分析等决策流程。值得注意的是借助人工智能领域的最新进展各类机构正致力于通过任务自动化、信息智能提取、代码自动生成、文本智能分类、自动摘要生成、语音自动转录、机器翻译及文稿自动起草等功能优化内部运营流程,并显著提升客户沟通效率。 3根据IOSCO的报告,就生成式AI而言,市场参与者现阶段更倾向于优先探索其在内部低风险场景下的应用,例如提高内部生产力生成深度分析观点或改进风险管理策略,而非直接将其应用于面向终端客户的场景。从不同类型机构的Al应用现状来看,IOSCO的调研结果揭示了以下主要趋势:•证券经纪交易商:Al技术主要应用于客户沟通(占比67%)、算法交易(占比63%)以及市场监控与欺诈检测(占比53%)等领域。•资产管理公司:Al技术主要应用于支持智能投顾及资产管理业务(占比60%)以及投资研究(占比t40%)等领域。•交易所及其他金融市场中介机构:Al技术主要应用于交易处理及自动化流程(占比t40%)。三、Al应用于资本市场的风险、问题与挑战IOSCO《AI报告》将AI应用中的风险问题与挑战归纳为以下几类:•恶意使用风险:Al可能被滥用于发起网络攻击(包括针对Al系统本身的攻击)、实施金融欺诈、进行电信诈骗、传播虚假信息(misinformation)、操纵市场以及生成深度伪造内容(deepfakes)等恶意行为,从而对投资者保护和市场健康构成重大威胁•Al模型与数据相关风险:与Al模型的可解释性(explainabilityandinterpretability)、模型偏差(modelbias)、复杂性complexity)、稳健性(robustness)、幻觉效应hallucinations)、利益冲突conflictsofinterest)、数据质量时效性(dataquality/age)、数据漂移(datadrift)及数据偏见(databias)等因素相关的风险,可能导致输出结果失准或偏倚•集中性、外包及第三方依赖风险:过度依赖少数几家未受金融监管的技术服务提供商、数据聚合商以及人工智能模型供应商,可能引发市场集中性风险以及对第三方的过度依赖问题。•人机交互风险:因缺乏明确的责任追溯机制、监管力度不足、Al相关人才短缺及对Al系统过度依赖所带来的风险,可能导致监管合规性缺失并损害投资者利益。四、金融机构如何应对Al应用于资本市场的相关风险与挑战?根据IOSCO的报告,相关行业实践正在不断发展,部分金融机构将AI纳入既有风险管理与治理框架,而另一些则针对AI特性构建了更具针对性的定制化应对机制。 4总体而言,金融服务行业的大型机构倾向于构建一套涵盖以下核心原则的风险管理与治理框架,以此为其内部Al战略流程管理技术引进及风险控制提供有力支撑:•透明度原则:Al系统的设计应力求简明易懂。金融机构应向用户及客户充分披露其在金融产品及服务中使用Al技术的相关信息,确保信息的准确性和完整性。•可靠性稳健性和韧性原则:Al系统应具备持续稳定、可靠运行的能力,并能始终按照预期发挥作用。•投资者和市场保护原则:在金融服务领域应用Al系统,必须严格遵守现行的与投资者和市场保护相关的法律法规框架。•公平性原则:Al系统的应用不得产生任何形式的不公平偏见或歧视性结果。•安全与隐私原则:金融机构必须采取充分的技术与管理措施,以保障AI系统所使用数据的质量与来源可靠性,并切实加强对用户隐私及网络安全的保护。•问责制原则:金融机构应明确界定其在使用Al技术过程中的角色与责任,这包括Al系统的风险管理与治理责任,以及对Al系统运•风险管理和治理原则:金融机构应建立健全有效的机制,制定全面的Al技术应用策略,提供必要的培训,并对AI应用的开发、部署、使用和持续监控实施有效监督。及服务中,会显著增加监管的复杂性,并可能放大潜在风险,因为AI代理可能在极少甚至无人干预的情况下自主运行。五、IOSCO成员如何应对Al应用于资本市场的相关风险与挑战?根据IOSCO报告,IOSCO成员(即各司法管辖区的证券监管机构)主要通过以下方式管理金融服务领域的人工智能应用:采用现有的监管框架秉持技术中立原则制定专门的法律法规或构建定制化的人工智能监管框架。一些成员已发布Al应用的指导性意见,实地考察设立创新中心组织圆桌会议等多种形式,与市场参与者保持密切互动,以深入了解并有效应对Al技术可能带来的各类风险。部分IOSCO成员还积极寻求与国内外监管机构的合作,合作对象包括中央银行隐私与数据保护机构以及其他金融监管部门。与此应的执法行动。值得注意的是,为警示公众防范与人工智能相关的欺诈风险,相当数量的IOSCO成员通过发布投资者警示信息和投资者教育材料等方式,积极向投资者提示风险。六、IOSCO的后续计划根据报告的