AI 赋能零售-创新中的合规风险管理

前言近两年来，人工智能（AI）的快速发展正在众多行业领域掀起一场颠覆性的行业革新。在今年举行的十四届全国人大二次会议上，李强总理在2024年政府工作报告中提出，深化大数据、人工智能等研发应用，开展“人工智能+”行动。这是我国政府工作报告第一次提出“人工智能+”。“人工智能+”的概念，意在鼓励各行各业重视人工智能技术的应用和落地。企业需要整合多方资源，在自身产品研发过程中将人工智能技术更好应用，以增强其市场竞争力。在零售领域，AI技术已展现出巨大的商业应用价值。从行业实践来看，现阶段售前、售中到售后等环节均已出现了较为成熟的AI技术方案，在许多具体业务场景中已得到广泛应用。零售行业参与者们已意识到AI技术在降低成本、提升效率、加快创新等方面的重大作用，并纷纷将其作为寻求突破、改变竞争格局的新赛道。本文拟从“AI生成营销素材”、“AI智能导购”和“AI定价”等零售行业典型的AI应用场景出发，探讨伴随AI应用产生的相关法律风险。一、AI应用场景中的主要角色目前我国与AI直接相关的法规规范主要包括《互联网信息服务算法推荐管理规定》（“《算法推荐规定》”）、《互联网信息服务深度合成管理规定》（“《深度合成规定》”）和《生成式人工智能服务管理暂行办法》（“《生成式AI办法》”）。三部法规规范的适用范围和主要义务主体略有差异，简要总结如在常见的零售行业参与者中，大型零售平台往往自行开发AI产品为消费者和平台内商家提供服务，其角色更偏向于AI服务提供者和/或AI技术支持者。相较而言，一般品牌方通常选择从其他AI技术开发者处直接采购AI工具搭载于自身产品和服务上再提供给消费者，或采购ToB型AI工具用于自用目的，因此品牌方作为AI服务提供者和/或AI服务使用者的情况较为多见。二、AI生成营销素材一个天才创意能够为营销活动积累巨大的口碑，极大地提升产品销量和品牌影响力，而生成式AI凭借其高效的内容产出能力和源源不断的创意能力，能够显著降低创意成本、提高营销效率。目前市场上已有较为成熟的生成式AI工具，可根据用户输入的提示文本撰写广告文案或生成广告图片，往往在几秒钟之内就可提供十几种方案供选，还可根据使用者的进一步要求进行调整优化。某些专注于营销领域的生成式AI工具还可根据不同行业领域和应用场景提供多种素材模板，甚至能够整合其他广告监测工具来追踪这些素材的广告投放效果。根据2024年4月2日国家互联网信息办公室《关于发布生成式人工智能服务已备案信息的公告》以及此前陆续发布的深度合成服务算法备案清单，国内部分大型电商平台已进行了AI大模型的研发并完成了相关备案。这些AI大模型可提供商品营销文案创作、商品图片和卖点等营销素材生成等功能，帮助商家提高运营效率和营销内容质量。不少品牌方/零售商们已不同程度地使用过这些AI创作工具，有效降低了营销物料制作周期。由于在AI应用中的角色不同，零售行业参与者所承担的合规义务也有所区别：AI服务提供者AI服务提供者除了自身不得实施非法使用个人信息等侵犯个人信息主体权益的行为外，也应提示用户注意输入内容中若包含未公开的个人信息，应取得相关个人信息主体的同意。在技术层面，服务提供者也应当采用技术或者人工方式对用户的输入数据和合成结果进行审核[1]，确认是否可能存在个人信息，并过滤或对相关个人信息进行脱敏处理。如接到第三方关于个人信息侵权的举报，应及时处理。AI服务提供者如果自行开发AI工具的，还应当履行以下AI技术支持者的相关合规义务。AI技术支持者AI工具的训练和使用依赖于对大量数据的处理，因此对于AI技术支持者而言，确保数据来源合法是进行后续开发的首要合规前提。AI模型训练的数据来源通常包括以下三种：（1）使用网络爬虫获取公开数据：需注意网络爬虫不应故意突破或绕开网站设置的访问限制措施和反爬虫技（2）直接收集个人信息：如从用户、消费者或测试志愿者等个人处收集个人信息用于模型训练，需确保已向相应个人信息主体告知其个人信息将被用于AI模型开发等目的并获取其授权同意，或在能够满足训练目的的前提下，对训练数据中的个人信息进行匿名化处理；（3）从第三方采购数据集：需要求该等第三方就其数据来源合法性做出陈述与保证。此外，与AI技术支持者的数据处理活动相关的主要义务包括：（1）依法开展训练数据处理活动，加强训练数据管理，采取必要措施保障训练数据安全[2]；（2）提供人脸、人声等生物识别信息编辑功能的，应当提示服务使用者依法告知被编辑的个人，并取得其单独同意[3]；（3）提供具有生成或者编辑人脸、人声等生物识别信息功能的模型、模板等工具的，应当依法自行或者委托专业机构开展安全评估[4]；（4）在生成式AI技术研发过程中进行数据标注的，应当制定清晰、具体、可操作的标注规则，开展数据标注质量评估，抽样核验标注内容的准确性，并对标注人员进行必要培训，监督指导标注人员规范开展标注工作[5]。AI服务使用者品牌方等AI服务使用者在使用营销素材生成、虚拟主播等生成式AI工具时可能也需要输入人脸、声音等个人信息，为此同样需要向相关个人履行告知-同意义务，特别是包括对处理其人脸、声音等敏感个人信息的单独三、AI智能导购AI生成营销素材主要是服务于商家的ToB模式，而AI智能导购则是直面消费者的ToC模式。目前国内部分大型电商平台已推出了基于大语言模型的AI智能导购工具，以期解决传统人工导购/客服培训周期长、回复效率低、回复结果不理想等问题，帮助平台用户更快速准确地找到符合其偏好的商品。AI智能导购利用多轮对话不断挖掘用户需求，归纳总结用户的购物意图，圈定用户需求特征后检索相关商品，最后按照用户偏好排序并向用户进行推荐。以购买家用冰箱的场景为例，用户提问时一般仅会给出少量表层需求，例如意向品牌、意向价格区间等，智能导购会进一步对其他需求特征进行询问，例如开门方式、尺寸、容量、制冷模式、特殊功能要求等。当明确用户需求后，智能导购会在平台内检索相关商品，计算用户需求和商品特征的匹配度来筛选出符合条件的商品，并根据用户对话反馈不断调整推荐商品，最终实现交技术层面上，AI智能导购的本质是基于深度学习算法，根据用户输入的信息进行自动化决策并输出决策结果的一类生成式AI工具。同时，因AI智能导购可能涉及生成合成类、个性化推送类、排序精选类等算法技术，属于《算法推荐规定》定义的“算法推荐技术”，其服务提供者和技术支持者除了需要遵守生成式AI服务相关法规以外，还需要注意算法推荐管理方面的合规义务：算法备案义务《算法推荐规定》规定，具有舆论属性或者社会动员能力的算法推荐服务提供者应当在提供服务之日起十个工作日内通过互联网信息服务算法备案系统填报服务提供者的名称、服务形式、应用领域、算法类型、算法自评估报告、拟公示内容等信息，履行备案手续[6]。《算法推荐规定》并未进一步明确“具有舆论属性或者社会动员能力”的具体标准。2018年国家互联网信息办公室和公安部联合发布的《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》（“《2018年安全评估规定》”）提供了相关解释：“本规定所称具有舆论属性或社会动员能力的互联网信息服务，包括下列情形：（1）开办论坛、博客、微博客、聊天室、通讯群组、公众账号、短视频、网络直播、信息分享、小程序等信息服务或者附设相应功能；（2）开办提供公众舆论表达渠道或者具有发动社会公众从事特定活动能力的其他互联网信息服务。”此外，从网信部门公布的算法备案信息中也可看出，已备案算法的应用产品类别非常广泛，除新闻资讯、搜索引擎、贴吧论坛、网络视频等应用以外，还包括求职招聘、外卖配送、网络购物类应用，几乎覆盖了绝大多数的互联网常见应用类型。因此实践中，算法推荐服务提供者应充分理解上述标准，对于包含评论互动和信息分享功能且面向社会公众提供的算法推荐服务，宜主动履行算法备案义务，避免受到监管处罚。安全评估义务具有舆论属性或者社会动员能力的算法推荐服务提供者应当按照国家有关规定开展安全评估，还应当依法留存网络日志，配合网信部门和电信、公安、市场监管等有关部门开展安全评估和监督检查工作，并提供必要的技术、数据等支持和协助[7]。《2018年安全评估规定》规定了应当进行安全评估的五类情形，包括“具有舆论属性或社会动员能力的信息服务上线，或者信息服务增设相关功能的；用户规模显著增加，导致信息服务的舆论属性或者社会动员能力发生重大变化的”等。其他主要合规义务告知公示：AI导购服务提供者应当在相关功能界面或相关网站/应用程序的其他显著位置向用户告知算法推荐服务的情况，并以适当方式公示算法推荐服务的基本原理、目的意图和主要运行机制等。不得操纵：AI导购服务在向用户推荐商品或商品榜单时，应注意不得过度推荐或操纵榜单。因AI导购功能可直接促成交易，品牌方可能会向这一渠道进行更多广告投放，获取更多曝光量，但AI导购服务提供者不应向投放过广告的商品进行过分的资源倾斜，不得利用算法屏蔽其他商品信息或干预其他商品信息的呈现。算法机制和内容审核：AI导购服务提供者应当定期审核、评估、验证算法机制机理、模型、数据和应用结果等，避免出现算法操纵、诱导过度消费和其他违反法律法规或者违背伦理道德的情形。此外，AI导购服务提供者在不断收集更多数据、优化相关算法模型时，还应注意识别和过滤语料库中的违法内容和不良信息，避免生成违法和不良信息，例如在面向用户生成商品推荐文案时，应避免生成违反广告法的用语或内容。保障用户权利：AI导购服务提供者应当始终保障用户权利，在向用户推荐商品时应当提供不针对其个人特征的选项，或者提供选择或删除用于AI导购服务的针对其个人特征的用户标签的功能。四、AI定价商品定价策略对商品销量和企业营收至关重要。传统的定价策略通常是在商品成本上增加一定的利润率，同时结合竞品价格、市场需求和趋势等外部因素综合确定价格，而这往往依赖人工判断和经验总结。在AI赋能零售的技术浪潮下，商品定价也可以由AI大模型完成。AI大模型定价简单来说可分为三个环节：（1）收集和处理数据；（2）建立定价模型、确定定价策略的目标；（3）实施定价策略。基于底层数据的更新、不同期间定价目标的差异，AI生成的定价策略也将随着市场变化和用户行为而动态变化。比如，在商品销量较低或用户反馈价格过高时，AI可能会自动降价；在竞品价格普遍上涨时，AI可能会自动跟随涨价。又比如，AI也可能根据某一用户的行为进行个性化定价：当AI通过消费者的历史交易数据识别出消费者对某品牌有更高的忠诚度时，可能会向此类消费者提供更为优惠的价格。然而在我国目前的监管体系下，“千人千面”的个性化定价存在着较为明显的合规风险。通过AI进行个性化定价的本质是通过自动化决策技术，就同一商品或服务对交易条件相同的个人提供不同价格，因而可能构成差别待遇。《个人信息保护法》明确规定，利用个人信息进行自动化决策，应当保证决策的透明度和结果公平、公正，不得对个人在交易价格等交易条件上实行不合理的差别待遇[8]。另外，利用消费者的个人信息进行自动化决策也应当根据《个人信息保护法》的要求向消费者告知个人信息将被用于进行自动化决策目的，并获取其同意，除非个人信息已经过匿名化处理不再构成个人信息。个性化定价还可能涉及反垄断方面的合规风险。《反垄断法》明确禁止具有市场支配地位的经营者没有正当理由，对条件相同的交易相对人在交易价格等交易条件上实行差别待遇[9]。《国务院反垄断委员会关于平台经济领域的反垄断指南》对此做出了细化规定：（1）分析是否构成差别待遇，可以考虑以下因素：基于大数据和算法，根据交易相对人的支付能力、消费偏好、使用习惯等，实行差异性交易价格或者其他交易条件；（2）平台在交易中获取的交易相对人的隐私信息、交易历史、个体偏好、消费习惯等方面存在的差异不影响认定交易相对人条件相同；（3）针对新用户在合理期限内开展的优惠活动以及能够证明行为具有正当性的其他理由，可以被视为实施差别待遇行为的正当理由[10]。以上禁止差别待遇的规定针对的是具有市场支配地位的经营者，相较于一般品牌方，大型零售平台在此方面可能面临着更高的合规风险。另外，消费者知情权也是一个重要的关注方面。2024年3月15日发布的