人工智能助力书写数字金融大文章 2024-杨青

度小满数据智能部总经理，技术委员会执行主席第一次工业革命“蒸汽时代”第二次工业革命“电气时代”“信息时代”“人工智能”“符号主义”•达特茅斯会议提出“AI”“联结主义”“深度学习”“生成式AI” 技术进步的速度日益加快，近3年极速涌现了少回科技扩散少回科技扩散科技在金融领域的应用速度科技在金融领域的应用速度科技对金融的影响深度和广度科技金融加速要素的流通与配置ull信息科技金融加速要素的流通与配置ull信息普惠金融养老金融绿色金融普惠金融养老金融绿色金融 矫正市场失灵与金融割裂支付理财资管保险信托AI：推动产业转型升级，引领智能时代潮流AI+信贷是推动数字金融发展的高支付理财资管保险信托AI：推动产业转型升级，引领智能时代潮流AI+信贷是推动数字金融发展的高价值领域信贷：促进资源有效配置、激发经济活力智能获客智能风控智能经营通过对用户情绪的监测、客服质量的监督，为客户淆机器学习有可能对广告产生兴趣并转化为贷款用户；通过评估广告位竞争强度优化实时出价，降营销：优化流量价值识别，提升精准获客能力业务场景 借助对问题深入挖掘，创新性的在信贷获客营销上探业务场景 模模型 predictiontrainpredictionxxT-24M训练代理模型T0风控：NLP技术演进，提升长文本理解和风险识别效果 借助自然语言处理技术迭代发展，有效处理长文 业务场景业务场景之前的解决方案 之前的解决方案 长度外推算法片段粒度算法代表算法：基于RoPE改进的位置编码代表算法：BlocktransformerYaRN：大型语言模型的有效上下文窗口拓展，2023BlockTransformer:通过全局到局部的语言建模加速LLM推理,2024Mamba:基于选择状态空间的线性时间序列建模,2024风控：图机器学习，提升关联信息解读和风险区分能力 业务场景业务场景之前的解决方案之前的解决方案人工经验人工特征衍生机器自动衍生深度学习KSBaseline22%24%26%异强强偏业务场景风控：时序模型，精准挖掘信贷行为趋势提升风险识别能力业务场景 模型效果模型效果传统解决方案传统解决方案经营：因果推断，优化额度模型平衡全局风险 缺点1）额度变化后，用户的风 缺点1）额度变化后，用户的风度度企业对大模型的需求转变：由「广泛探索」转向「核心业务深化」，旨在大模型专业性、泛化性和经济性很难兼得大模型专业性、泛化性和经济性很难兼得专注大模型在企业核心业务中的直接应用专注大模型在企业核心业务中的直接应用金融业应用大模型方式多样，开源模型调优企业对大模型的核心需求：将私域数据转化为竞争优势，并确保场景路线一：直接使用闭源模型路线一：直接使用闭源模型路线二：直接使用开源模型路线二：直接使用开源模型路线三：开源模型+路线三：开源模型+Prompt+知识库路线四：基于开源模型进行适配调优定制化灵活性高效性.....可控性路线四：基于开源模型进行适配调优定制化灵活性高效性.....可控性开源调优的优势大模型能力的“冰山理论”显性能力显性能力隐性能力隐性能力2GPT-4o-2024-05-133GPT-4o-mini-2024-07-187Gemini-1.5-P8Gemini-1.5-Pro-API-0409-PreviewGoogle闭源9GPT-4-Turbo-2024-04-0910GPT-4-11 中文理解生成欠精准场景适配能力不足实时高效服务受限中文理解生成欠精准场景适配能力不足实时高效服务受限 测评体系建设 测评体系建设•大模型在实际工作场景中得到反•在大规模通用文本数据上训练，掌握广泛的语言理解和信息处理•经过行业特有数据的训练•在大规模通用文本数据上训练，掌握广泛的语言理解和信息处理 场景增强 工程增强 算法增强数据增强数据增强模型中文能力提升增量预训练模型业务效果突破模型中文能力提升增量预训练模型业务效果突破模型资源成本控制指令微调指令微调强化对齐微调和推理：以最小参数Llama3-8B为例，2张A100显卡即可微调，一张4微调和推理：以最小参数Llama3-8B为例，2张A100显卡即可微调，一张4人机共生层人机共生层信贷业务保险业务财富管理智能助手层智能助手层基础能力层低高 件数：6付款：35.70 开创阶段典型代表中文友好文档理解轻量模型印章印章双语叠字 表格表格图形版式量身定制，个性化的投资方案降低投资门槛，实现普惠化的专业投资服务大模型智能投顾 理财投顾Agent 大模型智能投顾 理财投顾Agent 联度不大。鉴于股价已大幅偏离基本面，后续继续大幅意投资风险...金可以起到“压舱石”的效果...建议在做好风险评估传统客服AI客服3.0AI客服1.0AI客服2.0••••••••• 平均响应时间减少90%客户满意度提升30%人力成本降低60% 信贷营销场景被滥用于生成虚假信息、欺诈等行为事实性错误、逻辑不一致、甚至凭空捏造信息算法歧视、隐私泄露、就业替代等大模型检索增强大模型检索增强结合专业知识库，可以显著提升生成内容的准确性动态RAG（Random)Zero-Shot说呈现上涨趋势。…有所下跌……