携程AI平台及客服机器人

携程AI平台及客服机器人分享人：于磊

1

携程AI—

DemocratizeAI

2

携程客服机器人&知识图谱

3

携程小诗机

4

Q&A目录CONTENTSDemocratizeAI

共赢、高速创新下一代的OTA用户体验合作、互补、共享 AI的民主化—携程AI接入平台智能导购自然语言语音视觉硬件图片清晰化活体检测小诗机多语种翻译滤黄滤政声纹识别客服机器人计算广告语音合成用户意图图片风格转换身份识别情绪识别图片识别外部AI服务 模型评估测评

标准化

选型/综合 携程AI接入平台

携程AI开放平台自研AI

服务融合

·共创图片检测携程小诗机图片检测(Image

Detection)•背景：检测图片物体标签，作为素材提供给写诗引擎•

语料：类别120，训练语料10万条•

24层卷积层+2层全连接层Yolo网络结构[1]

Refferto

Redmon,Joseph,

etal.“You

only

look

once:

Unified,

real-time

object

detection图片检测携程小诗机图片检测(Image

Detection)•背景：检测图片物体标签，作为素材提供给写诗引擎•

语料：类别120，训练语料10万条•

24层卷积层+2层全连接层基于CycleGAN的“白天转黑夜”[1][2]人脸识别[1].Image-to-ImageTranslationwithConditionalAdversarialNetworks[2].

UnpairedImage-to-ImageTranslationusingCycle-ConsistentAdversarial

Networks携程AI开放平台视觉图像携程AI开放平台智能个性化携程AI开放平台智能导购

1

携程AI平台

2

携程智能客服&知识图谱

3

携程小诗机

4

Q&A目录CONTENTS+66%+13%酒店客服可自助场景解决率94%28%15%携程AI开放平台 APP7.5

智能客服上线 APP7.4

用户输入联想智能客服APP7.3售前携程智能客服售后产品推荐

产品咨询

支付咨询天气查询

交通方式

插科打诨订单咨询

发票咨询

返现优惠闲聊分词

命名实体识别

相似相关词句法依存分析语义理解

文本聚类文本分类算法NaiveBayesWord2VecCRFSVMCNNRNNBI-LSTM+CNN售前机器人聊天对话历史标准QA信息酒店基本信息机票航线信息POI信息……用户意图识别

输入联想情绪识别对话管理知识图谱KB-QA个性化推荐携程客服机器人少

数据应用架构售后机器人翻译助手客服助手应用模块…Model优势RNN获取长远的上下文信息，拟合非线性能力CRF考虑整个句子的局部特征的线性加权组合，目标是p(y|x;w)使得序列的联合概率最大HMM基于马尔科夫性质LSTM+CRF[1]利用两个模型的优势命名实体识别.

应用场景

售前售后景点、目的地等识别

旅游名词识别

KB-QA中识别主题信息携程客服机器人[1].Z

Huang,WXu,

KYu.

Bidirectional

LSTM-CRF

Modelsfor

SequenceTagging

-arXiv

preprint

arXiv:1508.01991,

2015.

常用模型用户意图识别•基于用户问题，使用意图分类模型进行用户意图的判定，从而

将用户问题定位到某个子领域。•辅助进行进一步的用户语义解析•

基于意图信息，进行用户对话管理和状态分析担保问题促销活动页面功能投诉问题支付问题电话服务变更取消订单问题名词解释保险问题0.00

0.20

0.40

0.60

0.801.001.20担保问题促销活动页面功能投诉问题支付问题电话服务变更取消订单问题名词解释保险问题0.00

0.20

0.40

0.60

0.801.001.20携程客服机器人CNN分类模型SVM分类模型PrecisionRecall标准Q匹配优势.

biLSTM可以从forward和backward两个方向获取上下文信息.

CNN模型对平移、缩放等具有不变形，可以较好检测出特征区域，鲁棒性好。.最终，通过多组实验比较，发现biLSTM+CNN离线效果最佳。[1]Applying

Deep

LearningtoAnswer

Selection:AStudyandAn

OpenTask

Minwei

Feng,

BingXiang,

Michael

R.

Glass,

Lidan

Wang,

Bowen

Zhou

ASRU

2015[2]

Lai

S,Xu

L,

Liu

K,et

al.

Recurrent

Convolutional

Neural

Networks

for

Text

Classification[C]//AAAI.

2015,333:

2267

-2273.[3]WenY,ZhangW,

Luo

R,etal.

Learningtext

representation

using

recurrent

convolutional

neural

networkwith

highway

layers[J].

arXiv

preprint

arXiv:1606.06905,

2016.Max-poolMax-poolMax-poolMax-poolFCstack携程客服机器人2xnConv3xnConv5xnConv1xnConv100.00%90.00%80.00%

70.00%

60.00%

50.00%

40.00%

30.00%

20.00%

10.00%

0.00%基于biLSTM-CNN的QA匹配embeddinglayer算法对比poolinglayerbiLSTMlayeroutputlayerinputlayerconvlayercnn+tensorflowtop1准确率top3准确率cnn+mxnetcnn+lstmbiLstm+cnnRNN携程客服机器人FCQA-检索.类似个性化推荐，分两步：检索+排序.适用QA量大的场景，例如闲聊，问答检索等.基于attention机制可以提升QA关联度exp(u

uw)σt

exp(u

uw)si

=

a

itℎitt[1]

Lowe

R,

Pow

N,

SerbanI,

etal.The

ubuntudialoguecorpus:A

large

dataset

for

research

in

unstructured

multi-turn

dialogue

systems[J].

arXiv

preprint

arXiv:1506.08909,

2015.[2]YangZ,Yang

D,

DyerC,etal.

HierarchicalAttention

Networks

for

Document

Classification[C]//HLT-NAACL.

2016:

1480-1489.itTitT最终排序结果BM25,TFIDF

词语特征基于深度模型

语义特征u

it

=

tanh(wℎit+bw)基于倒排索

引检索a

it

=

ana2基于检索的QAsuwa1i携程知识图谱知识图谱KB-QA携程客服机器人售前智能导购

1

携程AI平台

2

携程客服机器人

3

携程小诗机

4

Q&A目录CONTENTS携程小诗机Input:景点写诗城市写诗天气、季节心情照片写诗人名写诗格律：宝塔诗律诗绝句性别及表情

识别：严肃；青年男性;景物识别&

成诗：红楼；梅花；携程小诗机Input:景点写诗城市写诗天气、季节心情照片写诗人名写诗格律：宝塔诗律诗绝句照片地点知识库：西湖；西湖的知识库时间写诗：秋；傍晚；天气知识库;基于情境的感情：春节前最后一天；人物画像：职业；作品；身材；风

格携程小诗机人机盲测第3名(11场)与上海地区诗人比，略胜目前远超竞品宝塔寺、情感、季节、天气、人物、绝句、律诗、城市、美食西湖.雪城巷夜空却白昼，西湖山色故依然。敢忘湿地凌冬约，不负君梅岁竹缘。万里重云寒水边，满城娑树雪中天。萧疏枫叶扁舟岸，灵隐冷风谁顾怜。澜惊湍

水流漫鲸波海观

江涌万卷蟠香惹燕雀凉醉颊玉屑梅蕊翠靥偷香团扇妾芳情细贴花重叠西湖凉风乱入杭城路，

秋水孤山似旧年。

遍地桂花停过客，

侵帘绿影满湖边。西湖绿树余杭花草畔，

通都月色谁自怜。

喜听潇雨鸣枫叶，

安得凉风起桂筵。

久靠林荫堤岸伫，长依湿地碧波边。

西湖桥下潺湲水，

凭有孤山却不前。西湖.夏重云深处引溪涧，湖水孤山路远长。遥爱断桥残夏早，风清杨柳映通方。莲花倚槛雨生雾，荷叶绕船橹走旁。林缝落光波潋滟，寺边湿地色苍茫。涛濑掀翻浪寒

激荡澎湃渺云端春叶蝶思念孤独夏之愉悦秋之悲伤北京的雾杭州的雨黄山的雪青海湖的晴沙-正宝塔沙-倒宝塔景点愉悦赵玉玮7.457.1556.726.476.526.736.686.72邹竞夫8.377.5756.7056.498.226.416.6856.326.4256.246.375AI

LEE7.8858.146.1956.5357.616.2256.076.46.155.916.4卿云子8.3956.3158.6556.66.3656.515沈以昕7.7256.7255.856.327.5656.3955.616.31张一双7.1156.1556.3255.875.1756.115赵玉玮邹竞夫AI

LEE卿云子沈以昕张一双冠军522200亚军063200季军122220携程小诗机句/联生成诗句组合寻优景点/关键词解析图片解析反向过滤引擎遗传算法，RNN，广度优先图搜索