CN112425181A 用于预测用户对泛在设备的动作的电子设备和方法 （三星电子株式会社）

PCT/KR2019/008431201WO2020/013577EN2020.01号用于预测用户对泛在设备的动作的电子设时间点之前的数据集的第二时间段上的第二行为序列以及时间点的环境来预测时间点的下一2所述多个模型中的每个模型进行训练，以基于来自所时间段上的第二行为序列以及所述时间点的基于对于所述多个模型所评估的模型预测精度和目标域，从所在第二持续时间期间，基于所确认的至少一个模型，推荐在稍后的时间基于所预测的下一动作与所述实际动作之间的差异来计算对于所述多个模型中的所所述多个模型中的每个模型进行训练，以基于来自所时间段上的第二行为序列以及所述时间点的基于对于所述多个模型所评估的模型预测精度和目标域，从所基于所预测的下一动作与所述实际动作之间的差异来计算对于所述多个模型中的所315.一种包括程序的非暂时性处理器可读介质，所述程序在由处理器执行时执行一种所述多个模型中的每个模型进行训练，以基于来自所时间段上的第二行为序列以及所述时间点的基于对于所述多个模型所评估的模型预测精度和目标域，从所在第二持续时间期间，基于所确认的至少一个模型，推荐在稍后的时间4如使用的应用或查看的内容)以及用户环境日志(诸如位置和体育活动)；这些日志通常用反馈，以提高她的数字幸福感。鉴于用于人口级别推荐系统的诸如GRU(门控循环单元)和LSTM(长-短期内存模型)的循环模型的最新进展，如何构建与环境特征恰当地相结合的个人循环模型来预测用户对泛在设备的动作是仍然未[0004]一个或多个实施例大体涉及基于多个模型的评估和环境感知循环模型的选择来5[0007]一个或多个实施例的这些和其它方面以及优点将从以下详细描述中变得显而易[0010]图2示出了根据一些实施例的用于包括电子设备以及云或服务器环境的系统的架[0011]图3示出了根据一些实施例的用于个人环境感知循环模型和预测处理的选择的高[0016]图6示出了根据一些实施例的将环境特征与最终GRU隐藏状态进行组合的联合训[0018]图8示出了根据一些实施例的由基于环境关注的循环预测器模型通过GRU状态所捕获的最近和过去用户行为的杠杆化的短期行为和当前环境分配的关[0019]图9示出了根据一些实施例的用于基于环境感知循环模拟来预测对泛在设备的下语将被赋予包括说明书所暗示的含义以及本领域技术人员所理解的含义和/或在词典、论[0023]所提供的一个或多个实施例基于多个模型的评估和环境感知循环模型的选择来6[0024]图1是根据一个实施例的通信系统10的示意图。通信系统10可以包括发起传出通信操作的通信设备(传送设备12)和通信网络110，该传送设备12可以用于发起和实施与通设备11)接收通信操作的通信设备。尽管通信系统10可以包括多个传送设备12和接收设备通信塔和电信服务器的无线通信基础设施)来创建通信网络110。通信网络110可以能够使线、有线电视、Wi-Fi(例如，IEEE802.11协议)、BLUETOOTH@、高频系统(例如，合。在一些实施例中，通信网络110可以支持无线电话和蜂窝电话以及个人电子邮件设备(例如，BLACKBERR®)所使用的协议。这样的协议可以包括例如GSM、通信路径进行通信。传送设备12和接收设备11都能够发起通信操作并接收发起的通信操[0026]传送设备12和接收设备11可以包括用于发送和接收通信操作的任何合适的助于无线使能附属系统)或经由有线路径(例如，使用传统的电话线)进行通信的任何其它[0027]图2示出了用于系统100的架构的框图，该系统100能够基于使用电子设备120(例的预测。传送设备12(图1)和接收设备11两者都可以包括电子设备120的一些或全部特征。7且可以包括对如下所描述的示例的任意处理但不限于如下所描述的示例的任意处理)以及电子设备120)或无线地(例如，BLUETOOTHe头戴式耳机或BLUETOOTH@小型[0030]在一些实施例中，显示器121可以包括用于提供用户可见的显示的任何合适的屏网络110)并将通信操作和媒体从电子设备120传送到通信网络内的其它设备的任何合适的通信电路。通信电路125可操作以与使用任何合适的通信协议(诸如例如Wi-Fi(例如[0033]在一些实施例中，通信电路125可操作以使用任何合适的通信协议来创建通信网8关的联系信息或存储与用户选择的不同媒体类型和媒体项有关的信息)所利用的其它设备麦克风122，以允许用户在通信操作期间或者作为建立通信操作的手段或者作为使用物理[0038]在一些实施例中，电子设备120可以包括适于执行通信操作的任何其它组件。例诸如电子设备120(图2)的泛在设备上执行各种日常动作，电子设备120包括但不限于智能来越多地收集详细的设备使用日志(诸如使用的应用或查看的内容)以及用户环境日志(诸[0040]准确预测用户对泛在设备的下一动作是对于更为与环境相关的推荐和目标广告9环境感知循环模型和预测处理300预测用户可能在为晚餐搜索到"Mike's"汉堡餐厅的方[0042]图3示出了根据一些实施例的用于个人环境感知循环模型和预测处理300的选择方法以及建立在联合训练模型600方法之上的基于环境关注的循环预测器700(也参见图预测器700模型在多个预测目标和数据集上对于各个用户被最频繁地选择，并且还提高了且模型选择器340(使用当前环境和过去动作信息350)为每个用户和预测目标(下一动作概知循环模型和预测处理300的训练数据包括个人用户数据305、时间307上的环境信息310环境循环模型510、520和530中的每个都将环境信息添加到模拟用户的短期和长期行为的的三个主要类别不是详尽的，并且替代实施例可以包括诸如模型类别4和5的附加的个人注的循环预测器700模型(也参见图7)中的循环连接，可以采用最后S个用户动作嵌入上的[0046]在一个或多个实施例中，个人环境感知循环模型和预测处理300显著提高了用于[0047]在一些实施例中，这三个主要类别的环境感知循环模型320提供了需要与每个单感知循环模型和预测处理300基于下一动作概率370为每个用户和预测目标选择最佳个人[0048]在一些实施例中，当在设备(例如，图2的电子设备120)上实现环境GRU模型510、短期和长期用户行为来预测下一动作，因此个人环境感知循环模型和预测处理300不需要型和预测处理300使用会话长度超参数S来确定在每个预测步骤输入到环境感知循环模型模型700)自动地决定如何使用短期用户行为(例如，最后3个应用等)和长期用户行为(例对于循环模型为环境感知循环模型(联合训练模型600和基于环境关注的循环预测器模型[0049]图4示出了根据一些实施例的构成预测模型的基础的基础GRU400。在一个或多个个目标是使用三个主要类别的环境感知循环模型320来模拟条件概率分布P(at|ct,a<t,[0050]在一个或多个实施例中，GRU400基于输入项的序列{xt},t＝1…T输出隐藏状态用softmax激活函数来将输出变换为序列中下一[0064]o:=w"hc+b,使用的在诸如GRU的循环网络的每个步骤中结合环境的技术是将环境向量在输入到GRU之间t的输入动作映射为低维嵌入向量af;这比使用输入动作at的稀疏独热编码执行得更好。其次，代替直接级联独热编码稀疏环境向量ct+1，将ct+1输入到多层感知器(MLP)单元好的的长度仅为15。在一个或多个实施例中，实现了没有任何隐藏层的简单MLP单元cfr如下计算：[0069]cr=f(wctt1+b.)c[af;1].为了进一h和Wz预测器510仅示出了通过将环境特征表示与输入到GRU400的输入动作嵌入输入进行级联而在GRU400的每个步骤结合环境的一个示例。根据一些实施例，根据如何将环境结合到GRU400中来实现两个附加的环境GRU模型(图5B中的环境GRU预测器520和图5C中的环境示与由GRU400输出的隐藏状态ht级联；该级联的向量然后输入到softmax激(环境GRU预测器510)；对于其它用户，将环境级联到输入和输出模块两者效果最好(环境户的个人数据集中观察到的用户行为的复杂度和变化匹配的不同级别的模型复杂度和模[0077]图6示出了根据一些实施例将环境特征与最终GRU隐藏状态进行组合的联合训练需要任何L2-正则化或者独热编码输入动作和环境向量到密集特征嵌入的变换来实现高预地减轻了由这种高维环境输入特征和稀疏训练数据引起的过拟合问题。在一些实施例中，对于诸如电视内容类型或具有低维时间环境特征(诸如一天中的时间和一周中的一天)的频道预测的问题，在每个步骤中结合环境的GRU模型比联合训练网络架构600方法效果更实施例中，基于环境关注的循环预测器模型700构建在联合训练网络架构600(图6)方法之Alice在几个较早的时间步骤在YELpg上浏览Vito's的动作以及当前驾驶环境的影响。有效的动作预测过程应该能够基于用户的当前环境来考虑这样的长期动作依赖性。理论关注的循环预测器模型700中所看到的，一个关键新颖性是环境向量用作附加输入以确定外使用当前驾驶环境来将更高的关注权重分配给当Alice在上查找Vito's时的且是针对多个预测目标的在用户之间最广泛选择的预测模型。随着K(期望的前K个预测动时间步骤的对用户状态的环境关注提高了由基于环境关注的循环预测器模型700输出的预模型700通过提供对用户过去状态最影响当前动作预测的更深入的见解，使得循环模型更hj+D2ht+D3ct+1)11计算用户顺序行为的关注加权隐藏表示关注加权表示通过关注与用户的下一动作[0090]在一些实施例中，通过将最终隐藏状态ht、关注权重隐和ct+1进行级联来计算级联的向量[c;cr1;⃞hJ;最后将该级联向量输入到t还通过添加由联合训练模型600(图6)方法忽略的附加的之前环境状态信息来显t+1[0091]图8示出了根据一些实施例的由基于环境关注的循环预测器模型700(图7)通过GRU状态捕获的最近和过去用户行为(用户810在时间307上发起的最后20个应用)的杠杆化用的示例关注权重820。可以观察到在较早的几个时间步骤中在消息传送动作上的高关注[0094]图9示出了根据一些实施例的用于基于环境感知循环模拟来预测对泛在设备的下预测器700模型(图7)等)的每个模型提供了基于用户在第一持续时间上的数据集来评估模[0098]图10是示出包括实现一个或多个实施例的计算系统的信息处理系统的示例性高[0100]经由通信接口1017传送的信息可以是能够由通信接口1017经由携带信号的通信注的循环预测器700模型处理(图7)和过程900(图9)的选择类似的处理。在一个实施例中，模型选择和动作处理1030以及操作系统1029可以实现为存在于系统1000的内存中的可执例可以采取完全硬件实施例、完全软件实施例或包含硬件和软件元件两者的实施例的形创建用于实现流程图和/或框图中指定的功能/操作的手段。流程图/框图中的每个块可以生包括实现在流程图和/或框图的一个或多个块中指[0107]可以将表示本文的框图和/或流程图的计算机程序指令加载到计算机、可编程数取并存储指令的有形存储介质，该指令由计算机系统执行以执行一个