CN117708200A - 排序模型的训练方法、信息检索方法、装置、设备及介质 - Google Patents

排序模型的训练方法、信息检索方法、装置、设备及介质 Download PDF

Info

Publication number
CN117708200A
CN117708200A CN202311727891.6A CN202311727891A CN117708200A CN 117708200 A CN117708200 A CN 117708200A CN 202311727891 A CN202311727891 A CN 202311727891A CN 117708200 A CN117708200 A CN 117708200A
Authority
CN
China
Prior art keywords
target
model
probability distribution
information
search request
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202311727891.6A
Other languages
English (en)
Inventor
庄安君
陈明阳
罗瀚
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shenzhen Futu Network Technology Co Ltd
Original Assignee
Shenzhen Futu Network Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shenzhen Futu Network Technology Co Ltd filed Critical Shenzhen Futu Network Technology Co Ltd
Priority to CN202311727891.6A priority Critical patent/CN117708200A/zh
Publication of CN117708200A publication Critical patent/CN117708200A/zh
Pending legal-status Critical Current

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/24—Querying
    • G06F16/245—Query processing
    • G06F16/2458—Special types of queries, e.g. statistical queries, fuzzy queries or distributed queries
    • G06F16/2474—Sequence data queries, e.g. querying versioned data
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/24—Querying
    • G06F16/245—Query processing
    • G06F16/2453—Query optimisation

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Databases & Information Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Computational Linguistics (AREA)
  • Fuzzy Systems (AREA)
  • Mathematical Physics (AREA)
  • Probability & Statistics with Applications (AREA)
  • Software Systems (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本公开公开了一种排序模型的训练方法、信息检索方法、装置、设备及介质，方法包括：接收样本搜索请求；将样本搜索请求中第一查询词对应的第一词向量分别输入第一排序模型和第二排序模型中，得到第一概率分布和第二概率分布，基于第一概率分布和第二概率分布对第二排序模型得到第一损失值；基于第一损失值调整第二排序模型的模型参数直至满足训练结束条件，得到目标排序模型，目标排序模型所输出的各信息模块对应的目标概率分布用于指示通过第一设备根据各信息模块被操作的概率值展示各个信息模块对应的查询结果。本公开各实施例提供的技术方案，无需线下训练排序模型，可根据用户的实际需求及时线上更新排序模型，提高了训练效率。

Description

排序模型的训练方法、信息检索方法、装置、设备及介质
技术领域
本公开属于信息处理技术领域，尤其涉及一种排序模型的训练方法、信息检索方法、装置、设备及介质。
背景技术
随着科学技术的发展，面对大量的信息数据，信息搜索技术可有助于帮助用户快速准确地找到所需的信息数据，而排序(retrieval ranking)是指通过排序模型对搜索结果进行排名的过程，是信息搜索技术至关重要的一环。相关技术中，排序模型通过大量的信息数据和用户行为数据进行训练后，直接投入线上使用，但是，排序模型在训练完成后其排序规则基本固定，当用户的搜索需求发生变化时，排序模型无法实时调整排序规则，无法满足用户的实际需求。
发明内容
本公开实施例提供一种方案，以解决相关技术中，通过大量的信息数据和用户行为数据在线下对排序模型进行训练，并直接投入线上使用后，排序模型的排序规则基本固定，当用户的搜索需求发生变化时，排序模型无法实时调整排序规则，无法满足用户的实际需求的问题。
第一方面，本公开提供一种排序模型的训练方法，方法包括：
接收第一设备发送的样本搜索请求；
确定所述样本搜索请求中第一查询词对应的第一词向量，并将所述第一词向量分别输入第一排序模型和第二排序模型中，分别得到第一概率分布和第二概率分布，所述第一概率分布包括多个信息模块被操作的多个第一概率值，所述第二概率分布包括所述信息模块被操作的多个第二概率值；
基于所述第一概率分布和所述第二概率分布，对所述第二排序模型的原始损失值进行调整得到第一损失值；
基于所述第一损失值，调整所述第二排序模型的模型参数，直至满足训练结束条件，得到目标排序模型，所述目标排序模型所输出的各所述信息模块对应的目标概率分布用于指示通过第一设备根据各所述信息模块被操作的概率值展示各个信息模块对应的查询结果。
第二方面，本公开提供一种信息检索方，方法包括：
接收第一设备发送的目标搜索请求；
根据所述目标搜索请求获取各个信息模块对应的查询结果；
确定所述目标搜索请求中目标查询词对应的目标词向量，并将所述目标词向量输入目标排序模型中，分别得到目标概率分布；所述目标概率分布包括各所述信息模块被操作的目标概率值，其中，所述目标排序模型为第一方面所述目标排序模型；
将各个信息模块对应的查询结果以及各所述信息模块被操作的目标概率值反馈至第一设备，使得第一设备根据各所述信息模块被操作的目标概率值按顺序展示各所述信息模块以及各所述信息模块对应的查询结果。
第三方面，本公开提供一种排序模型的训练装置，所述装置包括：
第一接收单元，用于接收第一设备发送的样本搜索请求；
输入单元，用于确定所述样本搜索请求中第一查询词对应的第一词向量，并将所述第一词向量分别输入第一排序模型和第二排序模型中，分别得到第一概率分布和第二概率分布，所述第一概率分布包括多个信息模块被操作的多个第一概率值，所述第二概率分布包括所述信息模块被操作的多个第二概率值；
调整单元，用于基于所述第一概率分布和所述第二概率分布，对所述第二排序模型的原始损失值进行调整得到第一损失值；
所述调整单元，还用于基于所述第一损失值，调整所述第二排序模型的模型参数，直至满足训练结束条件，得到目标排序模型，所述目标排序模型所输出的各所述信息模块对应的目标概率分布用于指示通过第一设备根据各所述信息模块被操作的概率值展示各个信息模块对应的查询结果。
第四方面，本公开提供一种信息检索装置，所述装置包括：
第二接收单元，用于接收第一设备发送的目标搜索请求；
获取单元，用于根据所述目标搜索请求获取各个信息模块对应的查询结果；
确定单元，用于确定所述目标搜索请求中目标查询词对应的目标词向量，并将所述目标词向量输入目标排序模型中，分别得到目标概率分布；所述目标概率分布包括各所述信息模块被操作的目标概率值，其中，所述目标排序模型为第一方方面或第三方面所述目标排序模型；
展示单元，用于将各个信息模块对应的查询结果以及各所述信息模块被操作的目标概率值反馈至第一设备，使得第一设备根据各所述信息模块被操作的目标概率值按顺序展示各所述信息模块以及各所述信息模块对应的查询结果。
第五方面，本公开提供一种电子设备，包括：
处理器；以及
存储器，用于存储所述处理器的可执行指令；
其中，所述处理器配置为经由执行所述可执行指令来执行第一方面或第一方面可能的实施方式中的任一方法，以及第二方面或第二方面可能的实施方式中的任一方法。
第六方面，本公开实施例提供一种计算机可读存储介质，其上存储有计算机程序，所述计算机程序被处理器执行时实现第一方面或第一方面可能的实施方式中的任一方法，以及第二方面或第二方面可能的实施方式中的任一方法。
本公开提供的技术方案，接收第一设备发送的样本搜索请求；确定所述样本搜索请求中第一查询词对应的第一词向量，并将所述第一词向量分别输入第一排序模型和第二排序模型中，分别得到第一概率分布和第二概率分布，所述第一概率分布包括多个信息模块被操作的多个第一概率值，所述第二概率分布包括所述信息模块被操作的多个第二概率值；基于所述第一概率分布和所述第二概率分布，对所述第二排序模型的原始损失值进行调整得到第一损失值；基于所述第一损失值，调整所述第二排序模型的模型参数，直至满足训练结束条件，得到目标排序模型，所述目标排序模型所输出的各所述信息模块对应的目标概率分布用于指示通过第一设备根据各所述信息模块被操作的概率值展示各个信息模块对应的查询结果。本公开各实施例提供的技术方案，无需线下训练排序模型，大大降低了训练成本，提高了训练效率，并且可以实时收集用户的搜索请求作为样本搜索请求，并用于训练更新排序模型，使得排序模型可实时根据用户的实际需求对排序结果进行调整，有效提高目标排序模型的适用性。
附图说明
为了更清楚地说明本公开实施例或相关技术中的技术方案，下面将对实施例或相关技术描述中所需要使用的附图作一简单地介绍，显而易见地，下面描述中的附图是本公开的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。在附图中：
图1为本公开一实施例提供的一种排序模型的训练方法的流程示意图；
图2为本公开一实施例提供的一种排序模型工作的示意图；
图3为本公开一实施例提供的一种信息检索方法的流程示意图；
图4为本公开一实施例提供的一种排序模型的训练装置的结构示意图；
图5为本公开一实施例提供的一种信息检索装置的结构示意图；
图6为本公开一实施例提供的一种电子设备的结构示意图。
具体实施方式
下面详细描述本公开的实施例，实施例的示例在附图中示出。下面通过参考附图描述的实施例是示例性的，旨在用于解释本公开，而不能理解为对本公开的限制。
本公开实施例的说明书、权利要求书及附图中的术语“第一”和“第二”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的本公开实施例的实施例例如能够以除了在这里图示或描述的那些以外的顺序实施。此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包括一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
本公开实施例提供的排序模型的训练方法可以运行于终端设备或服务器。其中，终端设备可以为本地终端设备。其中，服务器可以是独立的物理服务器，也可以是多个物理服务器构成的服务器集群或者分布式系统，还可以是提供云服务、云数据库、云计算、云函数、云存储、网络服务、云通信、中间件服务、域名服务、安全服务、CDN、以及大数据和人工智能平台等基础云计算服务的云服务器。
随着科学技术的发展，面对大量的信息数据，信息搜索技术可有助于帮助用户快速准确地找到所需的信息数据，而排序(retrieval ranking)是指对搜索结果进行排名的过程，是信息搜索技术至关重要的一环；排序技术通常是利用各种统计学和机器学习方法建立排序模型，以通过排序模型对搜索结果进行排序，或者直接以固定的排序方式如按照信息发布时间、按照信息热度等规则排序，但是当用户的搜索需求发生变化时，排序模型或固定的排序方式无法实时调整对搜索结果的排序规则，难以满足用户的实际需求。
以该排序模型的训练方法应用于金融平台应用程序中的信息搜索场景为例，金融平台应用程序中可提供多种多样的与金融产品相关的信息数据：资讯、公告、财报、行情、基金、帮助中心等服务信息。用户在金融平台应用程序对应客户端使用搜索功能时，通常是在客户端提供的搜索输入框内输入查询词，触发搜索功能后，客户端与后台服务器进行通讯交互以获取搜索结果，搜索结果包括多种类的信息数据，例如包括但不限于：股票行情、公司公告、相关资讯、帮助中心等信息；客户端在获取到不同服务器返回的与查询词相关的搜索结果后，可对搜索结果进行分模块展示，即不同种类的信息数据单独通过一个信息模块进行展示。现有的信息搜索技术仅能对搜索结果(如各个信息模块中对应搜索结果的信息数据)进行排序而无法对信息模块的展示顺序进行排序，信息模块的展示顺序固定，难以满足用户的实际需求。
下面以具体的实施例对本公开的技术方案以及本公开的技术方案如何解决上述技术问题进行详细说明。下面这几个具体的实施例可以相互结合，对于相同或相似的概念或过程可能在某些实施例中不再赘述。下面将结合附图，对本公开的实施例进行描述。
图1为本公开一示例性实施例提供的一种排序模型的训练方法的流程示意图，该方法可以适用于各种具有数据处理功能的设备。以该方法应用于服务器为例，该方案至少包括以下步骤S101-S104：
S101，接收第一设备发送的样本搜索请求。
在一些实施例中，所述第一设备主要指的是用户所使用的电子设备。具体地，用户可通过所述第一设备向服务器(执行主体)发送用于查询目标查询词对应查询结果的搜索请求。可以理解的是，样本搜索请求可以是第一设备实时向服务器发送的搜索请求，服务器在响应该搜索请求从数据库中召回对应的搜索结果的同时，可以将该搜索请求作为样本搜索请求，用于对排序模型的训练。
在一些实施例中，所述样本搜索请求至少包括第一查询词。具体地，所述第一查询词可以为数字、字母、图形或文字的一种或组合。在此不再赘述。
S102，确定所述样本搜索请求中第一查询词对应的第一词向量，并将所述第一词向量分别输入第一排序模型和第二排序模型中，分别得到第一概率分布和第二概率分布。
其中，第一排序模型以及第二排序模型均是用于解决排序任务的模型，其中，第二排序模型可以是利用样本数据对第一排序模型进行一轮训练后得到的排序模型。
在一些实施例中，第一排序模型和第二排序模型可以为树模型，也可以是BRET(Bidirectional Encoder Representations from Transformers)模型，也可以为其他的神经网络模型，在此不进行一一举例。
在一些实施例中，所述第一概率分布包括多个信息模块被操作的多个第一概率值，所述第二概率分布包括所述信息模块被操作的多个第二概率值。
其中，所述信息模块主要指的是一种用于展示不同种类的信息数据的模块，例如新闻信息模块、公告信息模块、行情信息模块、帮助中心模块等。例如，样本搜索请求中第一查询词对应为“A公司”，该样本搜索请求对应的搜索结果包括多种类的信息数据，例如A公司对应的股票、基金等金融产品的行情信息，A公司发布的公告、财报等公告信息，以及A公司相关的新闻资讯等资讯信息，行情信息模块用于对A公司对应的股票、基金等金融产品相关的多条行情信息进行展示，新闻信息模块用于对A公司相关的新闻资讯的多条资讯信息，公告信息模块用于对A公司发布的公告、财报等公告信息进行展示。
在一些实施例中，信息模块被操作的概率值指的是信息模块被用户首次点击或选中的概率。信息模块对应的被用户首次点击或选中的概率可用于对信息模型的展示顺序进行排序，当某个信息模块被操作的概率值越大，其展示顺序越靠前。继续以样本搜索请求中第一查询词对应为“A公司”为例，如图2所示，将第一查询词“A公司”输入到第一排序模型21中，得到第一查询词对应的搜索结果对应的信息模块被操作的概率值，即所述信息模块包括行情信息模块(行情信息模块被操作的概率值为40％)、公告信息模块(公告信息模块被操作的概率值为30％)、新闻信息模块(新闻信息模块被操作的概率值为20％)和帮助中心模块(帮助中心模块被操作的概率值为10％)，后续第一设备对检索结果进行展示时，可以以信息模块为展示单元，并基于该概率值按照从大到小的顺序对各个信息模块进行展示，即按照行情信息模块、公告信息模块、新闻信息模块和帮助中心模块的顺序从上往下展示上述信息模块。
在一些实施例中，将所述第一词向量分别输入第一排序模型和第二排序模型中，分别得到第一概率分布和第二概率分布之前，所述方法还包括：
确定所述第一设备发送的样本搜索请求的数量大于预设的第二阈值时，将所述第一词向量分别输入第一排序模型和第二排序模型中，分别得到第一概率分布和第二概率分布。例如，所述第二阈值为10时，该样本搜索请求数量为8时，服务器只响应该样本搜索请求从数据库中召回对应的搜索结果，并不对排序模型进行训练，而当样本搜索请求的数量大于10时，服务器在响应该搜索请求从数据库中召回对应的搜索结果的同时，可以将该搜索请求作为样本搜索请求，用于对排序模型的训练。
本公开实施例中，通过设置所述第一设备发送的所述样本搜索请求的数量对应的第二阈值，保证所述排序模型的训练更新保证一定的频率，避免了大量训练资源的消耗，接人更加灵活地根据本搜索请求的数量来调整排序模型的训练更新频率。
在另一些实施例中，将所述第一词向量分别输入第一排序模型和第二排序模型中，分别得到第一概率分布和第二概率分布之前，所述方法还包括：
确定第一排序模块的使用时间值大于预设的第三阈值时，将所述第一词向量分别输入第一排序模型和第二排序模型中，分别得到第一概率分布和第二概率分布。例如，所述第三阈值为60时，该第一排序模型使用的时间值为50分钟，即小于60分钟，服务器只响应该样本搜索请求从数据库中召回对应的搜索结果，并不对排序模型进行训练，而当所述第一排序模型使用的时间值为67分钟，即大于60分钟，服务器在响应该搜索请求从数据库中召回对应的搜索结果的同时，可以将该搜索请求作为样本搜索请求，用于对排序模型的训练。
本公开实施例中，通过设置第一排序模块的的使用时间值对应的第三阈值，保证所述排序模型的训练更新保证一定的频率，避免了大量训练资源的消耗，更加灵活地根据本搜索请求的数量来调整排序模型的训练更新频率。
在另一些实施例中，将所述第一词向量分别输入第一排序模型和第二排序模型中，分别得到第一概率分布和第二概率分布之前，所述方法还包括：
确定所述第一设备发送的样本搜索请求的数量大于预设的第二阈值，且原始目标排序模块的使用时间值大于预设的第三阈值时，将所述第一词向量分别输入第一排序模型和第二排序模型中，分别得到第一概率分布和第二概率分布。
例如，所述第二阈值为10、所述第三阈值为60时，该第一排序模型使用的时间值为50分钟，即小于60分钟，或该样本搜索请求数量为8时，服务器只响应该样本搜索请求从数据库中召回对应的搜索结果，并不对排序模型进行训练，而当所述第一排序模型使用的时间值为67分钟，即大于60分钟，以及样本搜索请求的数量大于10时，服务器在响应该搜索请求从数据库中召回对应的搜索结果的同时，可以将该搜索请求作为样本搜索请求，用于对排序模型的训练。
S103，基于所述第一概率分布和所述第二概率分布，对所述第二排序模型的原始损失值进行调整得到第一损失值。
其中，原始损失值是指第二排序模型在上一次训练时得到的损失值。
为了避免第二排序模型在在线学习的过程中因个别样本的偏差而导致模型更新步长过大，可根据第一排序模型输出的第一概率分布和第二排序模型输出的第二概率分布间的概率分布差异，对第二排序模型的损失值进行调整，使得第二排序模型的迭代更新更稳定，避免第二排序模型的性能下降。
在一些实施例中，基于所述第一概率分布和所述第二概率分布，对所述第二排序模型的原始损失值进行调整得到第一损失值，包括步骤S201-S202：
S201，基于所述第一概率分布和所述第二概率分布，确定所述第一概率分布和所述第二概率分布之间的相对熵。
在一些实施例中，所述相对熵，又被称为KL(Kullback-Leibler的简称)散度，是两个概率分布间差异的非对称性度量。
S202，基于所述相对熵对所述第二排序模型的原始损失值进行调整，确定所述第二排序模型的第一损失值。
其中，若第一概率分布与所述第二概率分布间的相对熵越大，说明第二排序模型对信息模块的排序结果与第一排序模型对信息模块的排序结果的差异越大，即第二排序模型所输出的第二概率分布与历史学习结果差异大，若直接使用第二排序模型的原始损失值对第二排序模型的模型参数进行调整，可能会破坏第二排序模型已经学得的知识，造成第二排序模型的性能灾难性下降，此时可通过基于所述相对熵对第二排序模型的原始损失值进行适当的降低，保证第二排序模型迭代前后参数差距不会过大，以实现保证第二排序模型性能的稳定性；若第一概率分布与所述第二概率分布间的相对熵越小，说明第二排序模型对信息模块的预测排序结果与第一排序模型对信息模块的预测排序结果的差异越较小，即第二排序模型所输出的第二概率分布与第一排序模型所所输出的历史学习结果有差异但差异较小，若直接使用第二排序模型的原始损失值对第二排序模型的模型参数进行调整，对模型的性能提升效率低，对样本的利用率较低，此时可通过基于相对熵对第二排序模型的原始损失值进行适当的提高，提高样本利用率、降低训练时长。
在一些实施例中，基于所述相对熵对所述第二排序模型的原始损失值进行调整，确定所述第二排序模型的第一损失值，包括步骤S2021-S2022：
S2021，对比所述相对熵与预设的第一阈值，获取所述相对熵的目标惩罚系数。
在一些实施例中，目标惩罚系数指的是用于对所述相对熵进行调整的系数，是一个可变参数，通过加入所述目标惩罚系数，配合所述相对熵，可以对第二排序模型的损失值进行调整，使得第二排序模型的迭代更新更稳定，避免第二排序模型的性能下降。
在一些实施例中，所述第一阈值是一个固定的超参数，用来限定排序模型每次更新训练的差异，若所述第一阈值越大，说明排序模型每次更新训练的差异越大，即第二排序模型所输出的第二概率分布与第一排序模型所所输出的历史学习结果差异大。
在一些实施例中，对比所述相对熵与预设的第一阈值，获取所述相对熵的目标惩罚系数，包括：
当所述相对熵大于所述第一阈值时，将所述目标惩罚系数确定为前序惩罚系数的一倍。其中，前序惩罚系数是指上次训练第二排序模型时第一概率分布和第二概率分布间相对熵的惩罚系数。
当所述相对熵小于所述第一阈值时，将所述目标惩罚系数确定为所述前序惩罚系数的一半。
当所述相对熵等于所述第一阈值时，将所述目标惩罚系数确定为所述前序惩罚系数。
具体地，DKL为所述相对熵，d为所述第一阈值，βk-1为所述前序惩罚系数，βk为目标惩罚系数，具体计算过程如下：
若DKL<d，则βk＝βk-1/2；
若DKL>d，则βk＝βk-1*2；
若DKL＝d，则βk＝βk-1。
S2022，基于所述相对熵、所述目标惩罚系数和所述第二排序模型的原始损失值，确定所述第二排序模型的第一损失值。
在一些实施例中，所述第二排序模型的第一损失值为所述第二排序模型的原始损失值和所述相对熵与所述目标惩罚系数乘积的和。
进一步地，确定所述第二排序模型的第一损失值还可以通过公式得到，确定所述第二排序模型的第一损失值为：
其中，为所述第二排序模型的原始损失值，β为所述目标惩罚系数，DKL为所述相对熵。
S104，基于所述第一损失值，调整所述第二排序模型的模型参数，直至满足训练结束条件，得到目标排序模型。
在一些实施例中，所述目标排序模型所输出的各所述信息模块对应的目标概率分布用于指示通过第一设备根据各所述信息模块被操作的概率值展示各个信息模块对应的查询结果。
在一些实施例中，所述查询结果主要指的是各个信息模块包含的各个召回信息。具体地，新闻信息模块对应的查询结果为不同的新闻信息。
其中，训练结束条件可根据实际需求进行设置或者调整；具体地，可以实时收集搜索请求以及搜索请求对应的用户行为数据，对第一排序模型以及第二排序模型进行效果验证，当第二排序模型的效果优于第一排序模型，即满足训练结束条件；也可以设置最大训练次数，当对第二排序模型的训练次数达到最大训练次数，则可认为达到训练结束条件；还可以设置最大训练时间，当对第二排序模型的训练时长达到最大训练时间，则可认为达到训练结束条件。
以下提供一具体实施例，对本方案中排序模型的训练方案做进一步说明，其中，第一排序模型是指当前线上使用的排序模型，第二排序模型是对第一排序模型进行迭代更新后的模型；在对第二排序模型进行在线学习过程的第k次训练过程具体如下步骤：
步骤1，获取样本搜索请求，并确定样本搜索请求中第一查询词对应的第一词向量。
步骤2，确定所述样本搜索请求中第一查询词对应的第一词向量，并将所述第一词向量分别输入第一排序模型和第二排序模型中，分别得到第一概率分布和第二概率分布。
具体地，以样本搜索请求为搜索请求A为例，将样本搜索请求A对应的第一查询词的词向量输入到第一排序模型中，第一排序模型输出第一概率分布；同时，将样本搜索请求A对应的第一查询词的词向量输入到第二排序模型中，第二排序模型输出第二概率分布。
步骤3，基于所述第一概率分布和所述第二概率分布，确定所述第一概率分布和所述第二概率分布之间的相对熵。
具体地，根据第一概率分布以及第二概率分布，计算KL散度，得到相对熵。
步骤4，基于所述相对熵对所述第二排序模型的原始损失值进行调整，确定所述第二排序模型的第一损失值。
具体地，可以根据下面的公式计算本次训练的第一损失值Loss；
其中，是所述第二排序模型的原始损失值，β为所述目标惩罚系数，DKL为所述相对熵；
在一些实施例中，第一排序模型以及第二排序模型具体可以采用BRET模型，通过BRET模型的多分类任务实现对各个信息模块的被操作概率的预测；对应的，第二排序模型最后的激活函数为softmax函数，相应损失函数一般采用交叉熵损失函数(cross entropyloss)。
步骤5，根据第一损失值调第二排序模型的模型参数，得到一个新的第二排序模型。
通过重复步骤1至5，以对第二排序模型的模型参数进行迭代更新，直至满足训练结束条件，即可将第二排序模型作为新的第一排序模型，作为线上使用模型。
在排序模型训练过程中，为了避免第二排序模型在在线学习的过程中因个别样本的偏差而导致模型更新步长过大，可根据第一排序模型输出的第一概率分布和第二排序模型输出的第二概率分布间的概率分布差异，即通过相对熵对第二排序模型的损失值进行调整，来提高了排序模型训练的稳定性。
在一些实施例中，所述方法还包括步骤S21-S27：
S21，获取第一搜索请求以及第二搜索请求。
S22，确定所述第一搜索请求中第二查询词对应的第二词向量，并将所述第二词向量输入所述第一排序模型，得到第三概率分布。
S23，确定所述第二搜索请求中第三查询词对应的第三词向量，并将所述第三词向量输入所述第二排序模型，得到第四概率分布。
S24，根据所述第三概率分布中各所述信息模块被操作的第三概率值确定各信息模块的第一排序信息，根据所述第四概率分布中各所述信息模块被操作的第二概率值，确定各信息模块的第二排序信息。
S25，接收第一搜索请求对应的第一用户行为数据以及第二搜索请求对应的第二用户行为数据。
在一些实施例中，所述第一用户行为数据至少包括各所述信息模块中查询结果被操作的第一操作信息；例如，信息模块包括行情信息模块(行情信息模块被操作的概率值为40％)、公告信息模块(公告信息模块被操作的概率值为30％)、新闻信息模块(新闻信息模块被操作的概率值为20％)和帮助中心模块(帮助中心模块被操作的概率值为10％)，即终端设备(如第一设备)响应第一搜索请求，按照行情信息模块、公告信息模块、新闻信息模块、帮助中心模块的顺序，对各个信息模型对应查询结果进行展示，用户通过终端设备对查询结果进行点击、分享或点赞等操作，终端设备可将相应的操作以及操作对象(即不同的查询结果)所属的信息模块作为第一搜索请求对应的第一用户行为数据，返回至服务器中。同样的，所述第二用户行为数据至少包括各所述信息模块中查询结果被操作的第二操作信息，在此不再赘述。
S26，根据所述第一操作信息以及各信息模块的第一排序，确定所述第一排序模型的第一操作分数，根据所述第二操作信息以及各信息模块的第二排序，确定所述第二排序模型的第二操作分数。
其中，所述操作分数用于指示各排序模型模块对应的多个信息模块中被操作的信息模块是否与多个信息模块中被操作的概率值中概率值最高的信息模块相同。
在一些实施例中，根据所述第一操作信息以及各信息模块的第一排序，确定所述第一排序模型的第一操作分数，包括：对所述第一操作信息进行数据清洗得到第一目标操作信息，根据所述第一目标操作信息以及各信息模块的第一排序，确定所述第一排序模型的第一操作分数。同样的，在一些实施例中，根据所述第二操作信息以及各信息模块的第二排序，确定所述第二排序模型的第二操作分数，包括：对所述第二操作信息进行数据清洗得到第二目标操作信息，根据所述第二目标操作信息以及各信息模块的第二排序，确定所述第二排序模型的第二操作分数。
在本公开实施例中，对操作信息进行数据清洗主要是为了剔除操作信息中的噪声数据，提高了操作信息的准确性。
其中，第一目标操作信息可以是指首次被操作的查询结果对应的标的信息模块；具体地，可以先从第一操作信息中确定首次被操作的查询结果对应的标的信息模块，并从各信息模块的第一排序获取标的信息模块对应的排序信息，进而根据标的信息模块对应的排序信息确定对应的第一操作分数。
进一步地，第一目标操作信息还可以是指信息模块中查询结果被操作次数最多的标的信息模块；具体地，可以先从第一操作信息中确定信息模块中查询结果被操作次数最多的标的信息模块，并从各信息模块的第一排序获取标的信息模块对应的排序信息，进而根据标的信息模块对应的排序信息确定对应的第一操作分数。
以上述举例为例，各个信息模型的排序为行情信息模块、公告信息模块、新闻信息模块、帮助中心模块，当首次被操作的查询结果对应的标的信息模块或信息模块中查询结果被操作次数最多的标的信息模块为排序第一的行情信息模块，可确定第一排序模型的第一操作分数为10，当首次被操作的查询结果对应的标的信息模块或信息模块中查询结果被操作次数最多的标的信息模块为排序第三的行情信息模块，可确定第一排序模型的第一操作分数为5。
可以理解的是，确定第二排序模型的第二操作分数的步骤过程与确定第一排序模型的第一操作分数的步骤过程一致，在此不进行赘述。
在一些实施例中，当用户发起一次搜索请求A时，返回一系列的排序后的信息模块，假设信息模块是行情信息模块、公告信息模块、新闻信息模块以及帮助中心模块，如果用户点击了第二个排序结果中公告信息模块中的内容，那第一设备可以收集到一数据数列：“搜索请求A”，“点击公告信息模块”和“排序第二”。在该实施例中，用户的同一次的搜索请求附带一个请求id，并且将同一次的搜索请求对应的用户行为数据中的各种数据标注相同的请求id，通过采用这种标注方式，可以把整个请求链路数据串起来，解决数据标注问题，进而提高工作效率。
S27，当所述第一操作分数小于第二操作分数时，将所述第二排序模型确定为目标排序模型。
具体地，继续以所述第一排序模型的第一操作分数为5，所述第二排序模型的第二操作分数为10为例，所述第一排序模型的第一操作分数小于所述第二排序模型的第二操作分数，所以将所述第二排序模型作为目标排序模型。
在本公开实施例中，通过在线上同时维护两个排序模型，即第一排序模型和第二排序模型，在接收到用户的搜索请求时，我们会将搜索请求均分为第一搜索请求和第二搜索请求，第一搜索请求输入到所述第一排序模型中，第二搜索请求输入到第二排序模型中，同时通过收集各个搜索请求对应的用户行为数据，即第一搜索请求对应的第一用户行为数据和第二搜索请求对应的第二用户行为数据；然后，通过第一用户行为数据以及第二行为数据比对第一排序模型的第一操作分数和第二排序模型的第二操作分数，以实现对比第一排序模型和第二排序模型的效果，其中，可以理解的是，操作分数越高代表排序模型的预测效果越好，即排序模块输出的各所述信息模块对应的目标概率分布能够有效预测用户所偏好点击的召回信息所属于的信息模块，最终将预测效果更好的排序模型作为目标排序模型，以保证第一设备通过各信息模块展示各个信息模块对应的查询结果更符合用户偏好，准确度高。
本公开提供的技术方案，接收第一设备发送的样本搜索请求；确定所述样本搜索请求中第一查询词对应的第一词向量，并将所述第一词向量分别输入第一排序模型和第二排序模型中，分别得到第一概率分布和第二概率分布，所述第一概率分布包括多个信息模块被操作的多个第一概率值，所述第二概率分布包括所述信息模块被操作的多个第二概率值；基于所述第一概率分布和所述第二概率分布，对所述第二排序模型的原始损失值进行调整得到第一损失值；基于所述第一损失值，调整所述第二排序模型的模型参数，直至满足训练结束条件，得到目标排序模型，所述目标排序模型所输出的各所述信息模块对应的目标概率分布用于指示通过第一设备根据各所述信息模块被操作的概率值展示各个信息模块对应的查询结果。本公开各实施例提供的技术方案，无需线下训练排序模型，大大降低了训练成本，提高了训练效率，并且可以根据用户的样本搜索请求实时更新排序模型，满足用户的不同实际需求，并且提高了目标排序模型的适用性。
图3为本公开一示例性实施例提供的一种信息检索方法的流程示意图，该方法可以适用于各种具有数据处理功能的设备。该方法至少包括以下步骤S301-S304：
S301，接收第一设备发送的目标搜索请求。
S302，根据所述目标搜索请求获取各个信息模块对应的查询结果；
S303，确定所述目标搜索请求中目标查询词对应的目标词向量，并将所述目标词向量输入目标排序模型中，分别得到目标概率分布。
在一些实施例中，所述目标概率分布包括各所述信息模块被操作的目标概率值。
其中，所述目标排序模型为上述实施例中所述目标排序模型。
S304，将各个信息模块对应的查询结果以及各所述信息模块被操作的目标概率值反馈至第一设备，使得第一设备根据各所述信息模块被操作的目标概率值按顺序展示各所述信息模块以及各所述信息模块对应的查询结果。
本公开提供的技术方案，接收第一设备发送的目标搜索请求；根据所述目标搜索请求获取各个信息模块对应的查询结果；确定所述目标搜索请求中目标查询词对应的目标词向量，并将所述目标词向量输入目标排序模型中，得到目标概率分布；所述目标概率分布包括各所述信息模块被操作的目标概率值，将各个信息模块对应的查询结果以及各所述信息模块被操作的目标概率值反馈至第一设备，使得第一设备根据各所述信息模块被操作的目标概率值按顺序展示各所述信息模块以及各所述信息模块对应的查询结果。通过目标排序模型处理第一设备发送的目标搜索请求，使得第一设备根据各所述信息模块被操作的目标概率值按顺序展示各所述信息模块以及各所述信息模块对应的查询结果，可以满足用户的不同实际需求，大大提高了检索工作的效率。
图4为本公开一示例性实施例提供的一种排序模型的训练装置的结构示意图；
其中，该装置包括：第一接收单元401、输入单元402和调整单元403；
第一接收单元401，用于接收第一设备发送的样本搜索请求；
输入单元402，用于确定所述样本搜索请求中第一查询词对应的第一词向量，并将所述第一词向量分别输入第一排序模型和第二排序模型中，分别得到第一概率分布和第二概率分布，所述第一概率分布包括多个信息模块被操作的多个第一概率值，所述第二概率分布包括所述信息模块被操作的多个第二概率值；
调整单元403，用于基于所述第一概率分布和所述第二概率分布，对所述第二排序模型的原始损失值进行调整得到第一损失值；
所述调整单元403，还用于基于所述第一损失值，调整所述第二排序模型的模型参数，直至满足训练结束条件，得到目标排序模型，所述目标排序模型所输出的各所述信息模块对应的目标概率分布用于指示通过第一设备根据各所述信息模块被操作的概率值展示各个信息模块对应的查询结果。
在一些实施例中，基于所述第一概率分布和所述第二概率分布，对所述第二排序模型的原始损失值进行调整得到第一损失值，所述装置还用于：
基于所述第一概率分布和所述第二概率分布，确定所述第一概率分布和所述第二概率分布之间的相对熵；
基于所述相对熵对所述第二排序模型的原始损失值进行调整，确定所述第二排序模型的第一损失值。
在一些实施例中，基于所述相对熵对所述第二排序模型的原始损失值进行调整，确定所述第二排序模型的第一损失值，所述装置还用于：
对比所述相对熵与预设的第一阈值，获取所述相对熵的目标惩罚系数；
基于所述目标惩罚系数对所述相对熵进行调整，得到目标相对熵；
基于所述目标相对熵和所述第二排序模型的原始损失值，确定所述第二排序模型的第一损失值。
在一些实施例中，所述装置还用于：
当所述相对熵大于所述第一阈值时，将所述目标惩罚系数确定为前序惩罚系数的一倍；其中，前序惩罚系数是指上次训练第二排序模型时第一概率分布和第二概率分布间相对熵的惩罚系数；
当所述相对熵小于所述第一阈值时，将所述目标惩罚系数确定为所述前序惩罚系数的一半；
当所述相对熵等于所述第一阈值时，将所述目标惩罚系数确定为所述前序惩罚系数。
在一些实施例中，所述基于所述第一损失值，调整所述第二排序模型的模型参数，得到目标排序模型，所述装置还用于：
获取第一搜索请求以及第二搜索请求；
确定所述第一搜索请求中第二查询词对应的第二词向量，并将所述第二词向量输入所述第一排序模型，得到第三概率分布；
确定所述第二搜索请求中第三查询词对应的第三词向量，并将所述第三词向量输入所述第二排序模型，得到第四概率分布；
根据所述第三概率分布中各所述信息模块被操作的第三概率值确定各信息模块的第一排序信息，根据所述第四概率分布中各所述信息模块被操作的第二概率值，确定各信息模块的第二排序信息；
接收第一搜索请求对应的第一用户行为数据以及第二搜索请求对应的第二用户行为数据，所述第一用户行为数据至少包括各所述信息模块中查询结果被操作的第一操作信息，所述第二用户行为数据至少包括各所述信息模块中查询结果被操作的第二操作信息；
根据所述第一操作信息以及各信息模块的第一排序，确定所述第一排序模型的第一操作分数，根据所述第二操作信息以及各信息模块的第二排序，确定所述第二排序模型的第二操作分数；
当所述第一操作分数小于第二操作分数时，将所述第二排序模型确定为目标排序模型。
在一些实施例中，将所述第一词向量分别输入第一排序模型和第二排序模型中，分别得到第一概率分布和第二概率分布之前，所述装置还用于：
确定所述第一设备发送的样本搜索请求的数量大于预设的第二阈值时，将所述第一词向量分别输入第一排序模型和第二排序模型中，分别得到第一概率分布和第二概率分布。
本公开提供的技术方案，接收第一设备发送的样本搜索请求；确定所述样本搜索请求中第一查询词对应的第一词向量，并将所述第一词向量分别输入第一排序模型和第二排序模型中，分别得到第一概率分布和第二概率分布，所述第一概率分布包括多个信息模块被操作的多个第一概率值，所述第二概率分布包括所述信息模块被操作的多个第二概率值；基于所述第一概率分布和所述第二概率分布，对所述第二排序模型的原始损失值进行调整得到第一损失值；基于所述第一损失值，调整所述第二排序模型的模型参数，直至满足训练结束条件，得到目标排序模型，所述目标排序模型所输出的各所述信息模块对应的目标概率分布用于指示通过第一设备根据各所述信息模块被操作的概率值展示各个信息模块对应的查询结果。本公开各实施例提供的技术方案，无需线下训练排序模型，大大降低了训练成本，提高了训练效率，并且可以根据用户的样本搜索请求实时更新排序模型，满足用户的不同实际需求，并且提高了目标排序模型的适用性。
图5为本公开一示例性实施例提供的一种信息检索装置的结构示意图；
其中，该装置包括：第二接收单元501、获取单元502、确定单元503和展示单元504；
第二接收单元501，用于接收第一设备发送的目标搜索请求；
获取单元502，用于根据所述目标搜索请求获取各个信息模块对应的查询结果；
确定单元503，用于确定所述目标搜索请求中目标查询词对应的目标词向量，并将所述目标词向量输入目标排序模型中，分别得到目标概率分布；所述目标概率分布包括各所述信息模块被操作的目标概率值，其中，所述目标排序模型为上述实施例所述目标排序模型；
展示单元504，用于将各个信息模块对应的查询结果以及各所述信息模块被操作的目标概率值反馈至第一设备，使得第一设备根据各所述信息模块被操作的目标概率值按顺序展示各所述信息模块以及各所述信息模块对应的查询结果。
应理解的是，装置实施例与方法实施例可以相互对应，类似的描述可以参照方法实施例。为避免重复，此处不再赘述。具体地，该装置可以执行上述方法实施例，并且该装置中的各个模块的前述和其它操作和/或功能分别为了上述方法实施例中的各个方法中的相应流程，为了简洁，在此不再赘述。
上文中结合附图从功能模块的角度描述了本公开实施例的装置。应理解，该功能模块可以通过硬件形式实现，也可以通过软件形式的指令实现，还可以通过硬件和软件模块组合实现。具体地，本公开实施例中的方法实施例的各步骤可以通过处理器中的硬件的集成逻辑电路和/或软件形式的指令完成，结合本公开实施例公开的方法的步骤可以直接体现为硬件译码处理器执行完成，或者用译码处理器中的硬件及软件模块组合执行完成。可选地，软件模块可以位于随机存储器，闪存、只读存储器、可编程只读存储器、电可擦写可编程存储器、寄存器等本领域的成熟的存储介质中。该存储介质位于存储器，处理器读取存储器中的信息，结合其硬件完成上述方法实施例中的步骤。
图6是本公开实施例提供的电子设备的示意性框图，该电子设备可包括：
存储器601和处理器602，该存储器601用于存储计算机程序，并将该程序代码传输给该处理器602。换言之，该处理器602可以从存储器601中调用并运行计算机程序，以实现本公开实施例中的方法。
例如，该处理器602可用于根据该计算机程序中的指令执行上述方法实施例。
在本公开的一些实施例中，该处理器602可以包括但不限于：
通用处理器、数字信号处理器(Digital Signal Processor，DSP)、专用集成电路(Application Specific Integrated Circuit，ASIC)、现场可编程门阵列(FieldProgrammable Gate Array，FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等等。
在本公开的一些实施例中，该存储器601包括但不限于：
易失性存储器和/或非易失性存储器。其中，非易失性存储器可以是只读存储器(Read-Only Memory，ROM)、可编程只读存储器(Programmable ROM，PROM)、可擦除可编程只读存储器(Erasable PROM，EPROM)、电可擦除可编程只读存储器(Electrically EPROM，EEPROM)或闪存。易失性存储器可以是随机存取存储器(Random Access Memory，RAM)，其用作外部高速缓存。通过示例性但不是限制性说明，许多形式的RAM可用，例如静态随机存取存储器(Static RAM，SRAM)、动态随机存取存储器(Dynamic RAM，DRAM)、同步动态随机存取存储器(Synchronous DRAM，SDRAM)、双倍数据速率同步动态随机存取存储器(Double DataRate SDRAM，DDR SDRAM)、增强型同步动态随机存取存储器(Enhanced SDRAM，ESDRAM)、同步连接动态随机存取存储器(synch link DRAM，SLDRAM)和直接内存总线随机存取存储器(Direct Rambus RAM，DR RAM)。
在本公开的一些实施例中，该计算机程序可以被分割成一个或多个模块，该一个或者多个模块被存储在该存储器601中，并由该处理器602执行，以完成本公开提供的方法。该一个或多个模块可以是能够完成特定功能的一系列计算机程序指令段，该指令段用于描述该计算机程序在该电子设备中的执行过程。
如图6所示，该电子设备还可包括：
收发器603，该收发器603可连接至该处理器602或存储器601。
其中，处理器602可以控制该收发器603与其他设备进行通信，具体地，可以向其他设备发送信息或数据，或接收其他设备发送的信息或数据。收发器603可以包括发射机和接收机。收发器603还可以进一步包括天线，天线的数量可以为一个或多个。
应当理解，该电子设备中的各个组件通过总线系统相连，其中，总线系统除包括数据总线之外，还包括电源总线、控制总线和状态信号总线。
本公开还提供了一种计算机存储介质，其上存储有计算机程序，该计算机程序被计算机执行时使得该计算机能够执行上述方法实施例的方法。或者说，本公开实施例还提供一种包含指令的计算机程序产品，该指令被计算机执行时使得计算机执行上述方法实施例的方法。
当使用软件实现时，可以全部或部分地以计算机程序产品的形式实现。该计算机程序产品包括一个或多个计算机指令。在计算机上加载和执行该计算机程序指令时，全部或部分地产生按照本公开实施例该的流程或功能。该计算机可以是通用计算机、专用计算机、计算机网络、或者其他可编程装置。该计算机指令可以存储在计算机可读存储介质中，或者从一个计算机可读存储介质向另一个计算机可读存储介质传输，例如，该计算机指令可以从一个网站站点、计算机、服务器或数据中心通过有线(例如同轴电缆、光纤、数字用户线(digital subscriber line，DSL))或无线(例如红外、无线、微波等)方式向另一个网站站点、计算机、服务器或数据中心进行传输。该计算机可读存储介质可以是计算机能够存取的任何可用介质或者是包含一个或多个可用介质集成的服务器、数据中心等数据存储设备。该可用介质可以是磁性介质(例如，软盘、硬盘、磁带)、光介质(例如数字视频光盘(digital video disc，DVD))、或者半导体介质(例如固态硬盘(solid state disk，SSD))等。
本领域普通技术人员可以意识到，结合本文中所公开的实施例描述的各示例的模块及算法步骤，能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本公开的范围。
在本公开所提供的几个实施例中，应该理解到，所揭露的系统、装置和方法，可以通过其它的方式实现。例如，以上所描述的装置实施例仅仅是示意性的，例如，该模块的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个模块或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口，装置或模块的间接耦合或通信连接，可以是电性，机械或其它的形式。
作为分离部件说明的模块可以是或者也可以不是物理上分开的，作为模块显示的部件可以是或者也可以不是物理模块，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。例如，在本公开各个实施例中的各功能模块可以集成在一个处理模块中，也可以是各个模块单独物理存在，也可以两个或两个以上模块集成在一个模块中。
以上仅为本公开的具体实施方式，但本公开的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本公开揭露的技术范围内，可轻易想到变化或替换，都应涵盖在本公开的保护范围之内。因此，本公开的保护范围应以该权利要求的保护范围为准。

Claims (11)

1.一种排序模型的训练方法，其特征在于，所述方法包括：
接收第一设备发送的样本搜索请求；
确定所述样本搜索请求中第一查询词对应的第一词向量，并将所述第一词向量分别输入第一排序模型和第二排序模型中，分别得到第一概率分布和第二概率分布，所述第一概率分布包括多个信息模块被操作的多个第一概率值，所述第二概率分布包括所述信息模块被操作的多个第二概率值；
基于所述第一概率分布和所述第二概率分布，对所述第二排序模型的原始损失值进行调整得到第一损失值；
基于所述第一损失值，调整所述第二排序模型的模型参数，直至满足训练结束条件，得到目标排序模型，所述目标排序模型所输出的各所述信息模块对应的目标概率分布用于指示通过第一设备根据各所述信息模块被操作的概率值展示各个信息模块对应的查询结果。
2.根据权利要求1所述的方法，其特征在于，基于所述第一概率分布和所述第二概率分布，对所述第二排序模型的原始损失值进行调整得到第一损失值，包括：
基于所述第一概率分布和所述第二概率分布，确定所述第一概率分布和所述第二概率分布之间的相对熵；
基于所述相对熵对所述第二排序模型的原始损失值进行调整，确定所述第二排序模型的第一损失值。
3.根据权利要求2所述的方法，其特征在于，基于所述相对熵对所述第二排序模型的原始损失值进行调整，确定所述第二排序模型的第一损失值，包括：
对比所述相对熵与预设的第一阈值，获取所述相对熵的目标惩罚系数；
基于所述相对熵、所述目标惩罚系数和所述第二排序模型的原始损失值，确定所述第二排序模型的第一损失值。
4.根据权利要求3所述的方法，其特征在于，所述方法还包括：
当所述相对熵大于所述第一阈值时，将所述目标惩罚系数确定为前序惩罚系数的一倍；其中，前序惩罚系数是指上次训练第二排序模型时第一概率分布和第二概率分布间相对熵的惩罚系数；
当所述相对熵小于所述第一阈值时，将所述目标惩罚系数确定为所述前序惩罚系数的一半；
当所述相对熵等于所述第一阈值时，将所述目标惩罚系数确定为所述前序惩罚系数。
5.根据权利要求1所述的方法，其特征在于，所述方法还包括：
获取第一搜索请求以及第二搜索请求；
确定所述第一搜索请求中第二查询词对应的第二词向量，并将所述第二词向量输入所述第一排序模型，得到第三概率分布；
确定所述第二搜索请求中第三查询词对应的第三词向量，并将所述第三词向量输入所述第二排序模型，得到第四概率分布；
根据所述第三概率分布中各所述信息模块被操作的第三概率值确定各信息模块的第一排序信息，根据所述第四概率分布中各所述信息模块被操作的第二概率值，确定各信息模块的第二排序信息；
接收第一搜索请求对应的第一用户行为数据以及第二搜索请求对应的第二用户行为数据，所述第一用户行为数据至少包括各所述信息模块中查询结果被操作的第一操作信息，所述第二用户行为数据至少包括各所述信息模块中查询结果被操作的第二操作信息；
根据所述第一操作信息以及各信息模块的第一排序，确定所述第一排序模型的第一操作分数，根据所述第二操作信息以及各信息模块的第二排序，确定所述第二排序模型的第二操作分数；
当所述第一操作分数小于第二操作分数时，将所述第二排序模型确定为目标排序模型。
6.根据权利要求1所述的方法，其特征在于，将所述第一词向量分别输入第一排序模型和第二排序模型中，分别得到第一概率分布和第二概率分布之前，所述方法还包括：
确定所述第一设备发送的样本搜索请求的数量大于预设的第二阈值时，将所述第一词向量分别输入第一排序模型和第二排序模型中，分别得到第一概率分布和第二概率分布。
7.一种信息检索方法，其特征在于，所述方法包括：
接收第一设备发送的目标搜索请求；
根据所述目标搜索请求获取各个信息模块对应的查询结果；
确定所述目标搜索请求中目标查询词对应的目标词向量，并将所述目标词向量输入目标排序模型中，分别得到目标概率分布；所述目标概率分布包括各所述信息模块被操作的目标概率值，其中，所述目标排序模型为权利要求1至6中任一项所述目标排序模型；
将各个信息模块对应的查询结果以及各所述信息模块被操作的目标概率值反馈至第一设备，使得第一设备根据各所述信息模块被操作的目标概率值按顺序展示各所述信息模块以及各所述信息模块对应的查询结果。
8.一种排序模型的训练装置，其特征在于，所述装置包括：
第一接收单元，用于接收第一设备发送的样本搜索请求；
输入单元，用于确定所述样本搜索请求中第一查询词对应的第一词向量，并将所述第一词向量分别输入第一排序模型和第二排序模型中，分别得到第一概率分布和第二概率分布，所述第一概率分布包括多个信息模块被操作的多个第一概率值，所述第二概率分布包括所述信息模块被操作的多个第二概率值；
调整单元，用于基于所述第一概率分布和所述第二概率分布，对所述第二排序模型的原始损失值进行调整得到第一损失值；
所述调整单元，还用于基于所述第一损失值，调整所述第二排序模型的模型参数，直至满足训练结束条件，得到目标排序模型，所述目标排序模型所输出的各所述信息模块对应的目标概率分布用于指示通过第一设备根据各所述信息模块被操作的概率值展示各个信息模块对应的查询结果。
9.一种信息检索装置，其特征在于，所述装置包括：
第二接收单元，用于接收第一设备发送的目标搜索请求；
获取单元，用于根据所述目标搜索请求获取各个信息模块对应的查询结果；
确定单元，用于确定所述目标搜索请求中目标查询词对应的目标词向量，并将所述目标词向量输入目标排序模型中，分别得到目标概率分布；所述目标概率分布包括各所述信息模块被操作的目标概率值，其中，所述目标排序模型为权利要求1至6中任一项所述目标排序模型；
展示单元，用于将各个信息模块对应的查询结果以及各所述信息模块被操作的目标概率值反馈至第一设备，使得第一设备根据各所述信息模块被操作的目标概率值按顺序展示各所述信息模块以及各所述信息模块对应的查询结果。
10.一种电子设备，其特征在于，包括：
处理器；以及
存储器，用于存储所述处理器的可执行指令；
其中，所述处理器配置为经由执行所述可执行指令来执行权利要求1-7中任一项所述的方法。
11.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现1-7中任一项的方法。
CN202311727891.6A 2023-12-14 2023-12-14 排序模型的训练方法、信息检索方法、装置、设备及介质 Pending CN117708200A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202311727891.6A CN117708200A (zh) 2023-12-14 2023-12-14 排序模型的训练方法、信息检索方法、装置、设备及介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202311727891.6A CN117708200A (zh) 2023-12-14 2023-12-14 排序模型的训练方法、信息检索方法、装置、设备及介质

Publications (1)

Publication Number Publication Date
CN117708200A true CN117708200A (zh) 2024-03-15

Family

ID=90151129

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202311727891.6A Pending CN117708200A (zh) 2023-12-14 2023-12-14 排序模型的训练方法、信息检索方法、装置、设备及介质

Country Status (1)

Country Link
CN (1) CN117708200A (zh)

Similar Documents

Publication Publication Date Title
WO2020135535A1 (zh) 一种推荐模型训练方法及相关装置
CN114265979A (zh) 确定融合参数的方法、信息推荐方法和模型训练方法
CN114691828B (zh) 数据处理方法、装置、设备以及介质
CN111881358B (zh) 一种对象推荐系统、方法、装置、电子设备和存储介质
CN112507724A (zh) 词权重确定方法、装置、服务器及计算机可读存储介质
EP3550447A1 (en) Performing cache update adaption
CN109117442B (zh) 一种应用推荐方法及装置
CN115485676B (zh) 基于用户画像的数据处理方法、装置、设备、介质及程序
CN111597401B (zh) 基于图关系网络的数据处理方法、装置、设备及介质
CN111369313A (zh) 订房失败订单的处理方法、装置、计算机设备及存储介质
CN115827841A (zh) 搜索方法及装置
CN108628882A (zh) 用于预判问题的方法和系统
CN113536138A (zh) 一种网络资源推荐方法、装置、电子设备及可读存储介质
US9418343B2 (en) Multistage learner for efficiently boosting large datasets
CN108563648B (zh) 数据显示方法和装置、存储介质及电子装置
CN115408508B (zh) 对话推荐与模型训练方法、装置、电子设备和存储介质
CN117217278A (zh) 模型训练方法、文本召回方法、设备、介质及程序产品
CN120634738A (zh) 数据预测方法及数据预测装置、电子设备、存储介质
CN111489196B (zh) 基于深度学习网络的预测方法、装置、电子设备及介质
CN117708200A (zh) 排序模型的训练方法、信息检索方法、装置、设备及介质
CN114329160B (zh) 搜索方法、装置、终端及存储介质
CN112784165B (zh) 关联关系预估模型的训练方法以及预估文件热度的方法
CN117035038A (zh) 模型剪枝方法、装置、设备及存储介质
CN114969486A (zh) 语料推荐方法、装置、设备及存储介质
CN115757974B (zh) 内容推荐方法、装置、设备、介质及产品

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination