Tf-ranking: 一个用于排序的可扩展TensorFlow 库

排序---- 以使整个列表效用最大化的方式对列表进行排序的过程---- 适用于许多领域,从搜索引擎和推荐系统到机器翻译、对话系统甚至计算生物学。 在类似这样的应用程序(以及其他许多应用程序)中,研究人员经常使用一套被称为排序算法的监督式学习技术。 在许多情况下,这些排序算法技术被应用于大型数据集ーー在这些场景中,TensorFlow 的TF-ranking是一个候选算法。

2018年google的提出了TF-Ranking,这是一个可扩展的基于 tensorflow 的用于排序的库。 正如在其论文中所描述的[1],TF-Ranking 提供了一个统一的框架,其中包括一套最先进的学习排序算法,并支持成对或列表损失函数、多项评分、排序度量优化和无偏学习排序。

Tf-ranking 速度很快并且易于使用,可以创建高质量的排序模型。 统一的框架使机器学习的研究人员、实践者和爱好者能够在一个库中评估和选择一系列不同的排序模型。 此外,这个开源库不仅提供了合理的默认模型,还可以让用户能够开发自己的定制模型,且提供了灵活的 API,用户可以在其中定义和插入自己定制的损失函数、评分函数和指标。具体的优势有:

支持现有算法和评估方法

排序学习算法的目标是最小化一个实例列表上定义的损失函数,并对任何给定应用程序的新的数据优化列表排序。 Tf-ranking 支持一系列有关pointwise,pairwise和列表损失函数,这确保了使用 TF-Ranking 库的研究人员能够复制和扩展以前发布的模型,并且从业人员能够为其应用做出最有效的选择。 此外,TF-Ranking 可以通过嵌入和扩展到数亿个训练实例来处理稀疏特性(比如原始文本)。 因此,任何对构建真实世界的数据密集型排序系统(如网络搜索或新闻推荐)感兴趣的人都可以使用 TF-Ranking 作为一种健壮的、可扩展的解决方案。

实验评估是任何机器学习或信息检索研究的重要组成部分。 为了确保与前期工作的兼容性,TF-Ranking支持许多常用的排序指标,此外还可以在 TensorBoard (一个开源的 TensorFlow 可视化指示板)上轻松实现在训练时可视化这些指标。

多项打分

Tf-ranking 支持一种新颖的评分机制,其中多个项目(例如,网页)可以联合打分,这是传统评分范式的延伸,其中单个项目是独立评分。 多项评分的一个挑战是难以推断哪些项目必须被分组并按小组进行评分。 然后,每个项目的分数被累计,并用于排序。 为了使这些复杂性对用户透明,TF-Ranking 提供了一个 List-In-List-Out (LILO) API,用于在导出的 TF 模型中包装所有这些逻辑。

排序指标优化

排序算法中一个重要的挑战是排序指标的直接优化(如 NDCG 和 MRR)。 这些度量标准虽然能够比标准的分类度量标准(如曲线下面积(AUC))更好地度量排名系统的性能,但不幸的是它们要么是不连续的,要么是平坦的。 因此,这些指标的标准 / 随机梯度下降优化是有问题的。

TF-Ranking提出了一种新的方法-LambdaLoss,它为排序度量优化提供了一个原则性的概率框架。 在这个框架中,度量驱动的损失函数可以通过期望最大化过程来设计和优化。 Tf-ranking 库集成了直接度量优化方面的最新进展,并提供了 lambda 的实现。

来自网络

Tf-ranking 实现了 TensorFlow Estimator 接口,通过封装训练、评估、预测和导出服务,大大简化了机器学习编程。 Tf-ranking 与丰富的 TensorFlow 生态系统完美结合。 用户可以使用 Tensorboard 可视化 NDCG 和 MRR 等排名指标(如上图所示),以及使用这些指标选择最佳模型检测点。 一旦模型准备就绪,就很容易使用 TensorFlow Serving 将其部署到生产环境中。想动手的小伙伴可以在 GitHub 上找到源码,目前该项目已经有超过1K赞[2]。

参考

1.^https://arxiv.org/abs/1812.00073

2.^https://github.com/tensorflow/ranking

来源:https://zhuanlan.zhihu.com/p/66910766

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 211,376评论 6 491
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 90,126评论 2 385
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 156,966评论 0 347
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 56,432评论 1 283
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 65,519评论 6 385
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 49,792评论 1 290
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 38,933评论 3 406
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 37,701评论 0 266
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,143评论 1 303
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 36,488评论 2 327
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 38,626评论 1 340
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,292评论 4 329
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 39,896评论 3 313
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,742评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,977评论 1 265
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 46,324评论 2 360
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 43,494评论 2 348

推荐阅读更多精彩内容