论文学习:Video Suggestion and Discovery for YouTube: Taking Random Walks Through the View Graph

论文《Video Suggestion and Discovery for YouTube: Taking Random Walks Through the View Graph》发表于2008年,是相对比较早的一篇有关于YouTube推荐系统的文章。

1.简介

在最初的阶段,YouTube认为应该给用户推荐曾经观看过视频的同类视频,或者说拥有同一标签的视频。然而此时,YouTube的视频已是数千万量级,主要困难在于,尽管可以通过基于计算机视觉的技术可靠地推断出某些标签,但尚不存在任何令人满意的机制来对视频中的大部分内容进行标签;更为困难的是,YouTube视频中存在的标签通常很小,他们只捕获一小部分内容。解决该困难的核心方案有两部分:一是基于用户共同观看记录构建的图结构(Video Co-View Graph); 二是基于此数据结构的算法,被称为吸附算法(Adsorption Algorithm)。

2.共视图结构

共视信息为视频推荐提供了简单的基础。可以如下构建通常用作基于项目的协作过滤系统的基础的简单系统。假设用户U观看了两个视频J和K;从我们的共同观看统计数据中,我们知道看到视频J的许多其他用户也看到了视频L,M,N;类似地,对于视频K,我们知道许多其他用户看到了视频N,O,P,Q;因此,根据他对J和K的观看,我们可能推荐给U的视频可以简单地看作是两个共同视图集的集合:L,M,N,O,P,Q。为了对推荐进行排名,我们可以查看一个视频的浏览量(这将推荐流行视频)、每个视频的共同观看次数(这将推荐流行视频,考虑到用户所看到的内容),或者考虑每个视频被推荐给U的次数(注意,视频N被推荐了两次)等因素给出一个打分函数。

3.吸附算法

作者在本文中用大量篇幅讲述了吸附算法(Adsorption Algorithm ),该算法的目的就是为了解决视频标签的扩散,当我们有一个小的labeled数据集和一个很大的unlabeled数据集时,可以通做Adsorption将label从小的数据集推广到大数据集上。论文介绍了三个吸附算法,分别是通过均值的吸附,通过随机游走的吸附和通过线性系统的吸附。
吸附算法是基于G图的,而这个图G=<V,E,\omega>就是视频间的关联度图,公式中V代表图中的节点,也就是一个个视频,注意节点会包含多个标签。E代表节点间的连线,也就是视频之间是关联的。而\omega代表边的权重,也就是视频之间的关联程度,文章中是用用户共同观看次数来表示这个权重,用户共同看过这两个视频的次数越多,这个权重越大。如果没有,则两个视频间没有关联,也就是没有边。
均值吸附
均值吸附的算法流程如下:


图中G表示视频的关联图,L表示所有视频标签的合集,而
V_L
表示所有有标签视频节点的合集。
L_u
代表节点u的标签分布。整个流程很简单,节点 v 的标签的概率分布等
L_v
于点 u 和 v 之间的权重
\omega(u,v)
乘以点 u 的
L_u
, 通过这样一个传递 , 将邻居和自己的标签进行了"平均" 。
随机游走的吸附
随机游走的吸附就是将上图中
L_v=\sum_{u}{\omega(u,v)*L_u}
转换成
L_v=\sum_{u}{\frac{\omega(u,v)}{\sum_{u}{\omega(u,v)}}}L_u
, 其中
\frac{\omega(u,v)}{\sum_{u}{\omega(u,v)}}
表示随机遍历中选择节点u的概率。该算法就是将每一个顶点v的标签发到相关联的邻居上,在每一次传递结束后,对顶点的标签进行归一化。
线性吸附
线性吸附就是将
\frac{\omega(u,v)}{\sum_{u}{\omega(u,v)}}
理解为线性组合中占的比例。

4.总结

本文发表的时间较早,详细介绍了推荐系统中的吸附算法,主要解决的问题是如何有效的扩大视频标签,最后的实验离线测试效果很好,通过使用吸附算法,能够提高YouTube中建议的预期效率。

论文下载链接
学习参考链接

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 216,193评论 6 498
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 92,306评论 3 392
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 162,130评论 0 353
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 58,110评论 1 292
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 67,118评论 6 388
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,085评论 1 295
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,007评论 3 417
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,844评论 0 273
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,283评论 1 310
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,508评论 2 332
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,667评论 1 348
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,395评论 5 343
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,985评论 3 325
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,630评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,797评论 1 268
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,653评论 2 368
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,553评论 2 352