系统设计面试题 - 设计 Twitter 时间线和搜索 (或者 Facebook feed 和搜索)

引用:
系统设计入门

设计 Twitter 时间线和搜索 (或者 Facebook feed 和搜索)

解答

第一步:通过讨论,明确限制及用例,确定Scope

支持的用例:

  • 用户发一条tweet
    • 系统将该tweet推送给该用户的followers,并发送通知
  • 用户查看自己的user timeline
  • 用户查看别人的home timeline(follow 的人)
  • 用户通过关键词搜索
  • 系统高可用 high availability

不支持的用例:

  • 系统不支持将该tweet推送给第三方系统,例如Firehose。
  • 系统不支持隐藏tweet功能。
  • 系统不支持统计Analytics功能。

Constraints and assumptions:

  • 访问不均匀
  • 发送及推送tweet要快
  • 100 million 用户
  • 平均每个用户有 10 个 followers
  • 每天 500 million 新tweet,乘以10,等于每天 5 billion 个推送,每秒60,000次
  • 每月 15 billion 写请求 = 500 million * 30,每秒6,000次
  • 每月 250 billion 读请求,每秒100,000次
  • 每月 10 billion 搜索请求,每秒4次

计算规模:
对于每一个tweet:

  • tweet_id:8 bytes
  • user_id:32 bytes
  • text:140 bytes
  • media:10 KB average
  • 总共: ~10 KB

对于每一个月:

  • 新tweet内容:150 TB = 10 KB * 500 million * 30
  • 三年:~5.4 PB = 150 TB * 36

第二步:高层次设计

设计 Twitter 时间线和搜索 (或者 Facebook feed 和搜索)

第三步:设计核心组件

Tweet基本信息存储在关系型数据库MySQL中。
Tweet包含的图片及视频等内容存储在 Object Store 中,可以是 Amazon S3,或者文档型的NoSQL,例如 MongoDB。

对于Write API:设计为一个REST API

  • 将Tweet基本信息存储在关系型数据库MySQL中。
  • 图片及视频等内容存储在 Object Store 中。
  • 使用 Fan Out Service:
    • 使用 User Graph Service 来查询该用户的followers,随后在Memory Cache中更新对应每一个follower的home timeline。
    • 使用Search Service来存储这个tweet,用来支持快速查询。
    • 使用Notification Service来推送给该用户的followers。

使用Redis作为Memory Cache,并使用list结构,例如:

           tweet n+2                   tweet n+1                   tweet n
| 8 bytes   8 bytes  1 byte | 8 bytes   8 bytes  1 byte | 8 bytes   8 bytes  1 byte |
| tweet_id  user_id  meta   | tweet_id  user_id  meta   | tweet_id  user_id  meta   |

对于Read API:设计为一个REST API

  • 使用Tweet Info读取tweet详细信息。
  • 使用User Info读取user详细信息。
  • 从 Memory Cache 中读取 user timeline 和 home timeline,找不到,则查询数据库。

对于Search API:设计为一个REST API

  • 解析输入字符串:
    • 去除标记 markup
    • 分词
    • Fix 输入错误 typo
    • 规范化大小写
  • 使用Search Service进行搜索。包括结果的 merges, ranks, sorts 等等。

第四步:扩展设计

设计 Twitter 时间线和搜索 (或者 Facebook feed 和搜索)
  • 为了服务不同区域的用户,加快访问的速度,使用CDN加速,并缓存静态内容,例如图片,视频等等。
  • 为了同时响应更多请求,对服务器水平扩展,并使用Load Balancer做负载均衡。
  • 由于是读多写少,可以采用主从复制的数据库模式。主库同时负责读取和写入操作,并复制写入到一个或多个从库中,从库只负责读操作。

其他一些优化思想:

  • Memory Cache 只保留活跃用户(最近30天上线过)的timeline,且只保留最近的100条tweet。
  • Tweet Info Service 只保留最近一个月的Tweet。
  • User Info Service 只保留活跃用户的信息。
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 214,837评论 6 496
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 91,551评论 3 389
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 160,417评论 0 350
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 57,448评论 1 288
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 66,524评论 6 386
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 50,554评论 1 293
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,569评论 3 414
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,316评论 0 270
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,766评论 1 307
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,077评论 2 330
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,240评论 1 343
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,912评论 5 338
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,560评论 3 322
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,176评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,425评论 1 268
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,114评论 2 366
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,114评论 2 352

推荐阅读更多精彩内容