有时候，快比慢更好。

| 接下来每句话你都可以点击文下一行进行“翻译”。第一句不翻译。

友情提示

比如，“推荐系统模型”就是这样。

| 就是你刷手机的时候，给你推荐各种视频、图文等背后的那个东西。

点击翻译

现在，微信的超大规模推荐系统模型低延时更新方案Ekko，全球模型更新生效延时低于2.4秒。

| 推荐给你的东西，只要2.4秒就能更新一次。

点击翻译

并且，微信基础架构团队关于Ekko方案详解的论文，入选了计算机系统领域顶级国际会议OSDI，这是腾讯首次以第一单位在该会议上发表论文。而OSDI是计算机系统领域最顶级的国际学术会议，被誉为“操作系统原理领域的奥斯卡”，创会以来近30年，国内单位在该会议发表论文总数仅20余篇。

| 这个奖足够我同事得瑟一阵的。

点击翻译

Ekko不仅在学术上填补了业界在模型高效更新上的空白，相比之前的最佳方案提升高达100x。

| 没有不夸我同事快的。

现有推荐系统更新方案

Ekko系统架构

| 右边的方案更好 |

点击翻译

微信之所以打造Ekko，是因为微信的深度学习推荐系统必须要低延时地更新推荐系统模型——社交活动中，用户的兴趣会随时事热点不断发生变化，用户发布的新视频、新文章也在源源不断地流入系统中。简单来说，为了让用户每时每刻都能看到自己感兴趣的新内容，微信需要一个推荐系统实时更新系统。

| 因为你们总想看点新东西。

点击翻译

然而，微信的10亿+用户规模给这一需求带来挑战：

| 人还挺多的，不太好办。

点击翻译

(a）微信有数千个TB级推荐模型，罕有支持该规模的全球模型存储服务。

| 数据很大，真的很大。

点击翻译

(b) 微信的大量机器/大规模网络构成了容灾方面的挑战。

| 要稳。

点击翻译

(c) 需要实时监控大量推荐模型的健康程度进行自动灾难恢复。

| “你的好友撤回一条信息”。

点击翻译

微信这一空前的规模和实时社交特性使得业界之前最好的推荐模型更新方案都不能很好地进行适配，以前的方案需要十分钟以上，数十分钟甚至数小时才能进行一次模型更新。

| 别人至少10多分钟，微信2.4秒完事儿。

异构带宽网络下Ekko的加速效果

| 加速了，看图 |

点击翻译

Ekko 来源于微信的 WePS 项目，在 2021 年初全面上线。现在，微信使用了Ekko在数千台机器上存储了数百TB的模型，涵盖包括视频号、看一看和订阅号等场景，每天服务超过10亿用户。在视频号全量使用基于Ekko的在线推荐后，结合产品迭代与运营，半年内DAU增加40%，总VV增长87%。

| 用了就有效果。

点击翻译

OSDI是计算机系统领域最顶级的学术会议之一，汇集了全球计算机科学家们对于计算机系统的前瞻性思考。OSDI汇集了来自学术界和工业界的顶尖开发人员和研究人员，共同推进（操作）系统的科学技术，其中的很多成果往往引领着全球计算机发展的方向。

第一届 OSDI 在 1994 年在 Menterey, CA 召开，此后基本每两年召开一次。创会近30年来，国内单位在该会议发表论文总数仅20余篇，本篇论文为腾讯首篇入选osdi的文章。