AI 日报

YouTube 仅用 9 名工程师就能支持每天 1 亿次视频观看的 11 个原因

  • By 51ITO
  • Oct 31, 2023 - 2 min read



作者 | NK

策划 | 言征 

2005 年 2 月, 美国加利福尼亚州。全球知名的在线支付服务公司PayPal已经走过 6 年零 2 个月的时间,3 名早期员工就像发现了互联网世界的流量密码一样,开始寻找属于他们的机会。

最后,他们希望建立一个分享视频的平台。后来这个在车库里诞生的平台,就是大名鼎鼎的YouTube。

最初,他们的财力有限,只能通过信用卡债务和基础设施借款为 YouTube 筹集资金。但财务上的紧张,也倒逼着他们打造出一套出色的可扩展性技术。

第二年,他们平台的视频日播放量就达到了 1 亿。更令人出乎意料的是,他们只用了 9 名工程师就做到了这一点。 

YouTube 是如何做到的?下面为大家一一揭开当年的设计要点。(Ps:乍看起来,朴实无华,大巧不工。)

1、神奇飞轮

他们采用一种“飞轮”的方法去收集和分析系统数据,以便于可扩展性的实现。他们的工作流程是一个不断循环的过程:识别瓶颈→修复瓶颈→喝水→睡觉。这种方法好处在于避免了对高端硬件的需求(不用大规模部署),降低了硬件成本。

可扩展性循环(Scalability loop)可扩展性循环(Scalability loop)

2、看似无聊、却大巧不工的技术栈

他们让技术堆栈保持简单,并使用经过验证的技术。他们的技术堆栈绝对让你想象不到:

YouTube 技术栈YouTube 技术栈

  • MySQL 存储元数据:视频标题、标签、描述和用户数据。因为修复 MySQL 中的问题很容易。 
  • Lighttpd Web 服务器提供视频服务。 
  • 使用Linux作为操作系统。他们使用 Linux 工具来检查下列系统行为:strace、ssh、rsync、vmstat 和 tcpdump。 
  • 应用程序服务器上的 Python。因为它提供了许多可重用的库,而且他们不想重新发明轮子。换句话说,Python 允许快速灵活的开发。根据他们的测量,Python 从来都不是瓶颈。值得注意的是,他们使用 Python 到 C 的编译器和 C 语言扩展来运行 CPU 密集型任务。

3、保持简单

他们认为软件架构是可扩展性的根源。他们没有盲目追求“流行语”去扩大规模。因此,他们保持架构简单——使代码审查更容易。这使他们能够快速重新架构以满足不断变化的需求。例如,他们从约会网站转向视频共享网站。

此外,他们还保持网络路径简单。因为网络设备具有可扩展性限制。

硬件成本硬件成本

他们还使用了商品硬件。它使他们能够减少功耗和维护费用,并保持较低的成本。

此外,他们使规模感知代码与应用程序开发相对独立。

4、选择你的主战场

他们将许多不重要的问题给外包出去了。因为他们想专注于重要的事情。他们没有时间或资源来构建自己的基础设施来提供流行视频。于是,他们把热门视频放到了第三方CDN上。好处:

  • 低延迟。由于用户的网络跳数较少 ;
  • 高性能。因为它提供的是内存中的视频; 
  • 高可用性。因为自动复制。

他们从同地数据中心提供受欢迎度稍低些的视频。并采用软件RAID,通过多磁盘并行访问来提高性能。还调整了他们的服务器以防止缓存抖动。

他们将基础设施保留在同一地点的数据中心,有两点原因。其一,可以轻松调整服务器以满足其需求。其二,方便自己的合同谈判。

选择你的主战场;外包问题以释放资源选择你的主战场;外包问题以释放资源

每个视频有 4 个缩略图。因此,他们在服务小对象时面临着问题:大量磁盘查找和文件系统限制。因此,他们将缩略图放入 BigTable 中 。它是一种分布式数据存储,具有许多优点:通过对文件进行聚类来避免小文件问题、提高性能、多级缓存低延迟、易于配置。

他们还伪造数据以防止昂贵的交易费用。例如,他们伪造视频观看次数并异步更新计数器。当今近似正确性的一种流行技术是:布隆过滤器,它是一种概率数据结构。

5、可扩展性三大支柱

YouTube 依赖可扩展性的三大支柱:无状态、复制和分区。

可扩展性的 3 个支柱可扩展性的 3 个支柱

他们保持网络服务器无状态(stateless),并通过复制进行扩展。

他们复制replicated数据库服务器以实现读取可扩展性和高可用性。并对副本之间的流量进行负载平衡。但这种方法引起了问题:复制滞后和写入可扩展性问题。

复制与分区复制与分区

因此,他们对数据库进行了分区,以提高写入可扩展性、缓存局部性和性能。partitioned它还将硬件成本降低了 30%。

此外,他们还研究了数据访问模式来确定分区级别。例如,他们研究了流行的查询、连接和事务一致性,并选择用户作为分区级别。

6、扎实的工程团队

知识丰富的团队是可扩展性的重要资产。

跨学科团队跨学科团队

他们保持较小的团队规模t以改善沟通:仅 9 名工程师。他们的团队非常擅长跨学科技能。

7、不要重复自己的话

他们使用缓存cache来防止重复昂贵的操作。它使他们能够扩展浏览量。

多级缓存可扩展多级缓存可扩展

他们还在多个级别实现了缓存 - 并且减少了延迟。

8、排序:重要的指标要优先

对重要流量进行排名;二八原则(帕累托原则)对重要流量进行排名;二八原则(帕累托原则)

他们将视频观看流量优先,排在其他所有流量之上。因此,他们为视频观看流量保留了专用资源集群。这一点提供了高可用性。

9、防止“雷群”

如果许多并发客户端查询服务器,就会出现雷群问题。它会降低性能。

雷群(The Thundering Herd)问题雷群(The Thundering Herd)问题

他们使用抖动来防止雷群问题。例如,他们为流行视频的缓存过期添加了抖动。

10、打持久战

他们专注于宏观层面的事物:算法和可扩展性。他们进行了快速的黑客攻击,以赢得更多时间来构建长期解决方案。例如,使用 Python 消除不良 API 以防止短期问题。

冒险与回报冒险与回报

他们容忍组件中的缺陷。当遇到瓶颈时:他们要么重写组件,要么删除它。

他们用效率换取可扩展性。有四个例子:

  • 他们选择了 Python 而不是 C; 
  • 他们在组件之间保持清晰的界限以进行横向扩展。和容忍的延迟;
  • 他们优化了软件,使其足够快。但并不痴迷于机器效率; 
  • 他们根据带宽可用性从服务器位置提供视频。并且不基于延迟。

11、适应性进化

他们调整了系统以满足他们的需求。例子:

  • 关键组件使用RPC而不是 HTTP REST,这提高了性能; 
  • 自定义BSON作为数据序列化格式。它提供了高性能;
  • 应用程序某些部分的最终一致性以实现可扩展性。例如,用户评论中的“读你所写”的一致性模型 ;
  • 学习 Python 是为了防止常见的陷阱。当然,还有分析需求的原因;
  • 定制开源软件;
  • 优化数据库查询; 
  • 使非关键实时任务异步。

编码原则编码原则

他们没有浪费时间编写代码来限制人们。相反,采用了出色的工程实践- 编码约定来改进其代码结构。

——后记—— 

2006 年 11 月,谷歌以 16.5 亿美元的价格收购了 YouTube,并把它当做一个子公司来运营。时至今日,它依然是视频分享市场的领导者,每天有 50 亿次视频浏览量。

据《福布斯》报道,YouTube 创始人的净资产超过 1 亿美元。YouTube创立仅 20 个月便成视频搜寻界的龙头,可谓是缔造了一个硅谷奇迹。

参考链接:https://newsletter.systemdesign.one/p/youtube-scalability