youtube用的什么python框架

YouTube发展迅速，每天超过1亿的视频点击量，但只有很少人在维护站点和确保伸缩性。这点和PlentyOfFish类似，少数人维护庞大系统。是什么原因呢？放心绝对不是靠人品，也不是靠寂寞，下面就来看看YouTube的整体技术架构吧。

平台

·Apache

·Python

·Linux(SuSe)

·MySQL

·psyco，一个动态的Python到C的编译器

·lighttpd代替Apache做视频查看</strong>

状态

·支持每天超过1亿的视频点击量

·成立于2005年2月

·于2006年3月达到每天3千万的视频点击量

·于2006年7月达到每天1亿的视频点击量

·2个系统管理员，2个伸缩性软件架构师

·2个软件开发工程师，2个网络工程师，1个DBA</strong>

Web服务器

（1）NetScaler用于负载均衡和静态内容缓存。

（2）使用mod_fast_cgi运行Apache。

（3）使用一个Python应用服务器来处理请求的路由。

（4）应用服务器与多个数据库和其他信息源交互来获取数据和格式化html页面。

（5）一般可以通过添加更多的机器来在Web层提高伸缩性。

（6）Python的Web层代码通常不是性能瓶颈，大部分时间阻塞在RPC。

（7）Python允许快速而灵活的开发和部署。

（8）通常每个页面服务少于100毫秒的时间。

（9）使用psyco(一个类似于JIT编译器的动态的Python到C的编译器)来优化内部循环。

（10）对于像加密等密集型CPU活动，使用C扩展。

（11）对于一些开销昂贵的块使用预先生成并缓存的html。

（12）数据库里使用行级缓存。

（13）缓存完整的Python对象。

（14）有些数据被计算出来并发送给各个程序，所以这些值缓存在本地内存中。这是个使用不当的策略。

相关推荐：《Python教程》

应用服务器里最快的缓存将预先计算的值发送给所有服务器也花不了多少时间。只需弄一个代理来监听更改，预计算，然后发送。

视频服务

（1）花费包括带宽，硬件和能源消耗。

（2）每个视频由一个迷你集群来host，每个视频被超过一台机器持有。

（3）使用一个集群意味着：

-更多的硬盘来持有内容意味着更快的速度。

-failover。如果一台机器出故障了，另外的机器可以继续服务。

-在线备份

（4）使用lighttpd作为Web服务器来提供视频服务：

-Apache开销太大。

-使用epoll来等待多个fds。

-从单进程配置转变为多进程配置来处理更多的连接。

（5）大部分流行的内容移到CDN：

-CDN在多个地方备份内容，这样内容离用户更近的机会就会更高。

-CDN机器经常内存不足，因为内容太流行以致很少有内容进出内存的颠簸。

（6）不太流行的内容(每天1-20浏览次数)在许多colo站点使用YouTube服务器

-长尾效应。一个视频可以有多个播放，但是许多视频正在播放。随机硬盘块被访问。

-在这种情况下缓存不会很好，所以花钱在更多的缓存上可能没太大意义。

-调节RAID控制并注意其他低级问题。

-调节每台机器上的内存，不要太多也不要太少 </strong>。

视频服务关键点

（1）保持简单和廉价。

（2）保持简单网络路径，在内容和用户间不要有太多设备。

（3）使用常用硬件，昂贵的硬件很难找到帮助文档。

（4）使用简单而常见的工具，使用构建在Linux里或之上的大部分工具。

（5）很好的处理随机查找(SATA，tweaks)。

缩略图服务

（1）做到高效令人惊奇的难。

（2）每个视频大概4张缩略图，所以缩略图比视频多很多。

（3）缩略图仅仅host在几个机器上。

（4）持有一些小东西所遇到的问题：

-OS级别的大量的硬盘查找和inode和页面缓存问题。

-单目录文件限制，特别是Ext3，后来移到多分层的结构。内核2.6的最近改进可能让 Ext3允许大目录，但在一个文件系统里存储大量文件不是个好主意。

-每秒大量的请求，因为Web页面可能在页面上显示60个缩略图。

-在这种高负载下Apache表现的非常糟糕。

-在Apache前端使用squid，这种方式工作了一段时间，但是由于负载继续增加而以失败告终。它让每秒300个请求变为20个。

-尝试使用lighttpd但是由于使用单线程它陷于困境。遇到多进程的问题，因为它们各自保持自己单独的缓存。

-如此多的图片以致一台新机器只能接管24小时。

-重启机器需要6-10小时来缓存。

（5）为了解决所有这些问题YouTube开始使用Google的BigTable，一个分布式数据存储：

-避免小文件问题，因为它将文件收集到一起。

-快，错误容忍。

-更低的延迟，因为它使用分布式多级缓存，该缓存与多个不同collocation站点工作。

-更多信息参考Google Architecture，GoogleTalk Architecture和BigTable。

数据库

（1）早期

-使用MySQL来存储元数据，如用户，tags和描述。

-使用一整个10硬盘的RAID 10来存储数据。

-依赖于信用卡所以YouTube租用硬件。

-YouTube经过一个常见的革命：单服务器，然后单master和多read slaves，然后数据库分区，然后sharding方式。

-痛苦与备份延迟。master数据库是多线程的并且运行在一个大机器上所以它可以处理许多工作，slaves是单线程的并且通常运行在小一些的服务器上并且备份是异步的，所以slaves会远远落后于master。

-更新引起缓存失效，硬盘的慢I/O导致慢备份。

-使用备份架构需要花费大量的money来获得增加的写性能。

-YouTube的一个解决方案是通过把数据分成两个集群来将传输分出优先次序：一个视频查看池和一个一般的集群。

（2）后期

-数据库分区。

-分成shards，不同的用户指定到不同的shards。

-扩散读写。

-更好的缓存位置意味着更少的IO。

-导致硬件减少30%。

-备份延迟降低到0。

-现在可以任意提升数据库的伸缩性。

数据中心策略

（1）依赖于信用卡，所以最初只能使用受管主机提供商。

（2）受管主机提供商不能提供伸缩性，不能控制硬件或使用良好的网络协议。

（3）YouTube改为使用colocation arrangement。现在YouTube可以自定义所有东西并且协定自己的契约。

（4）使用5到6个数据中心加CDN。

（5）视频来自任意的数据中心，不是最近的匹配或其他什么。如果一个视频足够流行则移到CDN。

（6）依赖于视频带宽而不是真正的延迟。可以来自任何colo。

（7）图片延迟很严重，特别是当一个页面有60张图片时。

（8）使用BigTable将图片备份到不同的数据中心，代码查看谁是最近的。

关于扩展性的思考

以下虽然都不是什么新思想，但希望对你有所助益。

分而治之是扩展性技术的灵魂。考虑以层次化的方式完成所有的工作。这也是数据分片的症结所在。要知道如何将数据分区，以及如何将已分区的数据进行关联。总而言之，保持简单与松散的耦合非常必要。

充分利用Python的动态特性，构建易于扩展的软件架构。

近似的正确性。要相信监控系统所报告的系统运行状态。如果问题没有出现，就认为一切良好。

不一致的数据模型。例如，阅读评论的人和写评论的人对你刷新页面的动作会有不同的反应，但也不必完全基于事务处理进行系统设计，这会显得矫枉过正。我们依然需要不一致的数据模型。

分布式系统的随机性。分布式系统就如同气象系统一样，对分布式系统进行调试会存在更多的随机性。例如，缓存过期。一般情况下，服务器会将流行的视频缓存24小时。如果一旦出现缓存同时过期的情况，服务器将同时开始缓存，荷载如闻惊雷！

最快的函数调用就是不做任何调用。合理设计事务处理发生的间隔和次数。

仔细观察API，并做到心中有数。如何定义输入、输出？所有的函数调用本质上都是围绕数据发生的，那在函数调用之后，又会发生什么？

在Python中运用RPC重定向。程序员是代码的构建者，因此要做好约定。如果代码不幸失败了，还可以从RPC输出中追查原因。

没有完美的组件。一个组件的运行周期可能持续1-6个月，具体多久，谁也说不清。随着时间的推移，我们会用Python和C重写一些东西，这证明你正在淘汰旧的组件，当你观察到一个新组件出现的时候，它诞生了。

没有人了解整个系统的运作机制。因此，我们需要定义组件。视频转码和视频搜索截然不同，建立良好的数据规范非常重要。

效率与扩展性并重。最有效率的是用C实现进程，但这样的方式缺乏扩展性。

着眼于宏观层面、组件及其失败的原因。使用RPC是否明智？内联如何？进行分解研究，也许会发现不同之处。

重视算法。与其绞尽脑汁用Python来实现高效的算法，不如用它做些更有实用价值的事。在这方面，C语言有它的优势。

我们很少从事面向对象设计。我们使用了大量的名称空间，使用类来组织数据，但极少面向对象。

我乐意用下面的词汇来形容我们的代码树：简单、实用、优雅、正交、可组合，这是我们的追求。

总结

YouTube解决问题的哲学只有一个词：简单。许多YouTube的产品最初只是源于一个简单的Python脚本。这正是应了我们的一句老话，不积跬步，无以至千里；不积小流，无以成江海。