怡心湖

百度的基础结构技术之探讨

百度的基础结构技术包括软件基础结构和硬件基础结构,涉及的领域包括计算机系统、体系结构、硬件等。百度有三个自建的大规模数据中心,年均PUE(Power Usage Effectiveness, IL源使用效率)是1.32,最佳PUE达到1.16,这些都是国内领先世界一流的水平。在软件基础结构领域,百度实现了很多自己的系统,例如单集群过万台服务器的MapReduce集群、单集群过万台多服务器的MPI(Message Passing Interface,消息传递接口)高性能计算集群等。百度的MapReduce系统和MPI系统也是在开源的方案上做了深度优化,所以当产业界只有最大5000台服务器的MapReduce集群的时候百度的MapReduce集群已经过万。另外,百度还有自己开发的流式计算系统,能支持毫秒级别的实时流式计算。百度的存储系统也是完全自主开发的,内部称之为“新存储体系”,这个存储系统有一个统一的块设备层(block layer)支持表(table)、文件(file)和键-值(key-value)的不同接口实现,而且该系统一开始就充分考虑了闪存的特点,支持SDF的接口,能充分提高硬件的效率。

此文由 怡心湖 编辑,若您觉得有益,欢迎分享转发!:首页 > 常识论 » 百度的基础结构技术之探讨

()
分享到:

相关推荐