簡單的說，大數(shù)據(jù)是基礎(chǔ)，云計(jì)算是管理，5G 是傳輸網(wǎng)絡(luò)。

一、云計(jì)算最初是實(shí)現(xiàn)資源管理的靈活性

我們首先來說云計(jì)算，云計(jì)算最初的目標(biāo)是對資源的管理，管理的主要是計(jì)算資源，網(wǎng)絡(luò)資源，存儲資源三個(gè)方面。

1.1 管數(shù)據(jù)中心就像配電腦

什么叫計(jì)算，網(wǎng)絡(luò)，存儲資源呢？就說你要買臺筆記本電腦吧，你是不是要關(guān)心這臺電腦什么樣的CPU??？多大的內(nèi)存啊？這兩個(gè)我們稱為計(jì)算資源。

這臺電腦要能上網(wǎng)吧，需要有個(gè)網(wǎng)口可以插網(wǎng)線，或者有無線網(wǎng)卡可以連接我們家的路由器，您家也需要到運(yùn)營商比如聯(lián)通，移動，電信開通一個(gè)網(wǎng)絡(luò)，這就是網(wǎng)絡(luò)。

您可能還會問硬盤多大??？原來硬盤都很小，10G之類的，后來500G，1T，2T的硬盤也不新鮮了。(1T是1024G)，這就是存儲。

對于一臺電腦是這個(gè)樣子的，對于一個(gè)數(shù)據(jù)中心也是同樣的。想象你有一個(gè)非常非常大的機(jī)房，里面堆了很多的服務(wù)器，這些服務(wù)器也是有CPU，內(nèi)存，硬盤的，也是通過類似路由器的設(shè)備上網(wǎng)的。這個(gè)時(shí)候的一個(gè)問題就是，運(yùn)營數(shù)據(jù)中心的人是怎么把這些設(shè)備統(tǒng)一的管理起來的呢？

1.2 靈活就是想啥時(shí)要都有，想要多少都行

管理的目標(biāo)就是要達(dá)到兩個(gè)方面的靈活性。哪兩個(gè)方面呢？比如有個(gè)人需要一臺很小很小的電腦，只有一個(gè)CPU，1G內(nèi)存，10G的硬盤，一兆的帶寬，你能給他嗎？像這種這么小規(guī)格的電腦，現(xiàn)在隨便一個(gè)筆記本電腦都比這個(gè)配置強(qiáng)了，家里隨便拉一個(gè)寬帶都要100M。然而如果去一個(gè)云計(jì)算的平臺上，他要想要這個(gè)資源的時(shí)候，只要一點(diǎn)就有了。

所以說它就能達(dá)到兩個(gè)方面靈活性。

第一個(gè)方面就是想什么時(shí)候要就什么時(shí)候要，比如需要的時(shí)候一點(diǎn)就出來了，這個(gè)叫做時(shí)間靈活性。

第二個(gè)方面就是想要多少呢就有多少，比如需要一個(gè)很小很小的電腦，可以滿足，比如需要一個(gè)特別大的空間，以云盤為例，似乎云盤給每個(gè)人分配的空間動不動就就很大很大，隨時(shí)上傳隨時(shí)有空間，永遠(yuǎn)用不完，這個(gè)叫做空間靈活性。

空間靈活性和時(shí)間靈活性，也即我們常說的云計(jì)算的彈性。

為了解決這個(gè)彈性的問題，經(jīng)歷了漫長時(shí)間的發(fā)展。

1.3 物理設(shè)備不靈活

首先第一個(gè)階段就是物理機(jī)，或者說物理設(shè)備時(shí)期。這個(gè)時(shí)期相當(dāng)于客戶需要一臺電腦，我們就買一臺放在數(shù)據(jù)中心里。物理設(shè)備當(dāng)然是越來越牛，例如服務(wù)器，內(nèi)存動不動就是百G內(nèi)存，例如網(wǎng)絡(luò)設(shè)備，一個(gè)端口的帶寬就能有幾十G甚至上百G，例如存儲，在數(shù)據(jù)中心至少是PB級別的(一個(gè)P是1024個(gè)T，一個(gè)T是1024個(gè)G)。

然而物理設(shè)備不能做到很好的靈活性。首先它不能夠達(dá)到想什么時(shí)候要就什么時(shí)候要、比如買臺服務(wù)器，哪怕買個(gè)電腦，都有采購的時(shí)間。突然用戶告訴某個(gè)云廠商，說想要開臺電腦，如果使用物理服務(wù)器，當(dāng)時(shí)去采購啊就很難，如果說供應(yīng)商啊關(guān)系一般，可能采購一個(gè)月，供應(yīng)商關(guān)系好的話也需要一個(gè)星期。用戶等了一個(gè)星期后，這時(shí)候電腦才到位，用戶還要登錄上去開始慢慢部署自己的應(yīng)用，時(shí)間靈活性非常差。第二是空間靈活性也不行，例如上述的用戶，要一個(gè)很小很小的電腦，現(xiàn)在哪還有這么小型號的電腦啊。不能為了滿足用戶只要一個(gè)G的內(nèi)存是80G硬盤的，就去買一個(gè)這么小的機(jī)器。但是如果買一個(gè)大的呢，因?yàn)殡娔X大，就向用戶多收錢，用戶說他只用這么小的一點(diǎn)，如果讓用戶多付錢就很冤。

1.4 虛擬化靈活多了

有人就想辦法了。第一個(gè)辦法就是虛擬化。用戶不是只要一個(gè)很小的電腦么？數(shù)據(jù)中心的物理設(shè)備都很強(qiáng)大，我可以從物理的CPU，內(nèi)存，硬盤中虛擬出一小塊來給客戶，同時(shí)也可以虛擬出一小塊來給其他客戶，每個(gè)客戶都只能看到自己虛的那一小塊，其實(shí)每個(gè)客戶用的是整個(gè)大的設(shè)備上其中的一小塊。虛擬化的技術(shù)能使得不同的客戶的電腦看起來是隔離的，我看著好像這塊盤就是我的，你看這呢這塊盤就是你的，實(shí)際情況可能我這個(gè)10G和您這個(gè)10G是落在同樣一個(gè)很大很大的這個(gè)存儲上的。

而且如果事先物理設(shè)備都準(zhǔn)備好，虛擬化軟件虛擬出一個(gè)電腦是非?？斓模旧蠋追昼娋湍芙鉀Q。所以在任何一個(gè)云上要創(chuàng)建一臺電腦，一點(diǎn)幾分鐘就出來了，就是這個(gè)道理。

這個(gè)空間靈活性和時(shí)間靈活性就基本解決了。

1.5 虛擬世界的賺錢與情懷

在虛擬化階段，最牛的公司是Vmware，是實(shí)現(xiàn)虛擬化技術(shù)比較早的一家公司，可以實(shí)現(xiàn)計(jì)算，網(wǎng)絡(luò)，存儲的虛擬化，這家公司很牛，性能也做得非常好，然后虛擬化軟件賣的也非常好，賺了好多的錢，后來讓EMC(世界五百強(qiáng)，存儲廠商第一品牌)給收購了。

但是這個(gè)世界上還是有很多有情懷的人的，尤其是程序員里面，有情懷的人喜歡做一件什么事情呢？開源。這個(gè)世界上很多軟件都是有閉源就有開源，源就是源代碼。就是說某個(gè)軟件做的好，所有人都愛用，這個(gè)軟件的代碼呢，我封閉起來只有我公司知道，其他人不知道，如果其他人想用這個(gè)軟件，就要付我錢，這就叫閉源。但是世界上總有一些大?？床粦T錢都讓一家賺了去。大牛們覺得，這個(gè)技術(shù)你會我也會，你能開發(fā)出來，我也能，我開發(fā)出來就是不收錢，把代碼拿出來分享給大家，全世界誰用都可以，所有的人都可以享受到好處，這個(gè)叫做開源。

比如最近蒂姆·伯納斯·李就是個(gè)非常有情懷的人，2017年，他因“發(fā)明萬維網(wǎng)、第一個(gè)瀏覽器和使萬維網(wǎng)得以擴(kuò)展的基本協(xié)議和算法”而獲得2016年度的圖靈獎。圖靈獎就是計(jì)算機(jī)界的諾貝爾獎。然而他最令人敬佩的是，他將萬維網(wǎng)，也就是我們常見的www的技術(shù)無償貢獻(xiàn)給全世界免費(fèi)使用。我們現(xiàn)在在網(wǎng)上的所有行為都應(yīng)該感謝他的功勞，如果他將這個(gè)技術(shù)拿來收錢，應(yīng)該和比爾蓋茨差不多有錢。

例如在閉源的世界里有windows，大家用windows都得給微軟付錢，開源的世界里面就出現(xiàn)了Linux。比爾蓋茨靠windows，Office這些閉源的軟件賺了很多錢，稱為世界首富，就有大牛開發(fā)了另外一種操作系統(tǒng)Linux。很多人可能沒有聽說過Linux，很多后臺的服務(wù)器上跑的程序都是Linux上的，比如大家享受雙十一，支撐雙十一搶購的系統(tǒng)，無論是淘寶，京東，考拉，都是跑在Linux上的。

再如有apple就有安卓。apple市值很高，但是蘋果系統(tǒng)的代碼我們是看不到的。于是就有大牛寫了安卓手機(jī)操作系統(tǒng)。所以大家可以看到幾乎所有的其他手機(jī)廠商，里面都裝安卓系統(tǒng)，因?yàn)樘O果系統(tǒng)不開源，而安卓系統(tǒng)大家都可以用。

在虛擬化軟件也一樣，有了Vmware，這個(gè)軟件非常非常的貴。那就有大牛寫了兩個(gè)開源的虛擬化軟件，一個(gè)叫做Xen，一個(gè)叫做KVM。

1.6 虛擬化的半自動和云計(jì)算的全自動

虛擬化軟件似乎解決了靈活性問題，其實(shí)不全對。因?yàn)樘摂M化軟件一般創(chuàng)建一臺虛擬的電腦，是需要人工指定這臺虛擬電腦放在哪臺物理機(jī)上的，可能還需要比較復(fù)雜的人工配置，所以使用Vmware的虛擬化軟件，需要考一個(gè)很牛的證書，能拿到這個(gè)證書的人，薪資是相當(dāng)?shù)母?，也可見?fù)雜程度。所以僅僅憑虛擬化軟件所能管理的物理機(jī)的集群規(guī)模都不是特別的大，一般在十幾臺，幾十臺，最多百臺這么一個(gè)規(guī)模。這一方面會影響時(shí)間靈活性，雖然虛擬出一臺電腦的時(shí)間很短，但是隨著集群規(guī)模的擴(kuò)大，人工配置的過程越來越復(fù)雜，越來越耗時(shí)。另一方面也影響空間靈活性，當(dāng)用戶數(shù)量多的時(shí)候，這點(diǎn)集群規(guī)模，還遠(yuǎn)達(dá)不到想要多少要多少的程度，很可能這點(diǎn)資源很快就用完了，還得去采購。所以隨著集群的規(guī)模越來越大，基本都是千臺起步，動輒上萬臺，甚至幾十上百萬臺，如果去查一下BAT，包括網(wǎng)易，包括谷歌，亞馬遜，服務(wù)器數(shù)目都大的嚇人。這么多機(jī)器要靠人去選一個(gè)位置放這臺虛擬化的電腦并做相應(yīng)的配置，幾乎是不可能的事情，還是需要機(jī)器去做這個(gè)事情。

人們發(fā)明了各種各樣的算法來做這個(gè)事情，算法的名字叫做調(diào)度(Scheduler)。通俗一點(diǎn)的說，就是有一個(gè)調(diào)度中心，幾千臺機(jī)器都在一個(gè)池子里面，無論用戶需要多少CPU，內(nèi)存，硬盤的虛擬電腦，調(diào)度中心會自動在大池子里面找一個(gè)能夠滿足用戶需求的地方，把虛擬電腦啟動起來做好配置，用戶就直接能用了。這個(gè)階段，我們稱為池化，或者云化，到了這個(gè)階段，才可以稱為云計(jì)算，在這之前都只能叫虛擬化。

1.7 云計(jì)算的私有與公有

云計(jì)算大致分兩種，一個(gè)是私有云，一個(gè)是公有云，還有人把私有云和公有云連接起來稱為混合云，我們暫且不說這個(gè)。私有云就是把虛擬化和云化的這套軟件部署在別人的數(shù)據(jù)中心里面，使用私有云的用戶往往很有錢，自己買地建機(jī)房，自己買服務(wù)器，然后讓云廠商部署在自己這里，Vmware后來除了虛擬化，也推出了云計(jì)算的產(chǎn)品，并且在私有云市場賺的盆滿缽滿。所謂公有云就是虛擬化和云化軟件部署在云廠商自己數(shù)據(jù)中心里面的，用戶不需要很大的投入，只要注冊一個(gè)賬號，就能在一個(gè)網(wǎng)頁上點(diǎn)一下創(chuàng)建一臺虛擬電腦，例如AWS也即亞馬遜的公有云，例如國內(nèi)的阿里云，騰訊云，網(wǎng)易云等。

亞馬遜呢為什么要做公有云呢？我們知道亞馬遜原來是國外比較大的一個(gè)電商，它做電商的時(shí)候也肯定會遇到類似雙11的場景，在某一個(gè)時(shí)刻大家都沖上來買東西。當(dāng)大家都沖上買東西的時(shí)候，就特別需要云的時(shí)間靈活性和空間靈活性。因?yàn)樗荒軙r(shí)刻準(zhǔn)備好所有的資源，那樣太浪費(fèi)了。但也不能什么都不準(zhǔn)備，看著雙十一這么多用戶想買東西登不上去。所以需要雙十一的時(shí)候，創(chuàng)建一大批虛擬電腦來支撐電商應(yīng)用，過了雙十一再把這些資源都釋放掉去干別的。所以亞馬遜是需要一個(gè)云平臺的。

然而商用的虛擬化軟件實(shí)在是太貴了，亞馬遜總不能把自己在電商賺的錢全部給了虛擬化廠商吧。于是亞馬遜基于開源的虛擬化技術(shù)，如上所述的Xen或者KVM，開發(fā)了一套自己的云化軟件。沒想到亞馬遜后來電商越做越牛，云平臺也越做越牛。而且由于他的云平臺需要支撐自己的電商應(yīng)用，而傳統(tǒng)的云計(jì)算廠商多為IT廠商出身，幾乎沒有自己的應(yīng)用，因而亞馬遜的云平臺對應(yīng)用更加的友好，迅速發(fā)展成為云計(jì)算的第一品牌，賺了很多錢。在亞馬遜公布其云計(jì)算平臺財(cái)報(bào)之前，人們都猜測，亞馬遜電商賺錢，云也賺錢嗎？后來一公布財(cái)報(bào)，發(fā)現(xiàn)不是一般的賺錢，僅僅2017年，亞馬遜AWS年?duì)I收達(dá)122億美元，運(yùn)營利潤31億美元。

1.8 云計(jì)算的賺錢與情懷

公有云的第一名亞馬遜過得很爽，第二名Rackspace過的就一般了。沒辦法，這就是互聯(lián)網(wǎng)行業(yè)的殘酷性，多是贏者通吃的模式。所以第二名如果不是云計(jì)算行業(yè)的，很多人可能都沒聽過了。第二名就想，我干不過老大怎么辦呢？開源吧。如上所述，亞馬遜雖然使用了開源的虛擬化技術(shù)，但是云化的代碼是閉源的，很多想做又做不了云化平臺的公司，只能眼巴巴的看著亞馬遜掙大錢。Rackspace把源代碼一公開，整個(gè)行業(yè)就可以一起把這個(gè)平臺越做越好，兄弟們大家一起上，和老大拼了。

于是Rackspace和美國航空航天局合作創(chuàng)辦了開源軟件OpenStack，OpenStack的架構(gòu)圖能夠看到三個(gè)關(guān)鍵字，Compute計(jì)算，Networking網(wǎng)絡(luò)，Storage存儲。還是一個(gè)計(jì)算，網(wǎng)絡(luò)，存儲的云化管理平臺。

當(dāng)然第二名的技術(shù)也是非常棒的，有了OpenStack之后，果真像Rackspace想象的一樣，所有想做云的大企業(yè)都瘋了，你能想象到的所有如雷貫耳的大型IT企業(yè)，IBM，惠普，戴爾，華為，聯(lián)想等等，都瘋了。原來云平臺大家都想做，看著亞馬遜和Vmware賺了這么多錢，眼巴巴看著沒辦法，想自己做一個(gè)好像難度還挺大。現(xiàn)在好了，有了這樣一個(gè)開源的云平臺OpenStack，所有的IT廠商都加入到這個(gè)社區(qū)中來，對這個(gè)云平臺進(jìn)行貢獻(xiàn)，包裝成自己的產(chǎn)品，連同自己的硬件設(shè)備一起賣。有的做了私有云，有的做了公有云，OpenStack已經(jīng)成為開源云平臺的事實(shí)標(biāo)準(zhǔn)。

1.9 IaaS, 資源層面的靈活性

隨著OpenStack的技術(shù)越來越成熟，可以管理的規(guī)模也越來越大，并且可以有多個(gè)OpenStack集群部署多套，比如北京部署一套，杭州部署兩套，廣州部署一套，然后進(jìn)行統(tǒng)一的管理。這樣整個(gè)規(guī)模就更大了。在這個(gè)規(guī)模下，對于普通用戶的感知來講，基本能夠做到想什么時(shí)候要就什么什么藥，想要多少就要多少。還是拿云盤舉例子，每個(gè)用戶云盤都分配了5T甚至更大的空間，如果有1億人，那加起來空間多大啊。其實(shí)背后的機(jī)制是這樣的，分配你的空間，你可能只用了其中很少一點(diǎn)，比如說它分配給你了5個(gè)T，這么大的空間僅僅是你看到的，而不是真的就給你了，你其實(shí)只用了50個(gè)G，則真實(shí)給你的就是50個(gè)G，隨著你文件的不斷上傳，分給你的空間會越來越多。當(dāng)大家都上傳，云平臺發(fā)現(xiàn)快滿了的時(shí)候(例如用了70%)，會采購更多的服務(wù)器，擴(kuò)充背后的資源，這個(gè)對用戶是透明的，看不到的，從感覺上來講，就實(shí)現(xiàn)了云計(jì)算的彈性。其實(shí)有點(diǎn)像銀行，給儲戶的感覺是什么時(shí)候取錢都有，只要不同時(shí)擠兌，銀行就不會垮。

這里做一個(gè)簡單的總結(jié)，到了這個(gè)階段，云計(jì)算基本上實(shí)現(xiàn)了時(shí)間靈活性和空間靈活性，實(shí)現(xiàn)了計(jì)算，網(wǎng)絡(luò)，存儲資源的彈性。計(jì)算，網(wǎng)絡(luò)，存儲我們常稱為基礎(chǔ)設(shè)施Infranstracture, 因而這個(gè)階段的彈性稱為資源層面的彈性，管理資源的云平臺，我們稱為基礎(chǔ)設(shè)施服務(wù)，就是我們常聽到的IaaS，Infranstracture As A Service。

二、云計(jì)算不光管資源，也要管應(yīng)用

有了IaaS，實(shí)現(xiàn)了資源層面的彈性就夠了嗎？顯然不是。還有應(yīng)用層面的彈性。這里舉個(gè)例子，比如說實(shí)現(xiàn)一個(gè)電商的應(yīng)用，平時(shí)十臺機(jī)器就夠了，雙十一需要一百臺。你可能覺得很好辦啊，有了IaaS，新創(chuàng)建九十臺機(jī)器就可以了啊。但是90臺機(jī)器創(chuàng)建出來是空的啊，電商應(yīng)用并沒有放上去啊，只能你公司的運(yùn)維人員一臺一臺的弄，還是需要很長時(shí)間才能安裝好的。雖然資源層面實(shí)現(xiàn)了彈性，但是沒有應(yīng)用層的彈性，依然靈活性是不夠的。

有沒有方法解決這個(gè)問題呢？于是人們在IaaS平臺之上又加了一層，用于管理資源以上的應(yīng)用彈性的問題，這一層通常稱為PaaS（Platform As A Service）。這一層往往比較難理解，其實(shí)大致分兩部分，一部分我稱為你自己的應(yīng)用自動安裝，一部分我稱為通用的應(yīng)用不用安裝。

我們先來說第一部分，自己的應(yīng)用自動安裝。比如電商應(yīng)用是你自己開發(fā)的，除了你自己，其他人是不知道怎么安裝的，比如電商應(yīng)用，安裝的時(shí)候需要配置支付寶或者微信的賬號，才能別人在你的電商上買東西的時(shí)候，付的錢是打到你的賬戶里面的，除了你，誰也不知道，所以安裝的過程平臺幫不了忙，但是能夠幫你做的自動化，你需要做一些工作，將自己的配置信息融入到自動化的安裝過程中方可。比如上面的例子，雙十一新創(chuàng)建出來的90臺機(jī)器是空的，如果能夠提供一個(gè)工具，能夠自動在這新的90臺機(jī)器上將電商應(yīng)用安裝好，就能夠?qū)崿F(xiàn)應(yīng)用層面的真正彈性。例如Puppet, Chef, Ansible, Cloud Foundary都可以干這件事情，最新的容器技術(shù)Docker能更好的干這件事情，不做技術(shù)的可以不用管這些詞。

第二部分，通用的應(yīng)用不用安裝。所謂通用的應(yīng)用，一般指一些復(fù)雜性比較高，但是大家都在用的，例如數(shù)據(jù)庫。幾乎所有的應(yīng)用都會用數(shù)據(jù)庫，但是數(shù)據(jù)庫軟件是標(biāo)準(zhǔn)的，雖然安裝和維護(hù)比較復(fù)雜，但是無論誰安裝都是一樣。這樣的應(yīng)用可以變成標(biāo)準(zhǔn)的PaaS層的應(yīng)用放在云平臺的界面上。當(dāng)用戶需要一個(gè)數(shù)據(jù)庫的時(shí)候，一點(diǎn)就出來了，用戶就可以直接用了。有人問，既然誰安裝都一個(gè)樣，那我自己來好了，不需要花錢在云平臺上買。當(dāng)然不是，數(shù)據(jù)庫是一個(gè)非常難的東西，光Oracle這家公司，靠數(shù)據(jù)庫就能賺這么多錢。買Oracle也是要花很多很多錢的。然而大多數(shù)云平臺會提供Mysql這樣的開源數(shù)據(jù)庫，又是開源，錢不需要花這么多了，但是維護(hù)這個(gè)數(shù)據(jù)庫，卻需要專門招一個(gè)很大的團(tuán)隊(duì)，如果這個(gè)數(shù)據(jù)庫能夠優(yōu)化到能夠支撐雙十一，也不是一年兩年能夠搞定的。比如您是一個(gè)做單車的，當(dāng)然沒必要招一個(gè)非常大的數(shù)據(jù)庫團(tuán)隊(duì)來干這件事情，成本太高了，應(yīng)該交給云平臺來做這件事情，專業(yè)的事情專業(yè)的人來自，云平臺專門養(yǎng)了幾百人維護(hù)這套系統(tǒng)，您只要專注于您的單車應(yīng)用就可以了。

要么是自動部署，要么是不用部署，總的來說就是應(yīng)用層你也要少操心，這就是PaaS層的重要作用。

雖說腳本的方式能夠解決自己的應(yīng)用的部署問題，然而不同的環(huán)境千差萬別，一個(gè)腳本往往在一個(gè)環(huán)境上運(yùn)行正確，到另一個(gè)環(huán)境就不正確了。

而容器是能更好的解決這個(gè)問題的。

容器是 Container，Container另一個(gè)意思是集裝箱，其實(shí)容器的思想就是要變成軟件交付的集裝箱。集裝箱的特點(diǎn)，一是封裝，二是標(biāo)準(zhǔn)。

在沒有集裝箱的時(shí)代，假設(shè)將貨物從 A運(yùn)到 B，中間要經(jīng)過三個(gè)碼頭、換三次船。每次都要將貨物卸下船來，擺的七零八落，然后搬上船重新整齊擺好。因此在沒有集裝箱的時(shí)候，每次換船，船員們都要在岸上待幾天才能走。

有了集裝箱以后，所有的貨物都打包在一起了，并且集裝箱的尺寸全部一致，所以每次換船的時(shí)候，一個(gè)箱子整體搬過去就行了，小時(shí)級別就能完成，船員再也不用上岸長時(shí)間耽擱了。

這是集裝箱“封裝”、“標(biāo)準(zhǔn)”兩大特點(diǎn)在生活中的應(yīng)用。

那么容器如何對應(yīng)用打包呢？還是要學(xué)習(xí)集裝箱，首先要有個(gè)封閉的環(huán)境，將貨物封裝起來，讓貨物之間互不干擾，互相隔離，這樣裝貨卸貨才方便。好在 Ubuntu中的LXC技術(shù)早就能做到這一點(diǎn)。

封閉的環(huán)境主要使用了兩種技術(shù)，一種是看起來是隔離的技術(shù)，稱為 Namespace，也即每個(gè) Namespace中的應(yīng)用看到的是不同的 IP地址、用戶空間、程號等。另一種是用起來是隔離的技術(shù)，稱為 Cgroups，也即明明整臺機(jī)器有很多的 CPU、內(nèi)存，而一個(gè)應(yīng)用只能用其中的一部分。

所謂的鏡像，就是將你焊好集裝箱的那一刻，將集裝箱的狀態(tài)保存下來，就像孫悟空說：“定”，集裝箱里面就定在了那一刻，然后將這一刻的狀態(tài)保存成一系列文件。這些文件的格式是標(biāo)準(zhǔn)的，誰看到這些文件都能還原當(dāng)時(shí)定住的那個(gè)時(shí)刻。將鏡像還原成運(yùn)行時(shí)的過程（就是讀取鏡像文件，還原那個(gè)時(shí)刻的過程）就是容器運(yùn)行的過程。

有了容器，使得 PaaS層對于用戶自身應(yīng)用的自動部署變得快速而優(yōu)雅。

三、大數(shù)據(jù)擁抱云計(jì)算

在PaaS層中一個(gè)復(fù)雜的通用應(yīng)用就是大數(shù)據(jù)平臺。大數(shù)據(jù)是如何一步一步融入云計(jì)算的呢？

3.1 數(shù)據(jù)不大也包含智慧

一開始這個(gè)大數(shù)據(jù)并不大，你想象原來才有多少數(shù)據(jù)？現(xiàn)在大家都去看電子書，上網(wǎng)看新聞了，在我們80后小時(shí)候，信息量沒有那么大，也就看看書，看看報(bào)，一個(gè)星期的報(bào)紙加起來才有多少字啊，如果你不在一個(gè)大城市，一個(gè)普通的學(xué)校的圖書館加起來也沒幾個(gè)書架，是后來隨著信息化的到來，信息才會越來越多。

首先我們來看一下大數(shù)據(jù)里面的數(shù)據(jù)，就分三種類型，一種叫結(jié)構(gòu)化的數(shù)據(jù)，一種叫非結(jié)構(gòu)化的數(shù)據(jù)，還有一種叫半結(jié)構(gòu)化的數(shù)據(jù)。什么叫結(jié)構(gòu)化的數(shù)據(jù)呢？叫有固定格式和有限長度的數(shù)據(jù)。例如填的表格就是結(jié)構(gòu)化的數(shù)據(jù)，國籍：中華人民共和國，民族：漢，性別：男，這都叫結(jié)構(gòu)化數(shù)據(jù)?，F(xiàn)在越來越多的就是非結(jié)構(gòu)化的數(shù)據(jù)，就是不定長，無固定格式的數(shù)據(jù)，例如網(wǎng)頁，有時(shí)候非常長，有時(shí)候幾句話就沒了，例如語音，視頻都是非結(jié)構(gòu)化的數(shù)據(jù)。半結(jié)構(gòu)化數(shù)據(jù)是一些xml或者h(yuǎn)tml的格式的，不從事技術(shù)的可能不了解，但也沒有關(guān)系。

數(shù)據(jù)怎么樣才能對人有用呢？其實(shí)數(shù)據(jù)本身不是有用的，必須要經(jīng)過一定的處理。例如你每天跑步帶個(gè)手環(huán)收集的也是數(shù)據(jù)，網(wǎng)上這么多網(wǎng)頁也是數(shù)據(jù)，我們稱為Data，數(shù)據(jù)本身沒有什么用處，但是數(shù)據(jù)里面包含一個(gè)很重要的東西，叫做信息Information，數(shù)據(jù)十分雜亂，經(jīng)過梳理和清洗，才能夠稱為信息。信息會包含很多規(guī)律，我們需要從信息中將規(guī)律總結(jié)出來，稱為知識knowledge，知識改變命運(yùn)。信息是很多的，但是有人看到了信息相當(dāng)于白看，但是有人就從信息中看到了電商的未來，有人看到了直播的未來，所以人家就牛了，你如果沒有從信息中提取出知識，天天看朋友圈，也只能在互聯(lián)網(wǎng)滾滾大潮中做個(gè)看客。有了知識，然后利用這些知識去應(yīng)用于實(shí)戰(zhàn)，有的人會做得非常好，這個(gè)東西叫做智慧intelligence。有知識并不一定有智慧，例如好多學(xué)者很有知識，已經(jīng)發(fā)生的事情可以從各個(gè)角度分析的頭頭是道，但一到實(shí)干就歇菜，并不能轉(zhuǎn)化成為智慧。而很多的創(chuàng)業(yè)家之所以偉大，就是通過獲得的知識應(yīng)用于實(shí)踐，最后做了很大的生意。

所以數(shù)據(jù)的應(yīng)用分這四個(gè)步驟：數(shù)據(jù)，信息，知識，智慧。這是很多商家都想要的，你看我收集了這么多的數(shù)據(jù)，能不能基于這些數(shù)據(jù)來幫我做下一步的決策，改善我的產(chǎn)品，例如讓用戶看視頻的時(shí)候旁邊彈出廣告，正好是他想買的東西，再如讓用戶聽音樂的時(shí)候，另外推薦一些他非常想聽的其他音樂。用戶在我的應(yīng)用或者網(wǎng)站上隨便點(diǎn)點(diǎn)鼠標(biāo)，輸入文字對我來說都是數(shù)據(jù)，我就是要將其中某些東西提取出來，指導(dǎo)實(shí)踐，形成智慧，讓用戶陷入到我的應(yīng)用里面不可自拔，上了我的網(wǎng)就不想離開，手不停的點(diǎn)，不停的買，很多人說雙十一我都想斷網(wǎng)了，我老婆在上面不斷的買買買，買了A又推薦B，老婆大人說，“哎呀，B也是我喜歡的啊，老公我要買”。你說這個(gè)程序怎么這么牛，這么有智慧，比我還了解我老婆，這件事情是怎么做到的呢？

3.2 數(shù)據(jù)如何升華為智慧

數(shù)據(jù)的處理分幾個(gè)步驟，完成了才最后會有智慧。

第一個(gè)步驟叫數(shù)據(jù)的收集。首先得有數(shù)據(jù)，數(shù)據(jù)的收集有兩個(gè)方式，第一個(gè)方式是拿，專業(yè)點(diǎn)的說法叫抓取或者爬取，例如搜索引擎就是這么做的，它把網(wǎng)上的所有的信息都下載到它的數(shù)據(jù)中心，然后你一搜才能搜出來。比如你去搜索的時(shí)候，結(jié)果會是一個(gè)列表，這個(gè)列表為什么會在搜索引擎的公司里面呢，就是因?yàn)樗堰@個(gè)數(shù)據(jù)啊都拿下來了，但是你一點(diǎn)鏈接，點(diǎn)出來這個(gè)網(wǎng)站就不在搜索引擎它們公司了。比如說新浪有個(gè)新聞，你拿百度搜出來，你不點(diǎn)的時(shí)候，那一頁在百度數(shù)據(jù)中心，一點(diǎn)出來的網(wǎng)頁就是在新浪的數(shù)據(jù)中心了。另外一個(gè)方式就是推送，有很多終端可以幫我收集數(shù)據(jù)，比如說小米手環(huán)，可以將你每天跑步的數(shù)據(jù)，心跳的數(shù)據(jù)，睡眠的數(shù)據(jù)都上傳到數(shù)據(jù)中心里面。

第二個(gè)步驟是數(shù)據(jù)的傳輸。一般會通過隊(duì)列方式進(jìn)行，因?yàn)閿?shù)據(jù)量實(shí)在是太大了，數(shù)據(jù)必須經(jīng)過處理才會有用，可是系統(tǒng)處理不過來，只好排好隊(duì)，慢慢的處理。

第三個(gè)步驟是數(shù)據(jù)的存儲?，F(xiàn)在數(shù)據(jù)就是金錢，掌握了數(shù)據(jù)就相當(dāng)于掌握了錢。要不然網(wǎng)站怎么知道你想買什么呢？就是因?yàn)樗心銡v史的交易的數(shù)據(jù)，這個(gè)信息可不能給別人，十分寶貴，所以需要存儲下來。

第四個(gè)步驟是數(shù)據(jù)的處理和分析。上面存儲的數(shù)據(jù)是原始數(shù)據(jù)，原始數(shù)據(jù)多是雜亂無章的，有很多垃圾數(shù)據(jù)在里面，因而需要清洗和過濾，得到一些高質(zhì)量的數(shù)據(jù)。對于高質(zhì)量的數(shù)據(jù)，就可以進(jìn)行分析，從而對數(shù)據(jù)進(jìn)行分類，或者發(fā)現(xiàn)數(shù)據(jù)之間的相互關(guān)系，得到知識。比如盛傳的沃爾瑪超市的啤酒和尿布的故事，就是通過對人們的購買數(shù)據(jù)進(jìn)行分析，發(fā)現(xiàn)了男人一般買尿布的時(shí)候，會同時(shí)購買啤酒，這樣就發(fā)現(xiàn)了啤酒和尿布之間的相互關(guān)系，獲得知識，然后應(yīng)用到實(shí)踐中，將啤酒和尿布的柜臺弄的很近，就獲得了智慧。

第五個(gè)步驟就是對于數(shù)據(jù)的檢索和挖掘。檢索就是搜索，所謂外事不決問google，內(nèi)事不決問百度。內(nèi)外兩大搜索引擎都是講分析后的數(shù)據(jù)放入搜索引擎，從而人們想尋找信息的時(shí)候，一搜就有了。另外就是挖掘，僅僅搜索出來已經(jīng)不能滿足人們的要求了，還需要從信息中挖掘出相互的關(guān)系。比如財(cái)經(jīng)搜索，當(dāng)搜索某個(gè)公司股票的時(shí)候，該公司的高管是不是也應(yīng)該被挖掘出來呢？如果僅僅搜索出這個(gè)公司的股票發(fā)現(xiàn)漲的特別好，于是你就去買了，其實(shí)其高管發(fā)了一個(gè)聲明，對股票十分不利，第二天就跌了，這不坑害廣大股民么？所以通過各種算法挖掘數(shù)據(jù)中的關(guān)系，形成知識庫，十分重要。

 3.3 大數(shù)據(jù)時(shí)代，眾人拾柴火焰高

當(dāng)數(shù)據(jù)量很小的時(shí)候，很少的幾臺機(jī)器就能解決。慢慢的當(dāng)數(shù)據(jù)量越來越大，最牛的服務(wù)器都解決不了問題的時(shí)候，就想怎么辦呢？要聚合多臺機(jī)器的力量，大家齊心協(xié)力一起把這個(gè)事搞定，眾人拾柴火焰高。

對于數(shù)據(jù)的收集，對于IoT來講，外面部署這成千上萬的檢測設(shè)備，將大量的溫度，適度，監(jiān)控，電力等等數(shù)據(jù)統(tǒng)統(tǒng)收集上來，對于互聯(lián)網(wǎng)網(wǎng)頁的搜索引擎來講，需要將整個(gè)互聯(lián)網(wǎng)所有的網(wǎng)頁都下載下來，這顯然一臺機(jī)器做不到，需要多臺機(jī)器組成網(wǎng)絡(luò)爬蟲系統(tǒng)，每臺機(jī)器下載一部分，同時(shí)工作，才能在有限的時(shí)間內(nèi)，將海量的網(wǎng)頁下載完畢。

對于數(shù)據(jù)的傳輸，一個(gè)內(nèi)存里面的隊(duì)列肯定會被大量的數(shù)據(jù)擠爆掉，于是就產(chǎn)生了基于硬盤的分布式隊(duì)列，這樣隊(duì)列可以多臺機(jī)器同時(shí)傳輸，隨你數(shù)據(jù)量多大，只要我的隊(duì)列足夠多，管道足夠粗，就能夠撐得住。

對于數(shù)據(jù)的存儲，一臺機(jī)器的文件系統(tǒng)肯定是放不下了，所以需要一個(gè)很大的分布式文件系統(tǒng)來做這件事情，把多臺機(jī)器的硬盤打成一塊大的文件系統(tǒng)。

再如數(shù)據(jù)的分析，可能需要對大量的數(shù)據(jù)做分解，統(tǒng)計(jì)，匯總，一臺機(jī)器肯定搞不定，處理到猴年馬月也分析不完，于是就有分布式計(jì)算的方法，將大量的數(shù)據(jù)分成小份，每臺機(jī)器處理一小份，多臺機(jī)器并行處理，很快就能算完。例如著名的Terasort對1個(gè)TB的數(shù)據(jù)排序，相當(dāng)于1024G，如果單機(jī)處理，怎么也要幾個(gè)小時(shí)，但是并行處理209秒就完成了。

所以說大數(shù)據(jù)平臺，什么叫做大數(shù)據(jù)，說白了就是一臺機(jī)器干不完，大家一起干。隨著數(shù)據(jù)量越來越大，很多不大的公司都需要處理相當(dāng)多的數(shù)據(jù)，這些小公司沒有這么多機(jī)器可怎么辦呢？

3.4 大數(shù)據(jù)需要云計(jì)算，云計(jì)算需要大數(shù)據(jù)

說到這里，大家想起云計(jì)算了吧。當(dāng)想要干這些活的時(shí)候，需要好多好多的機(jī)器一塊做，真的是想什么時(shí)候要，想要多少就要多少。例如大數(shù)據(jù)分析公司的財(cái)務(wù)情況，可能一周分析一次，如果要把這一百臺機(jī)器或者一千臺機(jī)器都在那放著，一周用一次對吧，非常浪費(fèi)。那能不能需要計(jì)算的時(shí)候，把這一千臺機(jī)器拿出來，然后不算的時(shí)候，這一千臺機(jī)器可以去干別的事情。誰能做這個(gè)事兒呢？只有云計(jì)算，可以為大數(shù)據(jù)的運(yùn)算提供資源層的靈活性。而云計(jì)算也會部署大數(shù)據(jù)放到它的PaaS平臺上，作為一個(gè)非常非常重要的通用應(yīng)用。因?yàn)榇髷?shù)據(jù)平臺能夠使得多臺機(jī)器一起干一個(gè)事兒，這個(gè)東西不是一般人能開發(fā)出來的，也不是一般人玩得轉(zhuǎn)的，怎么也得雇個(gè)幾十上百號人才能把這個(gè)玩起來，所以說就像數(shù)據(jù)庫一樣，其實(shí)還是需要有一幫專業(yè)的人來玩這個(gè)東西。現(xiàn)在公有云上基本上都會有大數(shù)據(jù)的解決方案了，一個(gè)小公司我需要大數(shù)據(jù)平臺的時(shí)候，不需要采購一千臺機(jī)器，只要到公有云上一點(diǎn)，這一千臺機(jī)器都出來了，并且上面已經(jīng)部署好了的大數(shù)據(jù)平臺，只要把數(shù)據(jù)放進(jìn)去算就可以了。

云計(jì)算需要大數(shù)據(jù)，大數(shù)據(jù)需要云計(jì)算，兩個(gè)人就這樣結(jié)合了。

四、人工智能擁抱大數(shù)據(jù)

4.1 機(jī)器什么時(shí)候才能懂人心

雖說有了大數(shù)據(jù)，人的欲望總是這個(gè)不能夠滿足。雖說在大數(shù)據(jù)平臺里面有搜索引擎這個(gè)東西，想要什么東西我一搜就出來了。但是也存在這樣的情況，我想要的東西不會搜，表達(dá)不出來，搜索出來的又不是我想要的。例如音樂軟件里面推薦一首歌，這首歌我沒聽過，當(dāng)然不知道名字，也沒法搜，但是軟件推薦給我，我的確喜歡，這就是搜索做不到的事情。當(dāng)人們使用這種應(yīng)用的時(shí)候，會發(fā)現(xiàn)機(jī)器知道我想要什么，而不是說當(dāng)我想要的時(shí)候，去機(jī)器里面搜索。這個(gè)機(jī)器真像我的朋友一樣懂我，這就有點(diǎn)人工智能的意思了。

人們很早就在想這個(gè)事情了。最早的時(shí)候，人們想象，如果要是有一堵墻，墻后面是個(gè)機(jī)器，我給它說話，它就給我回應(yīng)，我如果感覺不出它那邊是人還是機(jī)器，那它就真的是一個(gè)人工智能的東西了。

4.2 讓機(jī)器學(xué)會推理

怎么才能做到這一點(diǎn)呢？人們就想：我首先要告訴計(jì)算機(jī)人類的推理的能力。你看人重要的是什么呀，人和動物的區(qū)別在什么呀，就是能推理。我要是把我這個(gè)推理的能力啊告訴機(jī)器，機(jī)器就能根據(jù)你的提問，推理出相應(yīng)的回答，真能這樣多好。推理其實(shí)人們慢慢的讓機(jī)器能夠做到一些了，例如證明數(shù)學(xué)公式。這是一個(gè)非常讓人驚喜的一個(gè)過程，機(jī)器竟然能夠證明數(shù)學(xué)公式。但是慢慢發(fā)現(xiàn)其實(shí)這個(gè)結(jié)果，也沒有那么令人驚喜，因?yàn)榇蠹野l(fā)現(xiàn)了一個(gè)問題，數(shù)學(xué)公式非常嚴(yán)謹(jǐn)，推理過程也非常嚴(yán)謹(jǐn)，而且數(shù)學(xué)公式很容易拿機(jī)器來進(jìn)行表達(dá)，程序也相對容易表達(dá)。然而人類的語言就沒這么簡單了，比如今天晚上，你和你女朋友約會，你女朋友說：如果你早來，我沒來，你等著，如果我早來，你沒來，你等著。這個(gè)機(jī)器就比比較難理解了，但是人都懂，所以你和女朋友約會，你是不敢遲到的。

4.3 教給機(jī)器知識

所以僅僅告訴機(jī)器嚴(yán)格的推理是不夠的，還要告訴機(jī)器一些知識。但是知識這個(gè)事兒，一般人可能就做不來了，可能專家可以，比如語言領(lǐng)域的專家，或者財(cái)經(jīng)領(lǐng)域的專家。語言領(lǐng)域和財(cái)經(jīng)領(lǐng)域知識能不能表示成像數(shù)學(xué)公式一樣稍微嚴(yán)格點(diǎn)呢？例如語言專家可能會總結(jié)出主謂賓定狀補(bǔ)這些語法規(guī)則，主語后面一定是謂語，謂語后面一定是賓語，將這些總結(jié)出來，并嚴(yán)格表達(dá)出來不久行了嗎？后來發(fā)現(xiàn)這個(gè)不行，太難總結(jié)了，語言表達(dá)千變?nèi)f化。就拿主謂賓的例子，很多時(shí)候在口語里面就省略了謂語，別人問：你誰啊？我回答：我劉超。但是你不能規(guī)定在語音語義識別的時(shí)候，要求對著機(jī)器說標(biāo)準(zhǔn)的書面語，這樣還是不夠智能，就像羅永浩在一次演講中說的那樣，每次對著手機(jī)，用書面語說：請幫我呼叫某某某，這是一件很尷尬的事情。

人工智能這個(gè)階段叫做專家系統(tǒng)。專家系統(tǒng)不易成功，一方面是知識比較難總結(jié)，另一方面總結(jié)出來的知識難以教給計(jì)算機(jī)。因?yàn)槟阕约哼€迷迷糊糊，似乎覺得有規(guī)律，就是說不出來，就怎么能夠通過編程教給計(jì)算機(jī)呢？

4.4 算了，教不會你自己學(xué)吧

于是人們想到，看來機(jī)器是和人完全不一樣的物種，干脆讓機(jī)器自己學(xué)習(xí)好了。機(jī)器怎么學(xué)習(xí)呢？既然機(jī)器的統(tǒng)計(jì)能力這么強(qiáng)，基于統(tǒng)計(jì)學(xué)習(xí)，一定能從大量的數(shù)字中發(fā)現(xiàn)一定的規(guī)律。

然而統(tǒng)計(jì)學(xué)習(xí)比較容易理解簡單的相關(guān)性，例如一個(gè)詞和另一個(gè)詞總是一起出現(xiàn)，兩個(gè)詞應(yīng)該有關(guān)系，而無法表達(dá)復(fù)雜的相關(guān)性，并且統(tǒng)計(jì)方法的公式往往非常復(fù)雜，為了簡化計(jì)算，常常做出各種獨(dú)立性的假設(shè)，來降低公式的計(jì)算難度，然而現(xiàn)實(shí)生活中，具有獨(dú)立性的事件是相對較少的。

4.5 模擬大腦的工作方式

于是人類開始從機(jī)器的世界，反思人類的世界是怎么工作的。

4.6 人工智能需要大數(shù)據(jù)

然而神經(jīng)網(wǎng)絡(luò)包含這么多的節(jié)點(diǎn)，每個(gè)節(jié)點(diǎn)包含非常多的參數(shù)，整個(gè)參數(shù)量實(shí)在是太大了，需要的計(jì)算量實(shí)在太大，但是沒有關(guān)系啊，我們有大數(shù)據(jù)平臺，可以匯聚多臺機(jī)器的力量一起來計(jì)算，才能在有限的時(shí)間內(nèi)得到想要的結(jié)果。

人工智能可以做的事情非常多，例如可以鑒別垃圾郵件，鑒別黃色暴力文字和圖片等。這也是經(jīng)歷了三個(gè)階段的。第一個(gè)階段依賴于關(guān)鍵詞黑白名單和過濾技術(shù)，包含哪些詞就是黃色或者暴力的文字。隨著這個(gè)網(wǎng)絡(luò)語言越來越多，詞也不斷的變化，不斷的更新這個(gè)詞庫就有點(diǎn)顧不過來。第二個(gè)階段時(shí)，基于一些新的算法，比如說貝葉斯過濾等，你不用管貝葉斯算法是什么，但是這個(gè)名字你應(yīng)該聽過，這個(gè)一個(gè)基于概率的算法。第三個(gè)階段就是基于大數(shù)據(jù)和人工智能，進(jìn)行更加精準(zhǔn)的用戶畫像和文本理解和圖像理解。

由于人工智能算法多是依賴于大量的數(shù)據(jù)的，這些數(shù)據(jù)往往需要面向某個(gè)特定的領(lǐng)域(例如電商，郵箱)進(jìn)行長期的積累，如果沒有數(shù)據(jù)，就算有人工智能算法也白搭，所以人工智能程序很少像前面的IaaS和PaaS一樣，將人工智能程序給某個(gè)客戶安裝一套讓客戶去用，因?yàn)榻o某個(gè)客戶單獨(dú)安裝一套，客戶沒有相關(guān)的數(shù)據(jù)做訓(xùn)練，結(jié)果往往是很差的。但是云計(jì)算廠商往往是積累了大量數(shù)據(jù)的，于是就在云計(jì)算廠商里面安裝一套，暴露一個(gè)服務(wù)接口，比如您想鑒別一個(gè)文本是不是涉及黃色和暴力，直接用這個(gè)在線服務(wù)就可以了。這種形勢的服務(wù)，在云計(jì)算里面稱為軟件即服務(wù)，SaaS (Software AS A Service)

于是工智能程序作為SaaS平臺進(jìn)入了云計(jì)算。

五、云計(jì)算，大數(shù)據(jù)，人工智能過上了美好的生活

終于云計(jì)算的三兄弟湊齊了，分別是IaaS，PaaS和SaaS，所以一般在一個(gè)云計(jì)算平臺上，云，大數(shù)據(jù)，人工智能都能找得到。對一個(gè)大數(shù)據(jù)公司，積累了大量的數(shù)據(jù)，也會使用一些人工智能的算法提供一些服務(wù)。對于一個(gè)人工智能公司，也不可能沒有大數(shù)據(jù)平臺支撐。所以云計(jì)算，大數(shù)據(jù)，人工智能就這樣整合起來，完成了相遇，相識，相知。

六、5G 讓人工智能加速

文章來源：微信公眾號數(shù)據(jù)中心運(yùn)維管理