AWS：修煉“內(nèi)功”驅(qū)動(dòng)力

王永

“每個(gè)人都在經(jīng)歷整個(gè)IT的變化，從最早的Database、ERP到移動(dòng)互聯(lián)網(wǎng)推動(dòng)的工作負(fù)載的變化，再到未來(lái)可以預(yù)見到的機(jī)器學(xué)習(xí)，這些都在驅(qū)動(dòng)整個(gè)工作負(fù)載變化的趨勢(shì)?！?AWS大中華區(qū)云服務(wù)產(chǎn)品管理總經(jīng)理顧凡在接受筆者的采訪時(shí)表示，亞馬遜云服務(wù)（AWS）的Amazon EC2有一個(gè)很重要的使命，就是要服務(wù)云上所有的工作負(fù)載——橫跨各個(gè)行業(yè)的實(shí)例類型，為客戶的工作負(fù)載去量身定做各種各樣的計(jì)算。

事實(shí)上，隨著數(shù)字化浪潮的不斷深入，云計(jì)算的創(chuàng)新也從未停止腳步。云計(jì)算是產(chǎn)品的服務(wù)化，并不是簡(jiǎn)單的賣給客戶服務(wù)器，或者存儲(chǔ)那么簡(jiǎn)單。而作為服務(wù)模式，就更需要提供商的運(yùn)營(yíng)和經(jīng)驗(yàn)的積累，滿足客戶急需的產(chǎn)品迭代需求。

“從產(chǎn)品的角度來(lái)看，AWS的彈性計(jì)算主要分為四個(gè)維度：多元選擇、安全可靠、多維賦能企業(yè)應(yīng)用以及高性能計(jì)算?！鳖櫡脖硎?，同樣提供的彈性計(jì)算服務(wù)，其實(shí)也有深度和廣度的區(qū)別——AWS是唯一有ARM和Mac OS實(shí)例，同時(shí)也是唯一一個(gè)CPU頻率能夠穩(wěn)定在4GHz以上的服務(wù)提供者。

具體來(lái)看，從提供的服務(wù)中，AWS一直提倡的是把選擇權(quán)交給客戶：一方面從操作系統(tǒng)的選擇上，Linux、Windows，包括今年發(fā)布的針對(duì)Mac OS的支持。這里值得一提的是，亞馬遜也有自己的Linux系統(tǒng)，會(huì)針對(duì)AWS服務(wù)和Docker容器服務(wù)做一些優(yōu)化，無(wú)需額外付費(fèi)，AWS會(huì)提供五年的支持。

另一方面，在處理器的選擇上，AWS也可以提供x86、AMD、ARM等主流處理器。針對(duì)不同的客戶量體裁衣的需求，完全可以分為計(jì)算密集型、內(nèi)存密集型、存儲(chǔ)、IO敏感、吞吐敏感、網(wǎng)絡(luò)延遲敏感的應(yīng)用。

Intel與AWS保持了長(zhǎng)達(dá)14年深度合作的合作伙伴關(guān)系，雙方合作為客戶提供了很多定制的實(shí)例。C5n是與Intel當(dāng)時(shí)合作的支持100G網(wǎng)絡(luò)帶寬的專有的實(shí)例，現(xiàn)在已經(jīng)升級(jí)到400G，是當(dāng)前支持最大24TB大內(nèi)存的實(shí)例的唯一提供商?！鞍堰x擇權(quán)交給客戶，就是我們把對(duì)于處理器和每一個(gè)實(shí)例的選擇權(quán)交給客戶，從操作系統(tǒng)、到處理器的選擇上，客戶可以基于自身的需求選擇?！?/p>

值得注意的是，2018年，AWS第一次對(duì)外推出了基于ARM架構(gòu)的AWS Graviton第一代CPU的芯片。在2019年的re：Invent大會(huì)上，宣布推出了第二代，并在2020年正式讓客戶開始使用AWS Graviton2。這是AWS最新的基于ARM架構(gòu)的自研的芯片，也是第一個(gè)真正的以云為原生去設(shè)計(jì)的適合運(yùn)營(yíng)上面的現(xiàn)代化應(yīng)用負(fù)載提供的云服務(wù)的芯片。AWS將其定位為是為云原生的應(yīng)用而定制的一款處理器。

過(guò)去幾十年的CPU發(fā)展，頻率的提升已經(jīng)逐漸放慢，更多是內(nèi)核數(shù)量的增加以及對(duì)多線程、多進(jìn)程的應(yīng)用的支持。隨著CPU發(fā)展的變化，無(wú)論是操作系統(tǒng)還是軟件的設(shè)計(jì)編程的語(yǔ)言和整個(gè)應(yīng)用的架構(gòu)，都越來(lái)越轉(zhuǎn)變?nèi)ミm應(yīng)這樣CPU發(fā)展的特點(diǎn)。

“所以，我們看到這些新的應(yīng)用軟件、編程工具開發(fā)的應(yīng)用，都更適合于可以平行擴(kuò)展的架構(gòu)，去充分地利用CPU的多個(gè)核、多個(gè)線程、可以并行處理多個(gè)任務(wù)的特點(diǎn)去發(fā)展出來(lái)的能力?！盇WS大中華區(qū)產(chǎn)品部計(jì)算與存儲(chǔ)總監(jiān)周舸表示，現(xiàn)在云上蓬勃發(fā)展的微服務(wù)化的現(xiàn)代化的應(yīng)用，會(huì)把傳統(tǒng)應(yīng)用架構(gòu)拆細(xì)分布在很小的微服務(wù)化上，然后做快速的平行擴(kuò)展。極大地利用了多核、多進(jìn)程的處理能力的CPU架構(gòu)帶來(lái)的優(yōu)點(diǎn)。

據(jù)了解，2021年1月14日，Graviton2 CPU的實(shí)例已經(jīng)落地到中國(guó)的光環(huán)新網(wǎng)運(yùn)營(yíng)的北京區(qū)域和西云數(shù)據(jù)在運(yùn)營(yíng)的寧夏區(qū)域。

“從2019年第一代到Graviton2現(xiàn)在的積累，我們已經(jīng)看到了非常豐富的生態(tài)的配合在ARM上面，例如，當(dāng)前主流的Linux操作系統(tǒng)可以運(yùn)行在兩代的Graviton的實(shí)例， Docker和EKS的容器服務(wù)也都已經(jīng)支持，同時(shí)AWS自己的Hadoop的 ERM服務(wù)，也支持Graviton2的實(shí)例?！敝荇囱a(bǔ)充道。

涂鴉智能是一家全球化AI+IoT的企業(yè)，連接消費(fèi)者、制造品牌、OEM廠商和連鎖零售商的智能化需求，為開發(fā)者提供一站式人工智能物聯(lián)網(wǎng)PaaS級(jí)解決方案。業(yè)務(wù)涵蓋硬件開發(fā)工具、全球云、智慧商業(yè)平臺(tái)開發(fā)三方面，提供從技術(shù)到營(yíng)銷渠道的全面生態(tài)賦能。

“我們每天處理的設(shè)備請(qǐng)求的次數(shù)是840億次，請(qǐng)求高峰是150萬(wàn)次/秒，同時(shí)我們?cè)贫朔?wù)器的響應(yīng)時(shí)間是小于10毫秒/次，作為一家AI+IoT公司，每天還會(huì)處理1.2億次的AI語(yǔ)音交互數(shù)。”涂鴉云端開發(fā)部首席架構(gòu)師陳亞焱表示，面對(duì)大量的請(qǐng)求數(shù)量，做到實(shí)時(shí)響應(yīng)，是涂鴉最大的業(yè)務(wù)目標(biāo)和挑戰(zhàn)。

此外，涂鴉提供了一個(gè)全球化的IoT的平臺(tái)，就要求其做到在全球范圍內(nèi)的高可用，但全球的數(shù)據(jù)中心搭建成本比較高，運(yùn)維和維護(hù)也成為了新的難題。與此同時(shí)，快速增長(zhǎng)的業(yè)務(wù)，也要求涂鴉必須做到實(shí)時(shí)的擴(kuò)容——云端整個(gè)設(shè)備都是在10毫秒之內(nèi)會(huì)響應(yīng)請(qǐng)求，對(duì)網(wǎng)絡(luò)鏈路、穩(wěn)定性、SLA都有非常高的要求。

“之前使用x86，M5g的CPU數(shù)值大約在27%，去年8月份開始向做Graviton 2遷移，使用Graviton 2后，涂鴉的CPU占用率從之前的27%降到了12%，服務(wù)器單價(jià)降低了20%，整體的性價(jià)比提升了2.5倍?！痹陉悂嗢涂磥?lái)，Graviton 2的架構(gòu)非常符合涂鴉連接層的架構(gòu)，因?yàn)槠溥B接層本身就有輕量級(jí)的進(jìn)程，Graviton2每個(gè)CPU核心的設(shè)計(jì)和進(jìn)程都是隔離運(yùn)行的，并且Graviton2也提供了更大的緩存，為整個(gè)CPU其實(shí)獲得了非常好的提升。