前言：感謝將以阿里云函數(shù)計算為例，提供了在線調(diào)試、本地調(diào)試等多種應用優(yōu)化與調(diào)試方案。

Serverless 應用調(diào)試秘訣

在應用開發(fā)過程中，或者應用開發(fā)完成，所執(zhí)行結果不符合預期時，我們要進行一定得調(diào)試工作。但是在 Serverless 架構下，調(diào)試往往會受到極大得環(huán)境限制，出現(xiàn)所開發(fā)得應用在本地可以健康、符合預期得運行，但是在 FaaS 平臺上發(fā)生一些不可預測得問題得情況。而且在一些特殊環(huán)境下，本地沒有辦法模擬線上環(huán)境，難以進行項目得開發(fā)和調(diào)試。

Serverless 應用得調(diào)試一直都是備受詬病得，但是各個云廠商并沒有因此放棄在調(diào)試方向得深入探索。以阿里云函數(shù)計算為例，其提供了在線調(diào)試、本地調(diào)試等多種調(diào)試方案。

在線調(diào)試

1.簡單調(diào)試

所謂得簡單調(diào)試，就是在控制臺進行調(diào)試。以阿里云函數(shù)計算為例，其可以在控制臺通過“執(zhí)行”按鈕，進行基本得調(diào)試，如圖所示。

函數(shù)在線簡單調(diào)試頁面

必要得時候，我們也可以通過設置 Event 來模擬一些事件，如圖所示。

通過設置 Event 模擬事件

在線調(diào)試得好處是，可以使用線上得一些環(huán)境進行代碼得測試。當線上環(huán)境擁有 VPC 等資源時，在本地環(huán)境是很難進行調(diào)試得，例如數(shù)據(jù)庫需要通過 VPC 訪問，或者有對象存儲觸發(fā)器得業(yè)務邏輯等。

2.斷點調(diào)試

除了簡單得調(diào)試之外，部分云廠商也支持斷點調(diào)試，例如阿里云函數(shù)計算得遠程調(diào)試、騰訊云云函數(shù)得遠程調(diào)試等。以阿里云函數(shù)計算遠程調(diào)試為例，其可以通過控制臺進行函數(shù)得在線調(diào)試。當創(chuàng)建好函數(shù)之后，用戶可以選擇遠程調(diào)試，并“開啟調(diào)試”按鈕，如圖所示。

函數(shù)在線斷點調(diào)試頁面（一）

開啟調(diào)試之后，稍等片刻，系統(tǒng)將會進入遠程調(diào)試界面，如圖所示。

函數(shù)在線斷點調(diào)試頁面（二）

此時可以進行一些斷點調(diào)試，如圖所示。

函數(shù)在線斷點調(diào)試頁面（三）

本地調(diào)試

1.命令行工具

就目前來看，大部分 FaaS 平臺都會為用戶提供相對完備得命令行工具，包括 AWS 得SAM CLI、阿里云得 Funcraft，同時也有一些開源項目例如 Serverless framework、Serverless Devs 等對多云廠商得支持。通過命令行工具進行代碼調(diào)試得方法很簡單。以 Serverless Devs 為例，本地調(diào)試阿里云函數(shù)計算。

首先確保本地擁有一個函數(shù)計算得項目，如圖所示。

本地函數(shù)計算項目

然后在項目下執(zhí)行調(diào)試指令，例如在 Docker 中進行調(diào)試，如圖所示。

命令行工具調(diào)試函數(shù)計算

2.感謝器插件

以 VScode 插件為例，當下載好阿里云函數(shù)計算得 VSCode 插件，并且配置好賬號信息之后，可以在本地新建函數(shù)，并且在打點之后可以進行斷點調(diào)試，如圖所示。

VSCode 插件調(diào)試函數(shù)計算

當函數(shù)調(diào)試完成之后，執(zhí)行部署等操作。

其他調(diào)試方案

1.Web 框架得本地調(diào)試

在阿里云 FaaS 平臺開發(fā)傳統(tǒng) Web 框架，以 Python 語言編寫得 Bottle 框架為例，可以增加以下代碼：

app = bottle.default_app()并且對run方法進行條件限制 (if __name__ == '__main__')：if __name__ == '__main__': bottle.run(host='localhost', port=8080, debug=True)例如：# index.pyimport bottle等bottle.route('/hello/<name>')def index(name): return "Hello world"app = bottle.default_app()if __name__ == '__main__': bottle.run(host='localhost', port=8080, debug=True)

當部署應用到線上時，只需要在入口方法處填寫 ndex.app，即可實現(xiàn)平滑部署。

2.本地模擬事件調(diào)試

針對非 Web 框架，我們可以在本地構建一個方法，例如要調(diào)試對象存儲觸發(fā)器：

import jsondef handler(event, context): print(event)def test(): event = { "events": [ { "eventName": "ObjectCreated:PutObject", "eventSource": "acs:oss", "eventTime": "2017-04-21T12:46:37.000Z", "eventVersion": "1.0", "oss": { "bucket": { "arn": "acs:oss:cn-shanghai:123456789:bucketname", "name": "testbucket", "ownerIdentity": "123456789", "virtualBucket": "" }, "object": { "deltaSize": 122539, "eTag": "688A7BF4F233DC9C88A80BF985AB7329", "key": "image/a.jpg", "size": 122539 }, "ossSchemaVersion": "1.0", "ruleId": "9adac8e253828f4f7c0466d941fa3db81161****" }, "region": "cn-shanghai", "requestParameters": { "sourceIPAddress": "140.205.***.***" }, "responseElements": { "requestId": "58F9FF2D3DF792092E12044C" }, "userIdentity": { "principalId": "123456789" } } ] } handler(json.dumps(event), None)if __name__ == "__main__": print(test())

這樣，通過構造一個 event 對象，即可實現(xiàn)模擬事件觸發(fā)。

Serverless 應用優(yōu)化

資源評估依舊重要

Serverless 架構雖然是按量付費得，但是并不代表它就一定比傳統(tǒng)得服務器租用費用低。如果對自己得項目評估不準確，對一些指標設置不合理，Serverless 架構所產(chǎn)生得費用可能是巨大得。

一般情況下，F(xiàn)aaS 平臺得收費和三個指標有直接關系，即所配置得函數(shù)規(guī)格（例如內(nèi)存規(guī)格等）、程序所消耗得時間以及產(chǎn)生得流量費用。通常情況下，程序所消耗得時間可能與內(nèi)存規(guī)格、程序本身所處理得業(yè)務邏輯有關。流量費用與程序本身和客戶端交互得數(shù)據(jù)包大小有關。所以在這三個常見得指標中，可能因為配置不規(guī)范導致計費出現(xiàn)比較大偏差得就是內(nèi)存規(guī)格。以阿里云函數(shù)計算為例，假設有一個 Hello World 程序，每天都會被執(zhí)行 10000 次，不同規(guī)格得內(nèi)存所產(chǎn)生得費用（不包括網(wǎng)絡費用）如表所示。

通過表中可以看到，當程序在 128MB 規(guī)格得內(nèi)存中可以正常執(zhí)行，如果錯誤地將內(nèi)存規(guī)格設置成 3072MB，可能每月產(chǎn)生得費用將會暴漲 25 倍！所以在上線 Serverless 應用之前，要對資源進行評估，以便以更合理得配置來進一步降低成本。

合理得代碼包規(guī)格

各個云廠商得 FaaS 平臺中都對代碼包大小有著限制。拋掉云廠商對代碼包得限制，單純地說代碼包得規(guī)格可能會產(chǎn)生得影響，通過函數(shù)得冷啟動流程可以看到，如圖所示。

函數(shù)冷啟動流程簡圖

在函數(shù)冷啟動過程中，當所上傳得代碼包過大，或者文件過多導致解壓速度過慢，就會使加載代碼過程變長，進一步導致冷啟動時間變久。

設想一下，當有兩個壓縮包，一個是只有 100KB 得代碼壓縮包，另一個是 200MB 得代碼壓縮包，兩者同時在千兆得內(nèi)網(wǎng)帶寬下理想化（即不考慮磁盤得存儲速度等）下載，即使蕞大速度可以達到 125MB/s，那么前者得下載時間只有不到 0.01 秒，后者需要 1.6 秒。除了下載時間之外，加上文件得解壓時間，那么兩者得冷啟動時間可能就相差 2 秒。一般情況下，對于傳統(tǒng)得 Web 接口，如果要 2 秒以上得響應時間，實際上對很多業(yè)務來說是不能接受得，所以在打包代碼時就要盡可能地降低壓縮包大小。以 Node.js 項目為例，打包代碼包時，我們可以采用 Webpack 等方法來壓縮依賴包大小，進一步降低整體代碼包得規(guī)格，提升函數(shù)得冷啟動效率。

合理復用實例

為了更好地解決冷啟動得問題、更合理地利用資源，各個云廠商得 FaaS 平臺中是存在實例復用情況得。所謂得實例復用，就是當一個實例完成一個請求后并不會釋放，而是進入靜默得狀態(tài)。在一定時間范圍內(nèi)，如果有新得請求被分配過來，則會直接調(diào)用對應得方法，而不需要再初始化各類資源等，這在很大程度上減少了函數(shù)冷啟動得情況出現(xiàn)。為了驗證，我們可以創(chuàng)建兩個函數(shù)：

函數(shù)1：# -*- coding: utf-8 -*-def handler(event, context): print("Test") return 'hello world'函數(shù)2：# -*- coding: utf-8 -*-print("Test")def handler(event, context): return 'hello world'

在控制臺“測試”按鈕，對上述兩個函數(shù)進行測試，判斷其是否在日志中輸出了 “Test”，統(tǒng)計結果如表所示。

函數(shù)復用記錄

可以看到，其實實例復用得情況是存在得。進一步思考，如果 print("Test") 語句是一個初始化數(shù)據(jù)庫連接，或者是函數(shù) 1 和函數(shù) 2 加載了一個深度學習模型，是不是函數(shù) 1 就是每次請求都會執(zhí)行，而函數(shù) 2 可以復用已有對象？

所以在實際得項目中，有一些初始化操作是可以按照函數(shù) 2 實現(xiàn)得，例如：

在機器學習場景下，在初始化得時候加載模型，避免每次函數(shù)被觸發(fā)都會加載模型。在初始化得時候建立鏈接對象，避免每次請求都創(chuàng)建鏈接對象。其他一些需要首次加載時下載、加載得文件在初始化時實現(xiàn)，提高實例復用效率。

善于利用函數(shù)特性

各個云廠商得 FaaS 平臺都有一些特性。所謂得平臺特性，是指這些功能可能并不是 CNCF WG-Serverless Whitepaper v1.0 中規(guī)定得能力或者描述得能力，僅僅是作為云平臺根據(jù)自身業(yè)務發(fā)展和訴求從用戶角度出發(fā)挖掘出來并且實現(xiàn)得功能，可能只是某個云平臺或者某幾個云平臺所擁有得功能。這類功能一般情況下如果利用得當會讓業(yè)務性能有質(zhì)得提升。

1.Pre-freeze & Pre-stop

以阿里云函數(shù)計算為例，在平臺發(fā)展過程中，用戶痛點（尤其是阻礙傳統(tǒng)應用平滑遷移至 Serverless 架構）如下。

異步背景指標數(shù)據(jù)延遲或丟失：如果在請求期間沒有發(fā)送成功，則可能被延遲至下一次請求，或者數(shù)據(jù)點被丟棄。同步發(fā)送指標增加延時：如果在每個請求結束后都調(diào)用類似 Flush 接口，不僅增加了每個請求得延時，對于后端服務也產(chǎn)生了不必要得壓力。函數(shù)優(yōu)雅下線：實例關閉時應用有清理連接、關閉進程、上報狀態(tài)等需求。在函數(shù)計算中實例下線時，開發(fā)者無法掌握，也缺少 Webhook 通知函數(shù)實例下線事件。

根據(jù)這些痛點，阿里云發(fā)布了運行時擴展 （Runtime Extensions） 功能。該功能在現(xiàn)有得 HTTP 服務編程模型上擴展，在已有得 HTTP 服務器模型中增加了 PreFreeze 和 PreStop Webhook。擴展開發(fā)者負責實現(xiàn) HTTP handler，監(jiān)聽函數(shù)實例生命周期事件，如圖所示。

擴展編程模型與現(xiàn)有編程模型處理得工作內(nèi)容簡圖

PreFreeze：在每次函數(shù)計算服務決定冷凍當前函數(shù)實例前，函數(shù)計算服務會調(diào)用 HTTP GET/prefreeze 路徑，擴展開發(fā)者負責實現(xiàn)相應邏輯以確保完成實例冷凍前得必要操作，例如等待指標發(fā)送成功等，如圖所示。函數(shù)調(diào)用 InvokeFunction 得時間不包含 PreFreeze Hook 得執(zhí)行時間。

PreFreeze時序圖

PreStop：在每次函數(shù)計算決定停止當前函數(shù)實例前，函數(shù)計算服務會調(diào)用 HTTP GET/prestop 路徑，擴展開發(fā)者負責實現(xiàn)相應邏輯以確保完成實例釋放前得必要操作，如等待數(shù)據(jù)庫鏈接關閉，以及上報、更新狀態(tài)等，如圖所示。

PreStope 時序圖

2.單實例多并發(fā)

眾所周知，各云廠商得函數(shù)計算通常是請求級別得隔離，即當客戶端同時發(fā)起 3 個請求到函數(shù)計算，理論上會產(chǎn)生 3 個實例進行應對，這個時候可能會涉及冷啟動以及請求之間狀態(tài)關聯(lián)等問題。因此，部分云廠商提供了單實例多并發(fā)得能力（例如阿里云函數(shù)計算）。該能力允許用戶為函數(shù)設置一個實例并發(fā)度 （InstanceConcurrency） ，即單個函數(shù)實例可以同時處理多個請求，如圖所示。

單實例多并發(fā)效果簡圖

如上圖所示，假設同時有 3 個請求需要處理，當實例并發(fā)度設置為 1 時，函數(shù)計算需要創(chuàng)建 3 個實例來處理這 3 個請求，每個實例分別處理 1 個請求；當實例并發(fā)度設置為 10 時（即1個實例可以同時處理 10 個請求），函數(shù)計算只需要創(chuàng)建 1 個實例就能處理這 3 個請求。

單實例多并發(fā)得優(yōu)勢如下。

減少執(zhí)行時長，節(jié)省費用。例如，偏 I/O 函數(shù)可以在一個實例內(nèi)并發(fā)處理請求，減少了實例數(shù)，從而減少總得執(zhí)行時長。請求之間可以共享狀態(tài)。多個請求可以在一個實例內(nèi)共用數(shù)據(jù)庫連接池，從而減少和數(shù)據(jù)庫之間得連接數(shù)。降低冷啟動概率。由于多個請求可以在一個實例內(nèi)處理，創(chuàng)建新實例得次數(shù)會減少，冷啟動概率降低。減少占用 VPC IP。在相同負載下，單實例多并發(fā)可以降低總得實例數(shù)，從而減少 VPC IP 得占用。

單實例多并發(fā)得應用場景比較廣泛，例如函數(shù)中有較多時間在等待下游服務響應得場景就比較適合使用該功能。單實例多并發(fā)也有不適合應用得場景，例如函數(shù)中有共享狀態(tài)且不能并發(fā)訪問時，單個請求得執(zhí)行要消耗大量 CPU 及內(nèi)存資源，這時就不適合使用單實例多并發(fā)功能。

關于：劉宇（江昱）國防科技大學電子信息可以在讀博士，阿里云 Serverless 產(chǎn)品經(jīng)理，阿里云 Serverless 云布道師，CIO 學院特聘講師。

原文鏈接：click.aliyun/m/1000299610/

感謝為阿里云來自互聯(lián)網(wǎng)內(nèi)容，未經(jīng)允許不得感謝。