前一篇文章使用四種框架分別實現百萬websocket常連接的服務器介紹了四種websocket框架的測試方法和基本數據。 最近我又使用幾個框架實現了websocket push服務器的原型，并專門對這七種實現做了測試。 本文記錄了測試結果和一些對結果的分析。
這七種框架是：

• Netty

• Undertow

• Jetty

• Vert.x

• Grizzly

• spray-websocket

• nodejs-websocket/Node.js

最近用Golang實現了第八種，Go表現還不錯。

• Go

1. 測試環境

使用三臺C3.4xlarge AWS服務器做測試。 一臺作為服務器，兩臺作為客戶端機器， 每臺客戶端機器啟動10個client,一共20個client
C3.4xlarge的配置如下：

型號vCPU內存 (GiB)SSD 存儲 (GB)

c3.large	2	3.75	2 x 16
c3.xlarge	4	7.5	2 x 40
c3.2xlarge	8	15	2 x 80
c3.4xlarge	16	30	2 x 160
c3.8xlarge	32	60	2 x 320

服務器和客戶端機器按照上一篇文章做了基本的優化。

以下是測試的配置數據：

• 20 clients

• setup rate設為500 * 20 requests/second = 10000 request /second

• 每個client負責建立50000個websocket 連接

• 等1,000,000個websocket建好好，發送一個消息(時間戳)給所有的客戶端，客戶端根據時間戳計算latency

• 如果服務器setup rate建立很慢，主動停止測試

• 監控三個階段的性能指標： setup時， setup完成后應用發呆(idle)時，發送消息時

2. 測試結果

2.1 Netty

Setup時

• cpu idle: 90%

• minor gc: Few

• full gc: No

Setup完成， 應用Idle時

• cpu idle: 100%

• memory usage: 1.68G

• server free memory: 16.3G

發送消息時

• cpu idle: 75%

• minor gc: few

• full gc: No

• Message latency (one client)

  ?????count?=?50000min?=?0max?=?18301mean?=?2446.09stddev?=?3082.11median?=?1214.0075%?<=?3625.0095%?<=?8855.0098%?<=?12069.0099%?<=?13274.0099.9%?<=?18301.00

2.2 Vert.x

Setup時

• cpu idle: 95%

• minor gc: Few

• full gc: No

Setup完成， 應用Idle時

• cpu idle: 100%

• memory usage: 6.37G

• server free memory: 16.3G

發送消息時

• cpu idle: 47% ~ 76%

• minor gc: few

• full gc: few

• Message latency (one client)

  ?????count?=?50000min?=?49max?=?18949mean?=?10427.00stddev?=?5182.72median?=?10856.0075%?<=?14934.0095%?<=?17949.0098%?<=?18458.0099%?<=?18658.0099.9%?<=?18949.00

2.3 Undertow

Setup時

• cpu idle: 90%

• minor gc: Few

• full gc: No

Setup完成， 應用Idle時

• cpu idle: 100%

• memory usage: 4.02G

• server free memory: 14.2G

發送消息時

• cpu idle: 65%

• minor gc: few

• full gc: No

• Message latency

  ?????count?=?50000min?=?1max?=?11948mean?=?1366.86stddev?=?2007.77median?=?412.0075%?<=?2021.0095%?<=?5838.0098%?<=?7222.0099%?<=?8051.0099.9%?<=?11948.00

2.4 Jetty

Setup時

• cpu idle: 2%

• minor gc: Many

• full gc: No

• memory usage: 5G

• server free memory: 17.2G

當建立360,000左右的websocket時， setup非常的慢， gc頻繁，無法繼續正常建立websocket， 主動終止測試。

2.5 Grizzly

Setup時

• cpu idle: 20%

• minor gc: Some

• full gc: Some

• memory usage: 11.5G

• server free memory: 12.3G

當建立500,000左右的websocket時， setup非常的慢， gc頻繁，無法繼續正常建立websocket， 主動終止測試。

2.6 Spray

Setup時

• cpu idle: 80%

• minor gc: Many

• full gc: No

當建立500,000左右的websocket時， setup非常的慢， gc頻繁，無法繼續正常建立websocket， 主動終止測試。

2.7 Node.js

Setup時

• cpu idle: 94%

Setup完成， 應用Idle時

• cpu idle: 100%

• memory usage: 5.0G

• server free memory: 16.3G

發送消息時

• cpu idle: 94%

• Message latency (one client)

• Message latency

  ?????count?=?50000min?=?0max?=?18mean?=?1.27stddev?=?3.08median?=?1.0075%?<=?1.0095%?<=?1.0098%?<=?1.0099%?<=?1.0099.9%?<=?15.00

2.8 Go

Setup時

• cpu idle: 94%

Setup完成， 應用Idle時

• cpu idle: 100%

• memory usage: 15G

• server free memory: 6G

發送消息時

• cpu idle: 94%

• Message latency (one client)

• Message latency

  ?????count?=?50000min?=?0max?=?35mean?=?1.89stddev?=?1.83median?=?1.0075%?<=?1.0095%?<=?2.0098%?<=?2.0099%?<=?4.0099.9%?<=?34.00

3. 測試結果分析

• Netty, Go, Node.js, Undertow, Vert.x都能正常建立百萬連接。 Jetty, Grizzly 和 Spray未能完成百萬連接

• Netty表現最好。內存占用非常的少， CPU使用率也不高。 尤其內存占用，遠遠小于其它框架

• Jetty, Grizzly和Spray會產生大量的中間對象，導致垃圾回收頻繁。Jetty表現最差

• Node.js表現非常好。 尤其是測試中使用單實例單線程，建立速度非常快，消息的latency也很好。 內存占用也不錯

• Undertow表現也不錯，內存占用比Netty高一些，其它差不多

• 這里還未測到Spray另一個不好的地方。 在大量連接的情況小，即使沒有消息發送，Spray也會占用40% CPU 時間

總結

以上是生活随笔為你收集整理的八种 WebSocket 框架的性能比较的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。