让Netty“榨干”你的CPU
在開始了解Netty是什么之前,我們先來回顧一下,如果需要實現(xiàn)一個客戶端與服務(wù)端通信的程序,使用傳統(tǒng)的IO編程,應(yīng)該如何來實現(xiàn)?
IO編程
我們簡化一下場景:客戶端每隔兩秒發(fā)送一個帶有時間戳的“hello world”給服務(wù)端,服務(wù)端收到之后打印它。
在傳統(tǒng)的IO模型中,每個連接創(chuàng)建成功之后都需要由一個線程來維護,每個線程都包含一個while死循環(huán),那么1萬個連接對應(yīng)1萬個線程,繼而有1萬個while死循環(huán),這就帶來如下幾個問題。
線程資源受限:線程是操作系統(tǒng)中非常寶貴的資源,同一時刻有大量的線程處于阻塞狀態(tài),是非常嚴(yán)重的資源浪費,操作系統(tǒng)耗不起。
線程切換效率低下:單機CPU核數(shù)固定,線程爆炸之后操作系統(tǒng)頻繁進行線程切換,應(yīng)用性能急劇下降。
除了以上兩個問題,在IO編程中,我們看到數(shù)據(jù)讀寫是以字節(jié)流為單位的。
為了解決這3個問題,JDK在1.4版本之后提出了NIO。
NIO編程
在NIO編程模型中,新來一個連接不再創(chuàng)建一個新線程,而是可以把這個連接直接綁定到某個固定的線程,然后這個連接所有的讀寫都由這個線程來負(fù)責(zé),那么它是怎么做到的?我們用下圖來對比一下IO與NIO。
如上圖所示,在IO模型中,一個連接來了,會創(chuàng)建一個線程,對應(yīng)一個while死循環(huán),死循環(huán)的目的就是不斷監(jiān)測這個連接上是否有數(shù)據(jù)可以讀。在大多數(shù)情況下,1萬個連接里面同一時刻只有少量的連接有數(shù)據(jù)可讀,因此,很多while死循環(huán)都白白浪費掉了,因為讀不出數(shù)據(jù)。
而在NIO模型中,這么多while死循環(huán)轉(zhuǎn)換為一個死循環(huán),這個死循環(huán)由一個線程控制,那么NIO又是如何做到一個線程一個while死循環(huán)就能監(jiān)測1萬個連接是否有數(shù)據(jù)可讀的呢?
這就是NIO模型中Selector的作用,一個連接來了之后,不會創(chuàng)建一個while死循環(huán)去監(jiān)聽是否有數(shù)據(jù)可讀,而是直接把這條連接注冊到Selector上。然后,通過檢查這個Selector,就可以批量監(jiān)測出有數(shù)據(jù)可讀的連接,進而讀取數(shù)據(jù)。下面我們舉一個生活中非常簡單的例子來說明IO與NIO的區(qū)別。
在一家幼兒園里,小朋友有上廁所的需求,小朋友都太小以至于你要問他要不要上廁所,他才會告訴你。幼兒園一共有100個小朋友,有兩種方案可以解決小朋友上廁所的問題。
1.每個小朋友都配一個老師。每個老師都隔段時間詢問小朋友是否要上廁所。如果要上,就領(lǐng)他去廁所,100個小朋友就需要100個老師來詢問,并且每個小朋友上廁所的時候都需要一個老師領(lǐng)著他去,這就是IO模型,一個連接對應(yīng)一個線程。
2.所有的小朋友都配同一個老師。這個老師隔段時間詢問所有的小朋友是否有人要上廁所,然后每一時刻把所有要上廁所的小朋友批量領(lǐng)到廁所,這就是NIO模型。所有小朋友都注冊到同一個老師,對應(yīng)的就是所有的連接都注冊到同一個線程,然后批量輪詢。
這就是NIO模型解決線程資源受限問題的方案。在實際開發(fā)過程中,我們會開多個線程,每個線程都管理著一批連接,相對于IO模型中一個線程管理一個連接,消耗的線程資源大幅減少。
由于NIO模型中線程數(shù)量大大降低,因此線程切換效率也大幅度提高。
IO讀寫是面向流的,一次性只能從流中讀取一字節(jié)或者多字節(jié),并且讀完之后流無法再讀取,需要自己緩存數(shù)據(jù)。而NIO的讀寫是面向Buffer的,可以隨意讀取里面任何字節(jié)數(shù)據(jù),不需要自己緩存數(shù)據(jù),只需要移動讀寫指針即可。
簡單講完了JDK NIO的解決方案之后,接下來我們使用NIO方案替換掉IO方案。先來看看,如果用JDK原生的NIO來實現(xiàn)服務(wù)端,該怎么做。
前方高能預(yù)警:以下代碼可能會讓你感覺極度不適,如有不適,請?zhí)^。
NIOServer.java
/*** @author 閃電俠*/ public class NIOServer {public static void main(String[] args) throws IOException {Selector serverSelector = Selector.open();Selector clientSelector = Selector.open();new Thread(() -> {try {// 對應(yīng)IO編程中的服務(wù)端啟動ServerSocketChannel listenerChannel = ServerSocketChannel.open();listenerChannel.socket().bind(new InetSocketAddress(8000));listenerChannel.configureBlocking(false);listenerChannel.register(serverSelector, SelectionKey.OP_ACCEPT);while (true) {// 監(jiān)測是否有新連接,這里的1指阻塞的時間為 1msif (serverSelector.select(1) > 0) {Set<SelectionKey> set = serverSelector.selectedKeys();Iterator<SelectionKey> keyIterator = set.iterator();while (keyIterator.hasNext()) {SelectionKey key = keyIterator.next();if (key.isAcceptable()) {try {// (1)每來一個新連接,不需要創(chuàng)建一個線程,而是直接注冊到clientSelectorSocketChannel clientChannel = ((ServerSocketChannel) key.channel()).accept();clientChannel.configureBlocking(false);clientChannel.register(clientSelector, SelectionKey.OP_READ);} finally {keyIterator.remove();}}}}}} catch (IOException ignored) {}}).start();new Thread(() -> {try {while (true) {// (2)批量輪詢哪些連接有數(shù)據(jù)可讀,這里的1指阻塞的時間為 1msif (clientSelector.select(1) > 0) {Set<SelectionKey> set = clientSelector.selectedKeys();Iterator<SelectionKey> keyIterator = set.iterator();while (keyIterator.hasNext()) {SelectionKey key = keyIterator.next();if (key.isReadable()) {try {SocketChannel clientChannel = (SocketChannel) key.channel();ByteBuffer byteBuffer = ByteBuffer.allocate(1024);// (3)面向BufferclientChannel.read(byteBuffer);byteBuffer.flip();System.out.println(Charset.defaultCharset().newDecoder(). decode(byteBuffer).toString());} finally {keyIterator.remove();key.interestOps(SelectionKey.OP_READ);}}}}}} catch (IOException ignored) {}}).start();} }相信大部分沒有接觸過NIO的讀者應(yīng)該會直接跳過代碼來到這一行:原來使用JDK原生NIO的API實現(xiàn)一個簡單的服務(wù)端通信程序如此復(fù)雜!
我們還是先對照NIO來解釋一下核心思路。
NIO模型中通常會有兩個線程,每個線程都綁定一個輪詢器Selector。在這個例子中,serverSelector負(fù)責(zé)輪詢是否有新連接,clientSelector負(fù)責(zé)輪詢連接是否有數(shù)據(jù)可讀。
服務(wù)端監(jiān)測到新連接之后,不再創(chuàng)建一個新線程,而是直接將新連接綁定到clientSelector上,這樣就不用IO模型中的1萬個while循環(huán)死等,參見(1)。
clientSelector被一個while死循環(huán)包裹著,如果在某一時刻有多個連接有數(shù)據(jù)可讀,那么通過clientSelector.select(1)方法可以輪詢出來,進而批量處理。
數(shù)據(jù)的讀寫面向Buffer。
其他細(xì)節(jié)部分,因為實在是太復(fù)雜,所以筆者不再多講,讀者也不用對代碼的細(xì)節(jié)深究到底。總之,強烈不建議直接基于JDK原生NIO來進行網(wǎng)絡(luò)開發(fā),下面是筆者總結(jié)的原因。
JDK的NIO編程需要了解很多概念,編程復(fù)雜,對NIO入門非常不友好,編程模型不友好,ByteBuffer的API簡直“反人類”。
對NIO編程來說,一個比較合適的線程模型能充分發(fā)揮它的優(yōu)勢,而JDK沒有實現(xiàn),需要自己實現(xiàn),就連簡單的自定義協(xié)議拆包都要自己實現(xiàn)。
JDK的NIO底層由Epoll實現(xiàn),該實現(xiàn)飽受詬病的空輪詢Bug會導(dǎo)致CPU占用率飆升至100%。
項目龐大之后,自行實現(xiàn)的NIO很容易出現(xiàn)各類Bug,維護成本較高,上面這些代碼筆者都不能保證沒有Bug。
正因為如此,客戶端代碼這里就省略了,讀者可以直接使用IOClient.java與NIOServer.java通信。
JDK的NIO猶如帶刺的玫瑰,雖然美好,讓人向往,但是使用不當(dāng)會讓你抓耳撓腮,痛不欲生,正因為如此,Netty橫空出世!
Netty編程
Netty到底是何方神圣?
用一句簡單的話來說就是:Netty封裝了JDK的NIO,讓你用得更方便,不用再寫一大堆復(fù)雜的代碼了。
用官方正式的話來說就是:Netty是一個異步事件驅(qū)動的網(wǎng)絡(luò)應(yīng)用框架,用于快速開發(fā)可維護的高性能服務(wù)端和客戶端。
下面是筆者總結(jié)的使用Netty而不使用JDK原生NIO的原因。
使用JDK原生NIO需要了解太多概念,編程復(fù)雜,一不小心就Bug橫飛。
Netty底層IO模型隨意切換,而這一切只需要做微小的改動,改改參數(shù),Netty可以直接從NIO模型變身為IO模型。
Netty自帶的拆包/粘包、異常檢測等機制讓你從NIO的繁重細(xì)節(jié)中脫離出來,只需要關(guān)心業(yè)務(wù)邏輯即可。
Netty解決了JDK很多包括空輪詢在內(nèi)的Bug。
Netty底層對線程、Selector做了很多細(xì)小的優(yōu)化,精心設(shè)計的Reactor線程模型可以做到非常高效的并發(fā)處理。
自帶各種協(xié)議棧,讓你處理任何一種通用協(xié)議都幾乎不用親自動手。
Netty社區(qū)活躍,遇到問題隨時郵件列表或者Issue。
Netty已經(jīng)歷各大RPC框架、消息中間件、分布式通信中間件線上的廣泛驗證,健壯性無比強大。
這些原因看不懂沒有關(guān)系,在后續(xù)的章節(jié)中我們都可以學(xué)到。接下來我們用Netty來重新實現(xiàn)一下本章開篇的功能吧!
首先引入Maven依賴,案例后續(xù)Netty都基于4.1.6.Final版本。
<dependency><groupId>io.netty</groupId><artifactId>netty-all</artifactId><version>4.1.6.Final</version></dependency>然后是服務(wù)端實現(xiàn)部分。
NettyServer.java
/*** @author 閃電俠*/ public class NettyServer {public static void main(String[] args) {ServerBootstrap serverBootstrap = new ServerBootstrap();NioEventLoopGroup boss = new NioEventLoopGroup();NioEventLoopGroup worker = new NioEventLoopGroup();serverBootstrap.group(boss, worker).channel(NioServerSocketChannel.class).childHandler(new ChannelInitializer<NioSocketChannel>() {protected void initChannel(NioSocketChannel ch) {ch.pipeline().addLast(new StringDecoder());ch.pipeline().addLast(new SimpleChannelInboundHandler<String>() {@Overrideprotected void channelRead0(ChannelHandlerContext ctx, String msg) {System.out.println(msg);}});}}).bind(8000);} }這么一小段代碼就實現(xiàn)了我們前面NIO編程中的所有功能,包括服務(wù)端啟動、接收新連接、打印客戶端傳來的數(shù)據(jù),怎么樣?是不是比JDK原生NIO編程簡潔許多?
初學(xué)Netty的時候,由于大部分人對NIO編程缺乏經(jīng)驗,因此,將Netty里的概念與IO模型結(jié)合起來可能更好理解。
boss對應(yīng)IOServer.java中的負(fù)責(zé)接收新連接的線程,主要負(fù)責(zé)創(chuàng)建新連接。
worker對應(yīng)IOServer.java中的負(fù)責(zé)讀取數(shù)據(jù)的線程,主要用于讀取數(shù)據(jù)及業(yè)務(wù)邏輯處理。
剩下的邏輯筆者在后面的內(nèi)容中會詳細(xì)分析,讀者可以先把這段代碼復(fù)制到自己的IDE里,然后運行main函數(shù)。
下面是客戶端NIO的實現(xiàn)部分。
NettyClient.java
/*** @author 閃電俠*/ public class NettyClient {public static void main(String[] args) throws InterruptedException {Bootstrap bootstrap = new Bootstrap();NioEventLoopGroup group = new NioEventLoopGroup();bootstrap.group(group).channel(NioSocketChannel.class).handler(new ChannelInitializer<Channel>() {@Overrideprotected void initChannel(Channel ch) {ch.pipeline().addLast(new StringEncoder());}});Channel channel = bootstrap.connect("127.0.0.1", 8000).channel();while (true) {channel.writeAndFlush(new Date() + ": hello world!");Thread.sleep(2000);}} }在客戶端程序中,group對應(yīng)了IOClient.java中main函數(shù)起的線程,剩下的邏輯在后面的內(nèi)容中會詳細(xì)分析,現(xiàn)在你要做的事情就是把這段代碼復(fù)制到你的IDE里,然后運行main函數(shù),最后回到NettyServer.java的控制臺,你會看到效果。
使用Netty之后是不是覺得整個世界都變美好了?一方面,Netty對NIO封裝得如此完美,寫出來的代碼非常優(yōu)雅;另一方面,使用Netty之后,網(wǎng)絡(luò)通信的性能問題幾乎不用操心,盡情地讓Netty“榨干”你的CPU吧。
以上內(nèi)容節(jié)選自《跟閃電俠學(xué) Netty:Netty 即時聊天實戰(zhàn)與底層原理》一書!
目前市面上對初學(xué)者友好的Netty資料較少,網(wǎng)絡(luò)上大多數(shù)技術(shù)博客都是一堆零散的知識點集合,無法串成一條線形成一個體系。
本書作者俞超老師(閃電俠)在多年的Netty實戰(zhàn)、調(diào)優(yōu)、“踩坑”過程中積累了豐富的經(jīng)驗,持續(xù)在網(wǎng)絡(luò)上分享的相關(guān)博客、視頻等有百萬+閱讀量,并得到網(wǎng)友一致好評!
為了將這部分經(jīng)驗系統(tǒng)地分享給大家,幫助大家提升核心競爭力,俞超老師特地將Netty底層原理相關(guān)知識進行系統(tǒng)梳理,寫作了此書。
本書上篇通過一個即時聊天的例子,讓讀者能夠系統(tǒng)地使用一遍Netty,全面掌握Netty的知識點;下篇通過對源碼的層層剖析,讓讀者能夠掌握Netty底層原理,知其然并知其所以然,從而編寫出高性能網(wǎng)絡(luò)應(yīng)用程序。
上篇 入門實戰(zhàn)
在入門實戰(zhàn)篇中,讀者跟隨筆者實踐完這個即時聊天系統(tǒng)后,能夠?qū)W會如何使用Netty完成最基本的網(wǎng)絡(luò)通信程序,可以掌握以下知識點:
1.?如何啟動服務(wù)端?
2.?如何啟動客戶端?
3.?如何設(shè)計長連自定義協(xié)議?
4.?拆包/粘包原理與實踐。
5.?如何實現(xiàn)自定義編解碼。
6.?如何使用Pipeline與ChannelHandler?
7.?心跳與空閑檢測的方法。
8.?如何性能調(diào)優(yōu)?
本篇通俗易懂,可一口氣讀完,讓你一周內(nèi)進入實戰(zhàn)!
下篇 源碼分析
在源碼分析篇中,筆者從用戶視角出發(fā),環(huán)環(huán)相扣,帶領(lǐng)讀者逐個攻破Netty底層原理,掌握以下知識點:
1. 服務(wù)端啟動流程:ServerBootstrap外觀,創(chuàng)建NioServerSocketChannel,初始化,注冊Selector,綁定端口,接收新連接。
2. 高并發(fā)線程模型:Netty無鎖化串行設(shè)計,精心設(shè)計的Reactor線程模型榨干CPU、打滿網(wǎng)卡、讓應(yīng)用程序性能爆表的底層原理。
3. 新連接接入流程:Boss Reactor線程,監(jiān)測新連接,創(chuàng)建NioSocketChannel,IO線程分配,Selector注冊事件。
4. 解碼原理:解碼頂層抽象,定長解碼器,行解碼器,分隔符解碼器,基于長度域解碼器全面分析。
5. 事件傳播機制脈絡(luò):大動脈Pipeline,處理器ChannelHandler,Inbound和Outbound事件傳播與異常傳播的原理,編碼原理。
6. writeAndFlush流程:深入了解使用最頻繁的writeAndFlush的底層原理,避免踩坑。
適讀人群
本書適合以下三類人群:
1. 如果你聽說過或簡單使用過Netty,想全面系統(tǒng)地學(xué)習(xí)Netty,并掌握一些性能調(diào)優(yōu)方法,本書的入門實戰(zhàn)篇可以幫助你達成這個目標(biāo)。
2. 如果你深度使用過Netty,想深入了解Netty的底層設(shè)計,編寫出更靈活高效的網(wǎng)絡(luò)通信程序,本書的源碼分析篇可以幫助你達成這個目標(biāo)。
3. 如果你從未讀過開源框架源碼,本書將是你的第一本源碼指導(dǎo)書,閱讀優(yōu)秀的開源軟件源碼可以助你寫出更優(yōu)美的程序。讀源碼并不難,難的是邁出這一小步,之后就能通往更廣闊的空間。
本書推薦使用方式
01.?按章節(jié)順序把入門實戰(zhàn)篇的代碼一章章敲出來,在沒有掌握前一章節(jié)的知識點之前,建議不要跳躍學(xué)習(xí)。
02.?入門實戰(zhàn)篇學(xué)完之后,合上書本,把本書即時聊天系統(tǒng)的代碼再整體敲若干遍,敲的過程中可能會發(fā)現(xiàn)自己有遺忘知識點,這個時候可能需要不斷翻閱書本,沒有關(guān)系,翻閱就好了。
03.?確保最后一次實現(xiàn)本書的即時聊天系統(tǒng)的例子是沒有翻閱書本的,是完全自行實現(xiàn)的,之后進入源碼分析篇的學(xué)習(xí)。
04.?針對源碼分析篇,建議讀者按章節(jié)順序來學(xué)習(xí),不要跳躍,不要圖快,每一步都要扎實。
05.?在源碼學(xué)習(xí)的過程中,先跟隨書本,對照源碼,把對應(yīng)章節(jié)的流程過一遍,每個章節(jié)學(xué)完之后,建議花較多的時間進行調(diào)試和閱讀,確保掌握了前一章節(jié)的內(nèi)容之后再進行下一章的學(xué)習(xí)。
福利時間
GIFT TIME
送書環(huán)節(jié)又來了
感謝大家一直以來的陪伴與支持
今天給大家贈送5本書
由博文視點贊助
也歡迎大家自行購買
本次送書不需要評論,也不需要轉(zhuǎn)發(fā)
采用最公平的抽獎方式。
公眾號后臺回復(fù):netty?
即可參與抽獎
有道無術(shù),術(shù)可成;有術(shù)無道,止于術(shù)
歡迎大家關(guān)注Java之道公眾號
好文章,我在看??
總結(jié)
以上是生活随笔為你收集整理的让Netty“榨干”你的CPU的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: InnoDB原理篇:Change Buf
- 下一篇: 那些辞职考公的程序员,最后都怎么样了?