Epoll基本介紹

在linux的網(wǎng)絡(luò)編程中，很長的時間都在使用select來做事件觸發(fā)。在linux新的內(nèi)核中，有了一種替換它的機制，就是epoll。相比于 select，epoll最大的好處在于它不會隨著監(jiān)聽fd數(shù)目的增長而降低效率。因為在內(nèi)核中的select實現(xiàn)中，它是采用輪詢來處理的，輪詢的fd 數(shù)目越多，自然耗時越多。并且，在linux/posix_types.h頭文件有這樣的聲明：
#define?__FD_SETSIZE????1024
表示select最多同時監(jiān)聽1024個fd，當(dāng)然，可以通過修改頭文件再重編譯內(nèi)核來擴大這個數(shù)目，但這似乎并不治本。

所以先來看看二者的區(qū)別：

select的特點：select 選擇句柄的時候，是遍歷所有句柄，也就是說句柄有事件響應(yīng)時，select需要遍歷所有句柄才能獲取到哪些句柄有事件通知，因此效率是非常低。但是如果連接很少的情況下， select和epoll的LT觸發(fā)模式相比， 性能上差別不大。
這里要多說一句，select支持的句柄數(shù)是有限制的， 同時只支持1024個，這個是句柄集合限制的，如果超過這個限制，很可能導(dǎo)致溢出，而且非常不容易發(fā)現(xiàn)問題， TAF就出現(xiàn)過這個問題， 調(diào)試了n天，才發(fā)現(xiàn)：）當(dāng)然可以通過修改linux的socket內(nèi)核調(diào)整這個參數(shù)。
epoll的特點：epoll對于句柄事件的選擇不是遍歷的，是事件響應(yīng)的，就是句柄上事件來就馬上選擇出來，不需要遍歷整個句柄鏈表，因此效率非常高，內(nèi)核將句柄用紅黑樹保存的。對于epoll而言還有ET和LT的區(qū)別，LT表示水平觸發(fā)，ET表示邊緣觸發(fā)，兩者在性能以及代碼實現(xiàn)上差別也是非常大的。

?

epoll函數(shù)

epoll的接口非常簡單，一共就三個函數(shù)：
1.int?epoll_create(?int?size?);?//int?close(int?epfd);
創(chuàng)建一個epoll的句柄，size用來告訴內(nèi)核這個監(jiān)聽的數(shù)目一共有多大。這個參數(shù)不同于select()中的第一個參數(shù)，給出最大監(jiān)聽的fd+1的值。需要注意的是，當(dāng)創(chuàng)建好epoll句柄后，它就是會占用一個fd值，在linux下如果查看/proc/進程id/fd/，是能夠看到這個fd的，所以在使用完epoll后，必須調(diào)用close()關(guān)閉，否則可能導(dǎo)致fd被耗盡。
2.int?epoll_ctl(int?epfd,?int?op,?int?fd,?struct?epoll_event?*event?);
epoll的事件注冊函數(shù)，它不同與select()是在監(jiān)聽事件時告訴內(nèi)核要監(jiān)聽什么類型的事件，而是在這里先注冊要監(jiān)聽的事件類型。第一個參數(shù)是epoll_create()的返回值，第二個參數(shù)表示動作，用三個宏來表示：
EPOLL_CTL_ADD：注冊新的fd到epfd中；
EPOLL_CTL_MOD：修改已經(jīng)注冊的fd的監(jiān)聽事件；
EPOLL_CTL_DEL：從epfd中刪除一個fd；
第三個參數(shù)是需要監(jiān)聽的fd，第四個參數(shù)是告訴內(nèi)核需要監(jiān)聽什么事，struct epoll_event結(jié)構(gòu)如下：

struct epoll_event {__uint32_t events; /* Epoll events */epoll_data_t data; /* User data variable */ } typedef union epoll_data {void *ptr;int fd;__uint32_t u32;__uint64_t u64; } epoll_data_t;

events可以是以下幾個宏的集合：
EPOLLIN ：表示對應(yīng)的文件描述符可以讀（包括對端SOCKET正常關(guān)閉）；
EPOLLOUT：表示對應(yīng)的文件描述符可以寫；
EPOLLPRI：表示對應(yīng)的文件描述符有緊急的數(shù)據(jù)可讀（這里應(yīng)該表示有帶外數(shù)據(jù)到來）；
EPOLLERR：表示對應(yīng)的文件描述符發(fā)生錯誤；
EPOLLHUP：表示對應(yīng)的文件描述符被掛斷；
EPOLLET：?將EPOLL設(shè)為邊緣觸發(fā)(Edge Triggered)模式，這是相對于水平觸發(fā)(Level Triggered)來說的。只有在使用epoll ET(Edge Trigger)模式的時候，才需要關(guān)注數(shù)據(jù)是否讀取完畢了。使用select或者epoll的LT模式，其實根本不用關(guān)注數(shù)據(jù)是否讀完了，select/epoll檢測到有數(shù)據(jù)可讀去讀就OK了
EPOLLONESHOT：只監(jiān)聽一次事件，當(dāng)監(jiān)聽完這次事件之后，如果還需要繼續(xù)監(jiān)聽這個socket的話，需要再次把這個socket加入到EPOLL隊列里
3.?int?epoll_wait(int?epfd,?struct?epoll_event?*?events,?int?maxevents,?int?timeout);
等?待事件的產(chǎn)生，類似于select()調(diào)用。參數(shù)events用來從內(nèi)核得到事件的集合，maxevents告之內(nèi)核這個events有多大，這個 maxevents的值不能大于創(chuàng)建epoll_create()時的size，參數(shù)timeout是超時時間（毫秒，0會立即返回，-1將不確定，也有說法說是永久阻塞）。該函數(shù)返回需要處理的事件數(shù)目，如返回0表示已超時。?
epoll_wait運行的原理是?
等侍注冊在epfd上的socket fd的事件的發(fā)生，如果發(fā)生則將發(fā)生的sokct fd和事件類型放入到events數(shù)組中。?
并且將注冊在epfd上的socket fd的事件類型給清空，所以如果下一個循環(huán)你還要關(guān)注這個socket fd的話，則需要用epoll_ctl(epfd,EPOLL_CTL_MOD,listenfd,&ev)來重新設(shè)置socket fd的事件類型。這時不用EPOLL_CTL_ADD,因為socket fd并未清空，只是事件類型清空。這一步非常重要。??
?

水平出發(fā)和邊緣觸發(fā)

LT：水平觸發(fā)，效率會低于ET觸發(fā)，尤其在大并發(fā)，大流量的情況下。但是LT對代碼編寫要求比較低，不容易出現(xiàn)問題。LT模式服務(wù)編寫上的表現(xiàn)是：只要有數(shù)據(jù)沒有被獲取，內(nèi)核就不斷通知你，因此不用擔(dān)心事件丟失的情況。

ET：邊緣觸發(fā)，效率非常高，在并發(fā)，大流量的情況下，會比LT少很多epoll的系統(tǒng)調(diào)用，因此效率高。但是對編程要求高，需要細致的處理每個請求，否則容易發(fā)生丟失事件的情況。

?

再詳細一點：LT：水平觸發(fā) ?是缺省的工作方式，并且同時支持block和no-block socket.在這種做法中，內(nèi)核告訴你一個文件描述符是否就緒了，然后你可以對這個就緒的fd進行IO操作。如果你不作任何操作，內(nèi)核還是會繼續(xù)通知你 的，所以，這種模式編程出錯誤可能性要小一點。傳統(tǒng)的select/poll都是這種模型的代表。?效率會低于ET觸發(fā)，尤其在大并發(fā)，大流量的情況下。但是LT對代碼編寫要求比較低，不容易出現(xiàn)問題。LT模式服務(wù)編寫上的表現(xiàn)是：只要有數(shù)據(jù)沒有被獲取，內(nèi)核就不斷通知你，因此不用擔(dān)心事件丟失的情況。ET：邊緣觸發(fā) ?是高速工作方式，只支持no-block socket。在這種模式下，當(dāng)描述符從未就緒變?yōu)榫途w時，內(nèi)核通過epoll告訴你。然后它會假設(shè)你知道文件描述符已經(jīng)就緒，并且不會再為那個文件描述 符發(fā)送更多的就緒通知，直到你做了某些操作導(dǎo)致那個文件描述符不再為就緒狀態(tài)了(比如，你在發(fā)送，接收或者接收請求，或者發(fā)送接收的數(shù)據(jù)少于一定量時導(dǎo)致 了一個EWOULDBLOCK 錯誤）。但是請注意，如果一直不對這個fd作IO操作(從而導(dǎo)致它再次變成未就緒)，內(nèi)核不會發(fā)送更多的通知(only once)。?效率非常高，在并發(fā)，大流量的情況下，會比LT少很多epoll的系統(tǒng)調(diào)用，因此效率高。但是對編程要求高，需要細致的處理每個請求，否則容易發(fā)生丟失事件的情況。

?
假如有這樣一個例子：
1.?我們已經(jīng)把一個用來從管道中讀取數(shù)據(jù)的文件句柄(RFD)添加到epoll描述符
2.?這個時候從管道的另一端被寫入了2KB的數(shù)據(jù)
3.?調(diào)用epoll_wait(2)，并且它會返回RFD，說明它已經(jīng)準備好讀取操作
4.?然后我們讀取了1KB的數(shù)據(jù)
5.?調(diào)用epoll_wait(2)......

Edge Triggered 工作模式：
如果我們在第1步將RFD添加到epoll描述符的時候使用了EPOLLET標志，那么在第5步調(diào)用epoll_wait(2)之后將有可能會掛起，因為剩余的數(shù)據(jù)還存在于文件的輸入緩沖區(qū)內(nèi)，而且數(shù)據(jù)發(fā)出端還在等待一個針對已經(jīng)發(fā)出數(shù)據(jù)的反饋信息。只有在監(jiān)視的文件句柄上發(fā)生了某個事件的時候 ET 工作模式才會匯報事件。因此在第5步的時候，調(diào)用者可能會放棄等待仍在存在于文件輸入緩沖區(qū)內(nèi)的剩余數(shù)據(jù)。在上面的例子中，會有一個事件產(chǎn)生在RFD句柄上，因為在第2步執(zhí)行了一個寫操作，然后，事件將會在第3步被銷毀。因為第4步的讀取操作沒有讀空文件輸入緩沖區(qū)內(nèi)的數(shù)據(jù)，因此我們在第5步調(diào)用 epoll_wait(2)完成后，是否掛起是不確定的。epoll工作在ET模式的時候，必須使用非阻塞套接口，以避免由于一個文件句柄的阻塞讀/阻塞寫操作把處理多個文件描述符的任務(wù)餓死。最好以下面的方式調(diào)用ET模式的epoll接口，在后面會介紹避免可能的缺陷。
???i????基于非阻塞文件句柄
?? ii ??只有當(dāng)read(2)或者write(2)返回EAGAIN時才需要掛起，等待。但這并不是說每次read()時都需要循環(huán)讀，直到讀到產(chǎn)生一個EAGAIN才認為此次事件處理完成，當(dāng)read()返回的讀到的數(shù)據(jù)長度小于請求的數(shù)據(jù)長度時，就可以確定此時緩沖中已沒有數(shù)據(jù)了，也就可以認為此事讀事件已處理完成。

Level?Triggered?工作模式
相反的，以LT方式調(diào)用epoll接口的時候，它就相當(dāng)于一個速度比較快的poll(2)，并且無論后面的數(shù)據(jù)是否被使用，因此他們具有同樣的職能。因為即使使用ET模式的epoll，在收到多個chunk的數(shù)據(jù)的時候仍然會產(chǎn)生多個事件。調(diào)用者可以設(shè)定EPOLLONESHOT標志，在 epoll_wait(2)收到事件后epoll會與事件關(guān)聯(lián)的文件句柄從epoll描述符中禁止掉。因此當(dāng)EPOLLONESHOT設(shè)定后，使用帶有 EPOLL_CTL_MOD標志的epoll_ctl(2)處理文件句柄就成為調(diào)用者必須作的事情。
然后詳細解釋ET,?LT:

LT(level triggered)是缺省的工作方式，并且同時支持block和no-block socket.在這種做法中，內(nèi)核告訴你一個文件描述符是否就緒了，然后你可以對這個就緒的fd進行IO操作。如果你不作任何操作，內(nèi)核還是會繼續(xù)通知你的，所以，這種模式編程出錯誤可能性要小一點。傳統(tǒng)的select/poll都是這種模型的代表．

ET(edge-triggered)?是高速工作方式，只支持no-block socket。在這種模式下，當(dāng)描述符從未就緒變?yōu)榫途w時，內(nèi)核通過epoll告訴你。然后它會假設(shè)你知道文件描述符已經(jīng)就緒，并且不會再為那個文件描述符發(fā)送更多的就緒通知，直到你做了某些操作導(dǎo)致那個文件描述符不再為就緒狀態(tài)了(比如，你在發(fā)送，接收或者接收請求，或者發(fā)送接收的數(shù)據(jù)少于一定量時導(dǎo)致了一個EWOULDBLOCK 錯誤）。但是請注意，如果一直不對這個fd作IO操作(從而導(dǎo)致它再次變成未就緒)，內(nèi)核不會發(fā)送更多的通知(only once),不過在TCP協(xié)議中，ET模式的加速效用仍需要更多的benchmark確認（這句話不理解）。

在?許多測試中我們會看到如果沒有大量的idle -connection或者dead-connection，epoll的效率并不會比select/poll高很多，但是當(dāng)我們遇到大量的idle- connection(例如WAN環(huán)境中存在大量的慢速連接)，就會發(fā)現(xiàn)epoll的效率大大高于select/poll。（未測試）
另外，當(dāng)使用epoll的ET模型來工作時，當(dāng)產(chǎn)生了一個EPOLLIN事件后，
讀數(shù)據(jù)的時候需要考慮的是當(dāng)recv()返回的大小如果等于請求的大小，那么很有可能是緩沖區(qū)還有數(shù)據(jù)未讀完，也意味著該次事件還沒有處理完，所以還需要再次讀取：

while(rs) { buflen = recv(activeevents[i].data.fd, buf, sizeof(buf), 0); if(buflen < 0) {// 由于是非阻塞的模式,所以當(dāng)errno為EAGAIN時,表示當(dāng)前緩沖區(qū)已無數(shù)據(jù)可讀// 在這里就當(dāng)作是該次事件已處理處.if(errno == EAGAIN)break;elsereturn;}else if(buflen == 0){// 這里表示對端的socket已正常關(guān)閉.}if(buflen == sizeof(buf)rs = 1; // 需要再次讀取elsers = 0; }

還有，假如發(fā)送端流量大于接收端的流量(意思是epoll所在的程序讀比轉(zhuǎn)發(fā)的socket要快),由于是非阻塞的socket,那么send()函數(shù)雖然返回,但實際緩沖區(qū)的數(shù)據(jù)并未真正發(fā)給接收端,這樣不斷的讀和發(fā)，當(dāng)緩沖區(qū)滿后會產(chǎn)生EAGAIN錯誤(參考man send),同時,不理會這次請求發(fā)送的數(shù)據(jù).所以,需要封裝socket_send()的函數(shù)用來處理這種情況,該函數(shù)會盡量將數(shù)據(jù)寫完再返回，返回- 1表示出錯。在socket_send()內(nèi)部,當(dāng)寫緩沖已滿(send()返回-1,且errno為EAGAIN),那么會等待后再重試.這種方式并不很完美,在理論上可能會長時間的阻塞在socket_send()內(nèi)部,但暫沒有更好的辦法.
?

ssize_t socket_send(int sockfd, const char* buffer, size_t buflen) { ssize_t tmp; size_t total = buflen; const char *p = buffer; while(1) {tmp = send(sockfd, p, total, 0);if(tmp < 0){// 當(dāng)send收到信號時,可以繼續(xù)寫,但這里返回-1.if(errno == EINTR)return -1;// 當(dāng)socket是非阻塞時,如返回此錯誤,表示寫緩沖隊列已滿,// 在這里做延時后再重試.if(errno == EAGAIN){usleep(1000);continue;}return -1;}if((size_t)tmp == total)return buflen;total -= tmp;p += tmp; } return tmp; }

單個epoll并不能解決所有問題，特別是你的每個操作都比較費時的時候，因為epoll是串行處理的。?
所以你有還是必要建立線程池來發(fā)揮更大的效能。

例子：?

#include <iostream> #include <sys/socket.h> #include <sys/epoll.h> #include <netinet/in.h> #include <arpa/inet.h> #include <fcntl.h> #include <unistd.h> #include <stdio.h> #define MAXLINE 10 #define OPEN_MAX 100 #define LISTENQ 20 #define SERV_PORT 5555 #define INFTIM 1000 void setnonblocking(int sock) { int opts; opts=fcntl(sock,F_GETFL); if(opts<0) { perror("fcntl(sock,GETFL)"); exit(1); } opts = opts|O_NONBLOCK; if(fcntl(sock,F_SETFL,opts)<0) { perror("fcntl(sock,SETFL,opts)"); exit(1); } } int main() { int i, maxi, listenfd, connfd, sockfd,epfd,nfds; ssize_t n; char line[MAXLINE]; socklen_t clilen; //聲明epoll_event結(jié)構(gòu)體的變量,ev用于注冊事件,數(shù)組用于回傳要處理的事件 struct epoll_event ev,events[20]; //生成用于處理accept的epoll專用的文件描述符 epfd=epoll_create(256); struct sockaddr_in clientaddr; struct sockaddr_in serveraddr; listenfd = socket(AF_INET, SOCK_STREAM, 0); //把socket設(shè)置為非阻塞方式 setnonblocking(listenfd); //設(shè)置與要處理的事件相關(guān)的文件描述符 ev.data.fd=listenfd; //設(shè)置要處理的事件類型 ev.events=EPOLLIN|EPOLLET; //注冊epoll事件 epoll_ctl(epfd,EPOLL_CTL_ADD,listenfd,&ev); bzero(&serveraddr, sizeof(serveraddr)); serveraddr.sin_family = AF_INET; char *local_addr="200.200.200.204"; inet_aton(local_addr,&(serveraddr.sin_addr));//htons(SERV_PORT); serveraddr.sin_port=htons(SERV_PORT); bind(listenfd,(sockaddr *)&serveraddr, sizeof(serveraddr)); listen(listenfd, LISTENQ); maxi = 0; for ( ; ; ) { //等待epoll事件的發(fā)生 nfds=epoll_wait(epfd,events,20,500); //處理所發(fā)生的所有事件 for(i=0;i<nfds;++i) { if(events[i].data.fd==listenfd) { connfd = accept(listenfd,(sockaddr *)&clientaddr, &clilen); if(connfd<0){ perror("connfd<0"); exit(1); } setnonblocking(connfd); char *str = inet_ntoa(clientaddr.sin_addr); std::cout<<"connect from "<_u115 ?tr<<std::endl; //設(shè)置用于讀操作的文件描述符 ev.data.fd=connfd; //設(shè)置用于注測的讀操作事件 ev.events=EPOLLIN|EPOLLET; //注冊ev epoll_ctl(epfd,EPOLL_CTL_ADD,connfd,&ev); } else if(events[i].events&EPOLLIN) { if ( (sockfd = events[i].data.fd) < 0) continue; if ( (n = read(sockfd, line, MAXLINE)) < 0) { if (errno == ECONNRESET) { close(sockfd); events[i].data.fd = -1; } else std::cout<<"readline error"<<std::endl; } else if (n == 0) { close(sockfd); events[i].data.fd = -1; } //設(shè)置用于寫操作的文件描述符 ev.data.fd=sockfd; //設(shè)置用于注測的寫操作事件 ev.events=EPOLLOUT|EPOLLET; //修改sockfd上要處理的事件為EPOLLOUT epoll_ctl(epfd,EPOLL_CTL_MOD,sockfd,&ev); } else if(events[i].events&EPOLLOUT) { sockfd = events[i].data.fd; write(sockfd, line, n); //設(shè)置用于讀操作的文件描述符 ev.data.fd=sockfd; //設(shè)置用于注測的讀操作事件 ev.events=EPOLLIN|EPOLLET; //修改sockfd上要處理的事件為EPOLIN epoll_ctl(epfd,EPOLL_CTL_MOD,sockfd,&ev); } } } }

對，epoll的操作就這么簡單，總共不過4個API：epoll_create, epoll_ctl, epoll_wait和close。

總結(jié)

以上是生活随笔為你收集整理的（十八）深入浅出TCPIP之epoll的一些思考的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。