epoll編程，如何實現(xiàn)高并發(fā)服務器開發(fā)？在epoll事件驅動機制在linux中實現(xiàn)之前，我們一般選擇使用select或poll等IO復用來實現(xiàn)并發(fā)服務程序。在大數據、高并發(fā)、集群等術語的時代，sel

epoll編程，如何實現(xiàn)高并發(fā)服務器開發(fā)？

在epoll事件驅動機制在linux中實現(xiàn)之前，我們一般選擇使用select或poll等IO復用來實現(xiàn)并發(fā)服務程序。在大數據、高并發(fā)、集群等術語的時代，select和poll的使用越來越受限，風頭已經被epoll占領。

本文將介紹epoll的實現(xiàn)機制，并附帶說明選擇和輪詢。通過比較其不同的實現(xiàn)機制，我們才能真正理解epoll為什么能做到高并發(fā)。

選擇()和輪詢()IO多路復用模式

選擇的缺點:

單個進程可以監(jiān)控的文件描述符的數量有一個最大限制，通常是1024個。當然，該數量可以更改，但是因為select通過輪詢掃描文件描述符，所以文件描述符越多，性能越差。(在linux內核頭文件中，有這樣的定義:#define __FD_SETSIZE 1024)對于內核/用戶空間內存復制的問題，select需要復制大量的句柄數據結構，產生巨大的開銷；Select返回一個包含整個句柄的數組，應用需要遍歷整個數組，找出哪些句柄有事件；select的觸發(fā)模式是水平觸發(fā)。如果應用程序未能對就緒文件描述符執(zhí)行IO操作，那么每個后續(xù)的select調用仍將通知進程這些文件描述符。與select模型相比，poll使用鏈表存儲文件描述符，因此對被監(jiān)控文件的數量沒有限制，但其他三個缺點仍然存在。

以精選車型為例。假設我們的服務器需要支持100萬個并發(fā)連接，如果__FD_SETSIZE為1024，我們至少需要打開1k個進程才能實現(xiàn)100萬個并發(fā)連接。除了進程間上下文切換的時間消耗，來自內核/用戶空間的大量無腦內存拷貝和數組輪詢也是系統(tǒng)無法承受的。因此，基于select模型的服務器程序要實現(xiàn)10萬級并發(fā)訪問是一項艱巨的任務。

因此，它 s epoll 輪到我們玩了。

epoll IO復用模型的實現(xiàn)機制

由于epoll的實現(xiàn)機制與select/poll完全不同，所以上面提到的select的缺點在epoll上已經不存在了。

想象以下場景:同時有一百萬個客戶端通過TCP連接到一個服務器進程。在任何時刻，通常只有數百或數千個TCP連接處于活動狀態(tài)(事實上，大多數情況下都是這樣)。如何實現(xiàn)如此高的并發(fā)？

在select/poll時代，服務器進程每次都會把這100萬個連接(從用戶狀態(tài)到回復)告訴操作系統(tǒng)把句柄數據結構控制到內核態(tài))，讓操作系統(tǒng)內核查詢這些套接字上是否有事件，輪詢后再把句柄數據復制到用戶態(tài)，這樣服務器應用就可以輪詢和處理已經發(fā)生的網絡事件。這個過程消耗了大量的資源。因此，select/poll只能處理數千個并發(fā)連接。

epoll的設計和實現(xiàn)與select完全不同。Epoll適用于Linux內核中的簡單文件系統(tǒng)(文件系統(tǒng)一般用什么數據結構來實現(xiàn)？b樹)。最初的選擇/輪詢調用分為三個部分:

1)調用epoll_create()創(chuàng)建一個epoll對象(在epoll文件系統(tǒng)中為此句柄對象分配資源)。

2)調用epoll_ctl將這100萬個連接的套接字添加到epoll對象中。

3)調用epoll_wait收集發(fā)生的事件的連接。

這樣，要實現(xiàn)上述場景，我們只需要在流程啟動時創(chuàng)建一個epoll對象，然后在需要時添加或刪除到這個epoll對象的連接。同時，epoll_wait的效率也很高，因為調用epoll_wait時，這100萬個連接的句柄數據并沒有復制到操作系統(tǒng)中，內核也不需要遍歷所有的連接。

讓 讓我們來看看epoll機制在Linux內核中的具體實現(xiàn)思路。

當一個進程調用epoll_create方法時，Linux內核會創(chuàng)建一個eventpoll結構，該結構中的兩個成員與epoll的用法密切相關。eventpoll結構如下:

[CPP]查看純文本結構事件輪詢{.../*紅黑樹的根節(jié)點，此樹存儲所有需要監(jiān)控的事件添加到epoll */ struct rb_root rbr /*雙向鏈表存儲將通過epoll _ wait */struct list _ head rd list返回給用戶的事件...}每個epoll對象都有一個獨立的eventpoll結構，用于存儲通過epoll_ctl方法添加到epoll對象的事件。這些事件會被掛載到紅黑樹中，這樣就可以通過紅黑樹高效的識別出重復添加的事件(紅黑樹的插入時間效率為lgn，其中n為樹的高度)。

添加到epoll中的所有事件都將與設備(網卡)驅動程序建立回調關系，也就是說，當相應的事件發(fā)生時，將調用這個回調方法。這個回調方法在內核中稱為ep_poll_callback，它會將發(fā)生的事件添加到。在rdlist雙向鏈表中。

在epoll中，為每個事件創(chuàng)建一個epitem結構，如下所示:

[CPP]view plain copy struct EP item { structrb _ noderbn//紅黑樹節(jié)點struct list _ heardlink//雙向鏈表節(jié)點struct epoll_filefd ffd //事件處理程序信息struct eventpoll * Ep //指向其所屬的eventpoll對象，struct epoll _ event預期事件類型}調用epoll_wait檢查是否有事件時，只需要檢查eventpoll對象中的rdlist雙向鏈表中是否有EP item元素，如果rdlist不為空，事件將被復制到用戶模式，事件數將返回給用戶。

epoll數據結構示意圖

從上面的解釋我們可以知道，epoll的效率是通過紅黑樹和雙鏈表數據結構，結合回調機制實現(xiàn)的。

好了，解釋完epoll的機理，我們就可以輕松掌握Epoll的用法了。一句話的描述就是:三部曲。

步驟1: epoll_create()系統(tǒng)調用。這個調用返回一個句柄，所有后續(xù)的使用都在這個句柄上被標識。

第二步:epoll_ctl()系統(tǒng)調用。通過此調用添加、刪除和修改epoll對象感興趣的事件。返回0表示成功，返回-1表示失敗。

第三部分:epoll_wait()系統(tǒng)調用。通過此調用收集epoll監(jiān)控中發(fā)生的事件。

最后，附上一個epoll編程實例。

[CPP]查看plain copy///Linux///2009-11-05//2013-03-22:一個使用poll的簡單echo服務器修改了幾個問題，1是/n格式問題，2是去掉了原代碼不小心添加的ET模式//原來只是一個簡單的原理圖程序。通過sparking/# include SLT sys/socket . HGT # include SLT sys/epoll . HGT # include SLT inet/in . HGT # include SLT arpa/inet . HGT # include SLT fcntl . HGT # include SLTnistd . HGT # include ltstdio . HGT # include lter no . HGT # include ltostreamgt使用命名空間STD # define MAX _ EVENTS 500 struct my event _ s { int FD void(* call _ back)(int FD，int :在epoll等待列表中，0不在char buff中[128] // recv數據緩沖區(qū)int len，s _ offset long last _ active//last active time }//設置事件void EventSet(myevent_s *ev void * arg){ ev-gtfd FD ev-gt call _ back call _ back ev-gt events 0 ev-gt arg ev-gt status 0 b zero(ev-gt buff，sizeof(ev-gt buff))ev-GTS _ offset 0 ev-gt len 0 ev-gt last _ active time(NULL)}//向epoll void EventAdd(int epollFd，int events，my Event _ s * ev){ struct

如何解決網站大規(guī)模高并發(fā)訪問？

優(yōu)雅降級是指網站為了應對突如其來的訪問高峰，主動關閉部分功能，釋放部分系統(tǒng)資源。一種保證正常訪問網站核心功能的手段。淘寶 美國年度 "雙十一 "推廣是突然爆發(fā)的非常規(guī)訪問。淘寶 s的工程師每年都會關閉一些非核心功能，比如評估和確認收貨，以保證交易功能的正常運行。

基于移動計算實現(xiàn)自動優(yōu)雅降級是網站柔性架構的理想狀態(tài)。監(jiān)控系統(tǒng)實時監(jiān)控所有服務器的運行狀態(tài)，并根據監(jiān)控參數判斷應用訪問負載。如果發(fā)現(xiàn)有的應用負載過高，有的應用負載過低，就會適當卸載一些低負載的應用服務器，重新安裝一些高負載的應用，平衡應用負載。如果所有應用負載都很高，負載壓力持續(xù)增加，會自動關閉一些不重要的功能，以保證核心功能。