Tomcat BIO 、NIO 、AIO(NIO.2) 比較

由於Tomcat web 服務器負載過大,導致部分頁面出現了不可訪問的狀態,針對tomcat bio、nio、apr模式進行測試。

Java對BIO、NIO、AIO的支持:

  • Java BIO : 同步並阻塞,服務器實現模式為一個連接一個線程,即客户端有連接請求時服務器端就需要啟動一個線程進行處理,如果這個連接不做任何事情會造成不必要的線程開銷,當然可以通過線程池機制改善。
  • Java NIO : 同步非阻塞,服務器實現模式為一個請求一個線程,即客户端發送的連接請求都會註冊到多路複用器上,多路複用器輪詢到連接有I/O請求時才啟動一個線程進行處理。
  • Java AIO(NIO.2) : 異步非阻塞,服務器實現模式為一個有效請求一個線程,客户端的I/O請求都是由OS先完成了再通知服務器應用去啟動線程進行處理

BIO、NIO、AIO適用場景分析:

  • BIO方式適用於連接數目比較小且固定的架構,這種方式對服務器資源要求比較高,併發侷限於應用中,JDK1.4以前的唯一選擇,但進程直觀簡單易理解。
  • NIO方式適用於連接數目多且連接比較短(輕操作)的架構,比如聊天服務器,併發侷限於應用中,編程比較複雜,JDK1.4開始支持。
  • AIO方式使用於連接數目多且連接比較長(重操作)的架構,比如相冊服務器,充分調用OS參與併發操作,編程比較複雜,JDK7開始支持。

tomcat 的 bio、nio、apr 模式

bio
bio(blocking I/O),顧名思義,即阻塞式I/O操作,表示Tomcat使用的是傳統的Java I/O操作(即java.io包及其子包)。Tomcat在默認情況下,就是以bio模式運行的。遺憾的是,就一般而言,bio模式是三種運行模式中性能最低的一種。我們可以通過Tomcat Manager來查看服務器的當前狀態。

nio
是Java SE 1.4及後續版本提供的一種新的I/O操作方式(即java.nio包及其子包)。Java nio是一個基於緩衝區、並能提供非阻塞I/O操作的Java API,因此nio也被看成是non-blocking I/O的縮寫。它擁有比傳統I/O操作(bio)更好的併發運行性能。

apr
(Apache Portable Runtime/Apache可移植運行庫),是Apache HTTP服務器的支持庫。你可以簡單地理解為,Tomcat將以JNI的形式調用Apache HTTP服務器的核心動態鏈接庫來處理文檔讀取或網絡傳輸操作,從而大大地提高Tomcat對靜態文檔的處理性能。 Tomcat apr也是在Tomcat上運行高併發應用的首選模式。


tomcat管理界面配置起來,以便等下能更方便的觀察我們的bio、nio、apr 模式

添加manager/status用户

vim /usr/local/apache-tomcat-7.0.47/conf/tomcat-users.xml
<role rolename="manager-gui"/>       
<user username="tomcat" password="15715746746" roles="manager-gui"/>

配置完重啟,通過ip:port/manager/status 就可以看tomcat狀態了,裏面有服務器的信息及tomcat信息。

bio server.xml 配置 (重啟生效)

    <Connector port="8080" protocol="HTTP/1.1"
               connectionTimeout="20000"
               redirectPort="8443" />

nio server.xml 配置 (重啟生效)

    <Connector port="8080" protocol="org.apache.coyote.http11.Http11NioProtocol"
               connectionTimeout="20000"
               redirectPort="8443" />

apr server.xml 配置 (重啟生效)

    <Connector port="8080" protocol="org.apache.coyote.http11.Http11AprProtocol"
               connectionTimeout="20000"
               redirectPort="8443" />

當然,apr模式還需要安裝 apr 、 apr-utils 、tomcat-native包

apr 安裝
tar zxf apr-1.5.2.tar.gz -C /usr/local/src/
cd /usr/local/src/apr-1.5.2/
./configure --prefix=/usr/local/apr && make && make install


apr-utils 安裝
tar zxf apr-util-1.5.4.tar.gz -C /usr/local/src/
cd /usr/local/src/apr-util-1.5.4/
./configure --with-apr=/usr/local/apr/ --prefix=/usr/local/apr-utils && make && make install 


tomcat-native安裝
cd /usr/local/apache-tomcat-7.0.65/bin/
tar zxf tomcat-native.tar.gz 
cd tomcat-native-1.1.33-src/jni/native
./configure --with-apr=/usr/local/apr --with-java-home=/usr/local/java/ && make && make install

安裝完後記得在 /etc/profile 的JAVA變量後面多加一條APR的環境變量

設置環境變量

JAVA_HOME=/usr/local/java
JAVA_BIN=$JAVA_HOME/bin
PATH=$PATH:$JAVA_BIN
CLASSPATH=$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar
export JAVA_HOME JAVA_BIN PATH CLASSPATH
export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/apr/lib 

java的 bio 、nio 、aio特性,在web服務器上阻塞IO(BIO)與NIO一個比較重要的不同是,客户系統使用BIO的時候往往會為每一個web請求引入多線程,每個web請求一個單獨的線程,所以併發量一旦上去了,線程數就上去了,CPU就忙着線程切換,所以BIO不合適高吞吐量、高可伸縮的web服務器;而NIO則是使用單線程(單個CPU)或者只使用少量的多線程(多CPU)來接受Socket,而由線程池來處理堵塞在pipe或者隊列裏的請求.這樣的話,只要OS可以接受TCP的連接,web服務器就可以處理該請求。大大提高了web服務器的可伸縮性。

下面是網友測試結果的性能測試表格,通過jmeter壓測軟件(jmeter軟件使用自行google)本地測試的,測試當中會涉及到很多因素,例如(磁盤io、帶寬、內存、cpu、以及內核配置中的tcp各種狀態,甚至是各種打開文檔限制,都會影響到測試結果)。

資料來源

隨着線程的不斷增多,bio 模式性能越來越差,就算是在本地,錯誤率和響應時間都在明顯的增加、而吞吐量、樣本數和每秒傳輸速率都在下降,建議使用nginx web 軟件進行proxy實作load balance,提供多個tomcat 節點來提供更穩定的服務。

而 bio 和 apr模式基本上沒有變化太多,都保持在一個穩定的狀態。


總結:

在 tomcat bio、nio、apr 模式中,每種都會有各自適用的場合,也不能説哪個好那個不好,就像 tomcat 內存方面的配置,如果內存設置的過大,gc 垃圾回收機制就會變慢;如果內存設置的過小,tomcat又會出現內存溢出的情況,所以設置在一個合適的範圍很重要,不僅不會出錯,並且gc回收頻繁使性能達到一個最優的結果。當然,這也需要根據不同的場合進行不同的測試才能產生最優的結果!

 

 

相關文章

寫留言

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *