這是學(xué)習(xí)網(wǎng)絡(luò)編程后寫的一個(gè)練手的小程序,可以幫助復(fù)習(xí)socket,I/O復(fù)用,非阻塞I/O等知識(shí)點(diǎn)。
通過回顧寫的過程中遇到的問題的形式記錄程序的關(guān)鍵點(diǎn),最后給出完整程序代碼。
0. 功能
編寫一個(gè)簡易群聊程序,程序具備的基本功能:
服務(wù)器:支持多個(gè)客戶端連接,并將每個(gè)客戶端發(fā)過來的消息發(fā)給所有其他的客戶端
客戶端:能夠連接服務(wù)器,并向服務(wù)器發(fā)送消息,同時(shí)接收服務(wù)器發(fā)過來的任何消息
1. Server I/O模型
采用事件驅(qū)動(dòng)(I/O復(fù)用)+ 非阻塞I/O的模型,即Reactor模式。I/O復(fù)用采用linux下的epoll機(jī)制。
相關(guān)API介紹見最后,先梳理幾個(gè)寫程序的時(shí)候想到的問題。
1.1 I/O復(fù)用為什么搭配非阻塞I/O?(select/epoll返回可讀后還用非阻塞是不是沒有意義?)
select/epoll返回了可讀,并不一定代表能讀,在返回可讀到調(diào)用read函數(shù)之間,是有時(shí)間間隙的。內(nèi)核可能把數(shù)據(jù)丟失,也可能存在比如多個(gè)線程監(jiān)聽該socket,
數(shù)據(jù)被別人讀走的情況。所以這里使用非阻塞I/O是有意義的。
可以參考知乎這個(gè)問題 https://www.zhihu.com/question/37271342
1.2 epoll的條件觸發(fā)LT(水平觸發(fā))和邊緣觸發(fā)ET區(qū)別,如何正確地處理ET模式下的讀操作?
簡單講,以讀取數(shù)據(jù)操作舉例。條件觸發(fā),只要輸入緩沖中還有數(shù)據(jù),就會(huì)以事件方式再次注冊;
而邊緣觸發(fā)中僅在輸入緩沖收到數(shù)據(jù)時(shí)注冊一次該事件(你沒讀完也epoll_wait也不再返回了)。
所以如果使用邊緣觸發(fā)發(fā)生輸入相關(guān)事件,需要讀取輸入緩沖中的全部數(shù)據(jù)。方法是一直讀,直到read返回-1,并且變量errno中的值為EAGAIN,說明沒有數(shù)據(jù)可讀。
所以在這里再次考慮一下1.1中的問題,epoll如果采用邊緣觸發(fā),更要使用非阻塞I/O,否則可能就因?yàn)闊o數(shù)據(jù)可讀阻塞整個(gè)線程了。
1.3 select與epoll的差別
一個(gè)老生常談的問題,select函數(shù)效率低主要有以下兩個(gè)原因,首先是每次調(diào)用select函數(shù)時(shí)需要向操作系統(tǒng)傳遞監(jiān)視對(duì)象信息,其次是調(diào)用后針對(duì)所有文件描述符的循環(huán)語句。
第一點(diǎn)對(duì)效率的影響更大。
此外,epoll還支持ET模式,而select只支持LT模式。
但select也有優(yōu)點(diǎn),比如兼容性好(大多數(shù)操作系統(tǒng)支持),在服務(wù)端介入者少的情況下仍然可以考慮使用select。
1.4 epoll相關(guān)API
epoll_create( epoll_ctl( epfd, op, fd, epoll_event * epoll_wait( epfd, epoll_event * events, maxevents, timeout)
2. Client怎么處理?
Client采用分割讀寫的方式,開兩個(gè)進(jìn)程。父進(jìn)程負(fù)責(zé)負(fù)責(zé)接受數(shù)據(jù),子進(jìn)程負(fù)責(zé)發(fā)送數(shù)據(jù)。
if (pid == 0) { //子進(jìn)程負(fù)責(zé)寫操作 write_routine(sock); } else { //父進(jìn)程負(fù)責(zé)讀操作 read_routine(sock); }
3. 代碼
代碼中有詳細(xì)注釋
1 //utility.h 2 #ifndef UTILITY_H_ 3 #define UTILITY_H_ 4 5 #include <iostream> 6 #include <list> 7 #include <sys/types.h> 8 #include <sys/socket.h> 9 #include <netinet/in.h> 10 #include <arpa/inet.h> 11 #include <sys/epoll.h> 12 #include <fcntl.h> 13 #include <errno.h> 14 #include <unistd.h> 15 #include <stdio.h> 16 #include <stdlib.h> 17 #include <string.h> 18 19 using namespace std; 20 21 // clients_list save all the clients's socket 22 list<int> clients_list; 23 24 /********************** macro defintion **************************/ 25 // server ip 26 #define SERVER_IP "127.0.0.1" 27 28 // server port 29 #define SERVER_PORT 8888 30 31 //epoll size 32 #define EPOLL_SIZE 5000 33 34 //message buffer size 35 #define BUF_SIZE 0xFFFF 36 37 #define SERVER_WELCOME "Welcome you to join the chatroom! Your chat ID is: Client #%d" 38 39 #define SERVER_MESSAGE "ClientID %d say >> %s" 40 41 // exit 42 #define EXIT "EXIT" 43 44 #define CAUTION "There is only one int the chatroom!" 45 46 /********************** some function **************************/ 47 /** 48 *設(shè)置非阻塞IO 49 **/ 50 int setnonblocking(int sockfd) 51 { 52 fcntl(sockfd, F_SETFL, fcntl(sockfd, F_GETFD, 0)| O_NONBLOCK); 53 return 0; 54 } 55 56 /** 57 * 將文件描述符fd添加到epollfd標(biāo)示的內(nèi)核事件表中, 并注冊EPOLLIN事件, 58 * EPOOLET表明是ET工作方式,根據(jù)enable_et來判定是否設(shè)置邊緣觸發(fā)。 59 * 最后將文件描述符設(shè)置非阻塞方式 60 **/ 61 void addfd( int epollfd, int fd, bool enable_et ) 62 { 63 struct epoll_event ev; 64 ev.data.fd = fd; 65 ev.events = EPOLLIN; 66 if( enable_et ) 67 ev.events = EPOLLIN | EPOLLET; 68 epoll_ctl(epollfd, EPOLL_CTL_ADD, fd, &ev); 69 setnonblocking(fd); 70 printf("fd added to epoll!\n\n"); 71 } 72 73 /** 74 * 群發(fā)消息 75 **/ 76 int sendBroadcastmessage(int clientfd) 77 { 78 // buf[BUF_SIZE] receive new chat message 79 // message[BUF_SIZE] save format message 80 char buf[BUF_SIZE], message[BUF_SIZE]; 81 bzero(buf, BUF_SIZE); 82 bzero(message, BUF_SIZE); 83 84 // receive message 85 printf("read from client(clientID = %d)\n", clientfd); 86 int len = recv(clientfd, buf, BUF_SIZE, 0); 87 88 if(len == 0) // len = 0 means the client closed connection 89 { 90 close(clientfd); 91 clients_list.remove(clientfd); //server remove the client 92 printf("ClientID = %d closed.\n now there are %d client in the chatroom\n", clientfd, (int)clients_list.size()); 93 94 } 95 else //broadcast message 96 { 97 if(clients_list.size() == 1) { // this means There is only one int the chatroom 98 send(clientfd, CAUTION, strlen(CAUTION), 0); 99 return len;100 }101 // format message to broadcast102 sprintf(message, SERVER_MESSAGE, clientfd, buf);103 104 list<int>::iterator it;105 for(it = clients_list.begin(); it != clients_list.end(); ++it) {106 if(*it != clientfd){107 if( send(*it, message, BUF_SIZE, 0) < 0 ) { perror("error"); exit(-1);}108 }109 }110 }111 return len;112 }113 #endif // UTILITY_H_
1 //Server.cpp 2 3 #include "utility.h" 4 5 int main(int argc, char *argv[]) 6 { 7 //服務(wù)器端口號(hào)和IP地址 8 struct sockaddr_in serverAddr; 9 serverAddr.sin_family = PF_INET;10 serverAddr.sin_port = htons(SERVER_PORT);11 serverAddr.sin_addr.s_addr = inet_addr(SERVER_IP);12 //創(chuàng)建監(jiān)聽套接字13 int listener = socket(PF_INET, SOCK_STREAM, 0);14 if(listener < 0) { 15 perror("listener"); exit(-1);16 }17 printf("listen socket created \n");18 //綁定地址19 if( bind(listener, (struct sockaddr *)&serverAddr, sizeof(serverAddr)) < 0) {20 perror("bind error");21 exit(-1);22 }23 //listen24 int ret = listen(listener, 5);25 if(ret < 0) { 26 perror("listen error"); 27 exit(-1);28 }29 printf("Start to listen: %s\n", SERVER_IP);30 //創(chuàng)建epoll事件表31 int epfd = epoll_create(EPOLL_SIZE);32 if(epfd < 0) { 33 perror("epfd error");34 exit(-1);35 }36 printf("epoll created, epollfd = %d\n", epfd);37 static struct epoll_event events[EPOLL_SIZE];38 //注冊監(jiān)聽套接字到epoll事件表39 addfd(epfd, listener, true);40 //main loop41 while(1)42 {43 //epoll_events_count指明待處理事件數(shù)44 int epoll_events_count = epoll_wait(epfd, events, EPOLL_SIZE, -1);45 if (epoll_events_count < 0) {46 perror("epoll failure");47 break;48 }49 50 printf("epoll_events_count = %d\n", epoll_events_count);51 //處理事件52 for (int i = 0; i < epoll_events_count; ++i)53 {54 int sockfd = events[i].data.fd;55 //sockfd == listener表明有新連接56 if(sockfd == listener)57 {58 struct sockaddr_in client_address;59 socklen_t client_addrLength = sizeof(struct sockaddr_in);60 int clientfd = accept( listener, ( struct sockaddr* )&client_address, &client_addrLength );61 62 printf("client connection from: %s : % d(IP : port), clientfd = %d \n",63 inet_ntoa(client_address.sin_addr), ntohs(client_address.sin_port), clientfd);64 65 //把新連接加入epoll事件表中66 addfd(epfd, clientfd, true);67 68 // 把clientfd加入客戶連接的list內(nèi)69 clients_list.push_back(clientfd);70 printf("Add new clientfd = %d to epoll\n", clientfd);71 printf("Now there are %d clients int the chat room\n", (int)clients_list.size());72 73 // 想新連接發(fā)送歡迎信息 74 printf("welcome message\n"); 75 char message[BUF_SIZE];76 bzero(message, BUF_SIZE);77 sprintf(message, SERVER_WELCOME, clientfd);78 int ret = send(clientfd, message, BUF_SIZE, 0);79 if(ret < 0) { 80 perror("send error"); 81 exit(-1); 82 }83 }84 //sockfd != listener表明之前的連接發(fā)來數(shù)據(jù),將數(shù)據(jù)群發(fā)給所有連接對(duì)象85 else 86 { 87 printf("i got an message");88 int ret = sendBroadcastmessage(sockfd);89 if(ret < 0) { perror("error");exit(-1); }90 }91 }92 }93 close(listener); //close socket94 close(epfd); //close epoll instance95 return 0;96 }
1 //Client.cpp 2 3 #include "utility.h" 4 5 void write_routine(int sock); 6 void read_routine(int sock); 7 int main(int argc, char *argv[]) 8 { 9 //服務(wù)器