对于大的并发量网站。如何提高网站的并发处理能力!转载记录一下
最近部署新部署的一台resin
3.1版本的服务器出现的并发连接数过高而出现频繁OutofMemory的情况,通常这种情况可以通过减少keepalive的等待时间或者关闭
keepalive功能来减少并发连接数(修改前请谨慎考虑减少或者关闭keepalive时间带来的副作用)。在尝试对resin配置中的
socket-timeout和keepalive-timeout参数进行修改后,效果仍然不明显,
无奈从网上下载了一份resin的源代码,看了下tcp连接相关的代码并打开了resin的日志输出功能,发现resin
3.1对于keepalive处理流程是
1.处理完成http请求
2.等待keepalive-timeout秒,如果在这个等待中收到后继的http请求,则跳转到1
3.进入keepalive等待过程,超时时间是socket-timeout秒。如果有后继请求,则跳转到1
4.线程释放到线程池
需要注意的是,如果keepalive-timeout>=socket-timeout,则第二个过程等待时间为socket-timeout
秒,第三个过程不会执行。
在这个流程中,一个服务线程至少会等待socket-timeout秒,而这个是无法通过调整参数来减少的,况且过低的socket-timeout设置
会影响正常的http服务。
如果需要完全关闭一个连接的keepalive功能,可以通过实现一个filter,对指定的url进行处理,在filter中调用
com.caucho.server.http.HttpRequest对象的killKeepalive方法,需要注意的是,如果需要关闭
keepalive的url可以被cache,则resin不会调用相应的filter,所以,在filter中我们还需要关闭对应url的cache功
能,完成的处理流程为
- private void KillKeepAlive(ServletRequest request){
- try{
- if (request instanceof HttpRequest){
- HttpServletRequest sreq = (HttpServletRequest)request;
- HttpRequest req = (HttpRequest)request;
- req.killKeepalive();
-
- }
- }catch(Exception e){
- e.printStackTrace();
- }
- }
-
- private void DisableCache(ServletRequest request, ServletResponse response){
- if (response instanceof HttpResponse){
- HttpResponse res = (HttpResponse)response;
- res.disableCaching(true);
- }
- }
-
- public void doFilter(ServletRequest request, ServletResponse response,
- FilterChain chain) throws IOException, ServletException {
- KillKeepAlive(request);
- chain.doFilter(request, response);
- DisableCache(request, response);
- }
private void KillKeepAlive(ServletRequest request){
try{
if (request instanceof HttpRequest){
HttpServletRequest sreq = (HttpServletRequest)request;
HttpRequest req = (HttpRequest)request;
req.killKeepalive();
//System.out.println(sreq.getServletPath() + " " + " keepalive killed");
}
}catch(Exception e){
e.printStackTrace();
}
}
private void DisableCache(ServletRequest request, ServletResponse response){
if (response instanceof HttpResponse){
HttpResponse res = (HttpResponse)response;
res.disableCaching(true);
}
}
public void doFilter(ServletRequest request, ServletResponse response,
FilterChain chain) throws IOException, ServletException {
KillKeepAlive(request);
chain.doFilter(request, response);
DisableCache(request, response);
}
这样处理之后,一个http请求在完成之后对应的服务线程会立即得到释放,能大幅减少服务器的并发线程数。
(如果这个真有这么好用的话现在相册应用是否可以考虑添加进来)
阅读(1518) | 评论(1) | 转发(0) |