面试被问Tomcat整体架构设计,我哭的像个孩子

老男孩_Misaya · · 314 次点击 · · 开始浏览    
这是一个创建于 的文章,其中的信息可能已经有所发展或是发生改变。

推荐阅读:

最近在研究 Tomcat ,感觉整体设计确实值得学习。今天先分享一篇文章带大家简单看看。后面,参考 Tomcat 整体设计自己争取能够手写一个轻量的 web 服务器。

使用 golang 语言 实现一个 http server,只需几行代码即可,为何用 java 实现如何“沉重”呢?这背后 Tomcat 是一个什么角色呢?

package main
import (
    "io"
    "net/http"
)
func helloHandler(w http.ResponseWriter, req *http.Request) {
    io.WriteString(w, "hello, world!\n")
}
func main() {
    http.HandleFunc("/", helloHandler)
    http.ListenAndServe(":12345", nil)
}

从各个视角看 tomct

Tomcat 是一个 Servlet 容器?

单纯的思考一下这句话,我们可以抽象出来这么一段代码:

class Tomcat {
    List<Servlet> sers;
}

如果 Tomcat 就长这样,那么它肯定是不能工作的,所以,Tomcat 其实是这样:

class Tomcat {
    Connector connector; // 连接处理器
    List<Servlet> sers;
}

Servlet 规范与 Tomcat 实现

绿色的类定义 在 servlet-api 包中,其它类除自定义外在 Tomcat 包中

整体架构

Tomcat 要实现 2 个核心功能:

  1. 处理 Socket 连接,负责网络字节流与 Request 和 Response 对象的转化。
  2. 加载和管理 Servlet,以及具体处理 Request 请求。

从图上可以看到,最顶层是 Server,这里的 Server 指的就是一个 Tomcat 实例。一个 Server 中有一个或者多个 Service,一个 Service 中有多个连接器和一个容器。

Tomcat 的功能简单说就是让 一堆 class 文件+web.xml 可以对外支持 http

启动过程

Tomcat 独立部署的模式下,我们通过 startup 脚本来启动 Tomcat,Tomcat 中的 BootstrapCatalina 会负责初始化类加载器,并解析 server.xml 和启动这些组件。

/usr/java/jdk1.8.0_191/bin/java -Dxx -Xxx org.apache.catalina.startup.Bootstrap start

分别启动连接管理部分和业务处理部分

业务处理部分中,各个类的关系 在 Tomcat server.xml 中体现的也非常直观

<Server port="8005" shutdown="SHUTDOWN">
    <Listener className="org.apache.catalina.core.ThreadLocalLeakPreventionListener" />
    <Service name="Catalina">
        <Connector port="8080" protocol="HTTP/1.1"
            connectionTimeout="20000"
            redirectPort="8443" />
        <Connector port="8009" protocol="AJP/1.3" redirectPort="8443" />
    </Service>
    <Engine name="Catalina" defaultHost="localhost">
        <Realm className="org.apache.catalina.realm.UserDatabaseRealm"
            resourceName="UserDatabase"/>
        <!--可以另外创建一个host,使用不同的appBase-->
        <Host name="localhost"  appBase="webapps"
            unpackWARs="true" autoDeploy="true">
            <!--可以配置 Context>
        </Host>
    </Engine>
</Server>

io 处理

connector 架构

我们可以把连接器的功能需求进一步细化,比如:

  1. 监听网络端口。
  2. 接受网络连接请求。
  3. 读取网络请求字节流。
  4. 根据具体应用层协议(HTTP/AJP)解析字节流,生成统一的 Tomcat Request 对象。
  5. 将 Tomcat Request 对象转成标准的 ServletRequest。
  6. 调用 Servlet 容器,得到 ServletResponse。
  7. 将 ServletResponse 转成 Tomcat Response 对象。
  8. 将 Tomcat Response 转成网络字节流。将响应字节流写回给浏览器。

优秀的模块化设计应该考虑高内聚、低耦合。通过分析连接器的详细功能列表,我们发现连接器需要完成 3 个高内聚的功能:

  1. 网络通信。
  2. 应用层协议解析。
  3. Tomcat Request/Response 与 ServletRequest/ServletResponse 的转化。

Tomcat 的设计者设计了 3 个组件来实现这 3 个功能,分别是 Endpoint、Processor 和 Adapter。组件之间通过抽象接口交互,这样做一个好处是封装变化。这是面向对象设计的精髓,将系统中经常变化的部分和稳定的部分隔离,有助于增加复用性,并降低系统耦合度。网络通信的 I/O 模型是变化的,可能是非阻塞 I/O、异步 I/O 或者 APR。应用层协议也是变化的,可能是 HTTP、HTTPS、AJP。浏览器端发送的请求信息也是变化的。但是整体的处理逻辑是不变的,Endpoint 负责提供字节流给 Processor,Processor 负责提供 Tomcat Request 对象给 Adapter,Adapter 负责提供 ServletRequest 对象给容器。其中 Endpoint 和 Processor 放在一起抽象成了 ProtocolHandler 组件

io 和线程模型

同样一个颜色的是内部类的关系

  1. Http11NioProtocol start 时会分别启动 poller 和 acceptor 线程
  2. acceptor 持有 ServerSocket/ServerSocketChannel, 负责监听新的连接,并将得到的 Socket 注册到 Poller 上
  3. Poller 持有 Selector, 负责selector.select() 监听读写事件,将新的 socket 注册到 selector 上,以及其它通过 addEvent 加入到 Poller 中的 event
  4. Http11NioProcessor 封装了 http 1.1 的协议处理部分,比如 parseRequestLine,连接出问题时 response 设置状态码为 503 或 400 等。以读事件为例, 最终会将 数据读取到 Request 对象的 inputBuffer 中

线程数量:

public class NioEndpoint extends AbstractEndpoint<NioChannel> {
    private Executor executor = new ThreadPoolExecutor(getMinSpareThreads(), getMaxThreads(), 60, TimeUnit.SECONDS,taskqueue, tf);

    private int pollerThreadCount = Math.min(2,Runtime.getRuntime().availableProcessors()); // new Thread().start() 的方式
    protected int acceptorThreadCount = 0;      // new Thread().start() 的方式

    // poller  内部除了 selector.select() 逻辑外,一般通过executor 异步执行
    // acceptor 就是简单的 accept 一个socket 并将其 加入到poller 的event 队列中( 以将socket 注册到selector)所以没有用到executor
}

业务处理

container 架构

Tomcat 设计了 4 种容器,分别是 EngineHostContextWrapper。这 4 种容器是父子关系,形成一个树形结构。Tomcat 是用组合模式来管理这些容器的,具体实现方法是,所有容器组件都实现了 Container 接口。

public interface Container extends Lifecycle {
    public void setName(String name);
    public Container getParent();
    public void setParent(Container container);
    public void addChild(Container child);
    public void removeChild(Container child);
    public Container findChild(String name);
}

假如有用户访问一个 URL:http://user.shopping.com:8080/order/buy,Tomcat 如何将这个 URL 定位到一个 Servlet 呢?Tomcat 是用 Mapper 组件。

  1. 根据协议和端口号选定 Service 和 Engine。
  2. 根据域名选定 Host。
  3. 根据 URL 路径找到 Context 组件。
  4. 根据 URL 路径找到 Wrapper(Servlet)。

为了更清晰一点,上图只画出了 Host 类族,Engine、Context、Wrapter 与 Host 类似。黄色部分组成了一个 pipeline,可以看到 Engine、Context、Wrapter 和 Host 作为容器,并不亲自“干活”,而是交给对应的 pipeline。

public class CoyoteAdapter implements Adapter {
    // 有读事件时会触发该操作
    public boolean event(org.apache.coyote.Request req,
        org.apache.coyote.Response res, SocketStatus status) {
        ...
        // 将读取的数据写入到 request inputbuffer
        request.read();
        ...
        // 触发filter、servlet的执行
        connector.getService().getContainer().getPipeline().getFirst().event(request, response, request.getEvent());
        ...
    }
}

pipeline 逐步传递请求直到 Servlet

Pipeline-Valve 是责任链模式,责任链模式是指在一个请求处理的过程中有很多处理者依次对请求进行处理,每个处理者负责做自己相应的处理,处理完之后将再调用下一个处理者继续处理。Valve 表示一个处理点,比如权限认证和记录日志。

每一个容器都有一个 Pipeline 对象,只要触发这个 Pipeline 的第一个 Valve,这个容器里 Pipeline 中的 Valve 就都会被调用到。不同容器的 Pipeline 是怎么链式触发的呢?Pipeline 中还有个 getBasic 方法。这个 BasicValve 处于 Valve 链表的末端,它是 Pipeline 中必不可少的一个 Valve,负责调用下层容器的 Pipeline 里的第一个 Valve。

Wrapper 容器的最后一个 Valve 会创建一个 Filter 链,并调用 doFilter 方法,最终会调到 Servlet 的 service 方法。

那 Valve 和 Filter 有什么区别吗?Valve 是 Tomcat 的私有机制,与 Tomcat 的基础架构 /API 是紧耦合的。Servlet API 是公有的标准,所有的 Web 容器包括 Jetty 都支持 Filter 机制。

Tomcat 的类加载

Tomcat 热部署与热加载[1] 值得细读

Tomcat 并没有完全遵循类加载的双亲委派机制,考虑几个问题:

  1. 如果在一个 Tomcat 内部署多个应用,多个应用内使用了某个类似的几个不同版本,如何互不影响?org.apache.catalina.loader.WebappClassLoader
  2. 如果多个应用都用到了某类似的相同版本,是否可以统一提供,不在各个应用内分别提供,占用内存呢?common ClassLoader 其实质是一个指定了 classpath(classpath 由 catalina.properties 中的 common.loader 指定common.loader="${catalina.base}/lib","${catalina.base}/lib/*.jar","${catalina.home}/lib","${catalina.home}/lib/*.jar")的 URLClassLoader
public final class Bootstrap {
    ClassLoader commonLoader = null;
    ClassLoader catalinaLoader = null;
    public void init() throws Exception {
        initClassLoaders();
        Thread.currentThread().setContextClassLoader(catalinaLoader);
        SecurityClassLoad.securityClassLoad(catalinaLoader);
        ...
    }
    private void initClassLoaders() {
        ...
        commonLoader = createClassLoader("common", null);
        ...
        catalinaLoader = createClassLoader("server", commonLoader);
    }
}

热部署和热加载是类似的,都是在不重启 Tomcat 的情况下,使得应用的最新代码生效。热部署表示重新部署应用,它的执行主体是 Host,表示主机。热加载表示重新加载 class,它的执行主体是 Context,表示应用。

Sprint Boot 如何利用 Tomcat 加载 Servlet?

在内嵌式的模式下,Bootstrap 和 Catalina 的工作就由 Spring Boot 来做了,Spring Boot 调用了 Tomcat 的 API 来启动这些组件。

Tomcat 源码中直接提供 Tomcat 类,其 java doc 中有如下表述:Tomcat supports multiple styles of configuration and startup - the most common and stable is server.xml-based,implemented in org.apache.catalina.startup.Bootstrap. Tomcat is for use in apps that embed Tomcat. 从 Tomcat 类的属性可以看到,该有的属性都有了,内部也符合 Server ==> Service ==> connector + Engine ==> Host ==> Context ==> Wrapper 的管理关系,下图绿色部分是通用的。

所以 Minimal 情况下 new 一个 Tomcat 即可启动一个 Tomcat。

Tomcat Tomcat = new Tomcat();
Tomcat.setXXX;
Tomcat.start();

所以 spring-boot-starter-web 主要体现在 创建 并配置 Tomcat 实例,具体参见SpringBoot 中内嵌 Tomcat 的实现原理解析[2]

Tomcat 如何支持异步 Servlet?

从上文类图可知,NioEndpoint 中有一个 Executor,selector.select 之后,Executor 异步处理 Socket.read + 协议解析 + Servlet.service,如果 Servlet 中的处理逻辑耗时越长就会导致长期地占用 Executor,影响 Tomcat 的整体处理能力。为此一个解决办法是

public class AsyncServlet extends HttpServlet {
    Executor executor = xx
    public void doGet(HttpServletRequest req, HttpServletResponse res) {
        AsyncContext asyncContext = req.startAsync(req, res);
        executor.execute(new AsyncHandler(asyncContext));
    }
}
public class AsyncHandler implements Runnable {
    private AsyncContext ctx;
    public AsyncHandler(AsyncContext ctx) {
        this.ctx = ctx;
    }
    @Override
    public void run() {
        //耗时操作
        PrintWriter pw;
        try {
            pw = ctx.getResponse().getWriter();
            pw.print("done!");
            pw.flush();
            pw.close();
        } catch (IOException e) {
            e.printStackTrace();
        }
        ctx.complete();
    }
}

startAsync 方法其实就是创建了一个异步上下文 AsyncContext 对象,该对象封装了请求和响应对象。然后创建一个任务用于处理耗时逻辑,后面通过 AsyncContext 对象获得响应对象并对客户端响应,输出“done!”。完成后要通过 complete 方法告诉 Tomcat 已经处理完,Tomcat 就会请求对象和响应对象进行回收处理或关闭连接。

public class Request
    implements HttpServletRequest {
    public AsyncContext startAsync(ServletRequest request,
            ServletResponse response) {
        ...
        asyncContext = new AsyncContextImpl(this);
        ...
        asyncContext.setStarted(getContext(), request, response,
                request==getRequest() && response==getResponse().getResponse());
        asyncContext.setTimeout(getConnector().getAsyncTimeout());
        return asyncContext;
    }
}

写回数据由 Response 完成,从代码看,AsyncContextImpl.complete 方法表示 Tomcat 可以重新开始关注该 socket read 事件了(之前一直在等 socket 写回客户端数据)。

其它

Tomcat 为什么运行 war 而不是 jar

如果一个项目打成 jar 包,那么 Tomcat 在启动时 就要去分析下 这个 jar 是一个 web 项目还是一个 普通二方库。

安全

如果你在 Servlet 代码中直接 加入System.exit(1) 你会发现,仅仅是作为一个 Tomcat 上层的一个“业务方”,却有能力干掉 java 进程,即 Tomcat 的运行。

public class XXServlet extends HttpServlet {
    protected void doGet(HttpServletRequest req, HttpServletResponse resp)
        throws ServletException, IOException{
        System.exit(1);
        xxx
    }
}

有疑问加站长微信联系(非本文作者)

本文来自:简书

感谢作者:老男孩_Misaya

查看原文:面试被问Tomcat整体架构设计,我哭的像个孩子

入群交流(和以上内容无关):加入Go大咖交流群,或添加微信:liuxiaoyan-s 备注:入群;或加QQ群:701969077

314 次点击  
加入收藏 微博
1 回复  |  直到 2020-09-03 16:27:21
暂无回复
添加一条新回复 (您需要 登录 后才能回复 没有账号 ?)
  • 请尽量让自己的回复能够对别人有帮助
  • 支持 Markdown 格式, **粗体**、~~删除线~~、`单行代码`
  • 支持 @ 本站用户;支持表情(输入 : 提示),见 Emoji cheat sheet
  • 图片支持拖拽、截图粘贴等方式上传