转载

让人抓头的Java并发(二) 线程池ThreadPoolExecutor分析

线程的创建需要开辟虚拟机栈、本地方法栈、程序计数器等线程私有的内存空间,在线程销毁时需要回收这些系统资源。频繁的创建销毁线程会浪费大量资源,使用线程池可以更好的管理和协调线程的工作。

线程池的好处

  • 降低资源消耗,通过重复利用已有线程降低线程创建和销毁造成的消耗
  • 提高响应速度,任务到达不必等待线程的创建
  • 管理复用线程,限制最大并发数
  • 实现定时执行或周期执行的任务(ScheduledThreadPoolExecutor)
  • 隔离线程环境,避免不同服务线程相互影响,防止服务发生雪崩(在SpringCloud的hystrix中也是这样做的,不同服务调用采用不同线程池)

线程池的使用

ThreadPoolExecutor的构造方法如下:
public ThreadPoolExecutor(int corePoolSize,
                              int maximumPoolSize,
                              long keepAliveTime,
                              TimeUnit unit,
                              BlockingQueue<Runnable> workQueue,
                              ThreadFactory threadFactory,
                              RejectedExecutionHandler handler) {
        if (corePoolSize < 0 ||
            maximumPoolSize <= 0 ||
            maximumPoolSize < corePoolSize ||
            keepAliveTime < 0)
            throw new IllegalArgumentException();
        if (workQueue == null || threadFactory == null || handler == null)
            throw new NullPointerException();
        …………
    }
复制代码

1)构造参数分析:

  • corePoolSize:表示常驻的核心线程数量。如果为0执行任务之后没有任何请求进入时将被销毁,如果大于0则不会被销毁。
  • maximumPoolSize:表示线程池最大能够容纳同时执行的线程数,必须大于等于1。如果和corePoolSize相等即是固定大小线程池,如果待执行线程数大于此数则按照参数handler处理。
  • keepAliveTime:表示线程池中的线程空闲时间,当空闲时间达到此值时,线程会被销毁直到剩下corePoolSize个线程。默认当线程数大于corePoolSize时才会起作用,但是当ThreadPoolExecutor的allowCoreThreadTimeOut设置为true时核心线程超时后也会被销毁。
  • unit:keepAliveTime的时间单位
  • workQueue:表示缓存队列,当请求线程数大于corePoolSize时,线程将进入BlockingQueue。
  • threadFactory:线程工厂,它用来生产一组相同任务的线程。通过给这个factory增加组名前缀来实现线程池命名,以方便在虚拟机栈分析时知道线程任务是由哪个线程工程产生的。
  • handler:执行拒绝策略的对象。当workQueue满了之后并且活动线程数大于maximumPoolSize的时候,线程池通过该策略处理请求。

2)拒绝策略分析: ThreadPoolExecutor中提供了四个RejectedExecutionHandler策略。

  • AbortPolicy(默认):丢弃任务并抛出RejectedExecutionException异常。
  • DiscardPolicy:丢弃当前任务。
  • DiscardOldestPolicy:丢弃任务中等待最久的任务,然后把当前任务加入队列。
  • CallerRunsPolicy:调用任务的run()方法绕过线程池直接执行。

3)创建线程池的其他方式(不推荐):Executors这个线程池静态工厂可以创建三个线程池的包装对象:ForkJoinPool、ThreadPoolExecutor、ScheduledThreadPoolExecutor。Executors中关于ThreadPoolExecutor的核心方法如下:

// SynchronousQueue是不存储元素的阻塞队列,并且maximumPoolSize为Integer.MAX_VALUE
即是无界,当主线程提交任务速度高于CachedThreadPool的处理速度时会不断创建线程,
极端情况下会发生OOM
public static ExecutorService newCachedThreadPool() {
        return new ThreadPoolExecutor(0, Integer.MAX_VALUE,
                                      60L, TimeUnit.SECONDS,
                                      new SynchronousQueue<Runnable>());
                                      
                                      
// keepAliveTime为0意味着多余的空闲线程会被立刻终止,LinkedBlockingQueue的默认容量
是Integer.MAX_VALUE即无界,极端情况下会发生OOM
public static ExecutorService newFixedThreadPool(int nThreads) {
        return new ThreadPoolExecutor(nThreads, nThreads,
                                      0L, TimeUnit.MILLISECONDS,
                                      new LinkedBlockingQueue<Runnable>());
                                      
// LinkedBlockingQueue的默认容量是Integer.MAX_VALUE即无界,极端情况下会发生OOM
public static ExecutorService newSingleThreadExecutor() {
        return new FinalizableDelegatedExecutorService
            (new ThreadPoolExecutor(1, 1,
                                    0L, TimeUnit.MILLISECONDS,
                                    new LinkedBlockingQueue<Runnable>()));
复制代码

看过了上述方法之后可以发现这三个方法构造出来的线程池都存在OOM的风险。并且不能灵活的配置线程工厂和拒绝策略,所以不推荐使用Executors来创建线程池。

4)向线程池提交任务:有两个方法execute()和submit()可以向线程池提交任务。execute()方法用于提交不需要返回值的任务,无法判断任务是否被线程池执行成功。submit()方法用于提交有返回值的任务(Callable)。线程池会返回一个future类型对象,通过future的get()方法可以获取返回值,值得注意的是get()方法会阻塞当前线程直到任务完成。

5)关闭线程池:有两个方法shutdown()和shutdownNow()可以关闭线程池。它们的原理是遍历线程池中的工作线程,然后逐个的调用线程的interrupt()方法来中断线程(无法响应中断的线程无法终止)。它们的区别在于shutdownNow()首先将线程池状态设置为STOP,然后尝试停止所有线程;shutdown()是将线程池状态设置为SHOTDOWN,然后中断所有没有正在执行任务的线程。

线程池的原理解析

当线程池接收到一个任务之后,执行流程如下图:

  1. 判断当前工作线程数是否达到核心线程数,如果没有则创建一个新的线程来执行任务,如果达到了则进行下一个判断。
  2. 判断工作队列是否已经满了,如果工作队列没有满,则将任务加入工作队列中,否则进行下一个判断。
  3. 判断线程池是否已经满了,如果没有则创建新线程执行任务,否则按照饱和策略处理任务。

ThreadPoolExecutor执行示意图:

下面是ThreadPoolExecutor中execute()方法的核心代码:

public void execute(Runnable command) {
        if (command == null)
            throw new NullPointerException();
        // 获取用于返回线程数和线程池状态的integer数值
        int c = ctl.get();
        // 1、如果工作线程数小于核心线程数,则创建任务并执行
        if (workerCountOf(c) < corePoolSize) {
            if (addWorker(command, true))
                return;
            c = ctl.get();
        }
        // 2、如果线程池处于RUNNING状态则将任务加入队列
        if (isRunning(c) && workQueue.offer(command)) {
            int recheck = ctl.get();
            if (! isRunning(recheck) && remove(command))
                reject(command);
            else if (workerCountOf(recheck) == 0)
                addWorker(null, false);
        }
        // 3、核心线程池和队列都满了,尝试创建一个新的线程
        else if (!addWorker(command, false))
            // 4、如果创建失败则执行拒绝策略
            reject(command);
    }
复制代码

addWorker()主要是创建工作线程 -- 将任务包装成Worker类。 在1、3两个步骤中创建线程时需要获取全局锁ReentrantLock避免被干扰,当当前工作线程数大于等于corePoolSize之后几乎所有的execute()都是在执行步骤2。 Worker在执行完任务之后还会循环获取工作队列的任务来执行 while (task != null || (task = getTask()) != null) ,getTask()方法中获取阻塞队列中的任务(poll()或take(),如果核心线程会被销毁或者当前线程数大于核心线程数则用poll()超时获取)

boolean timed = allowCoreThreadTimeOut || wc > corePoolSize;
Runnable r = timed ? workQueue.poll(keepAliveTime, TimeUnit.NANOSECONDS) 
                    : workQueue.take();
复制代码

线程池的工作原理代码在这里就不具体分析了,下图直观的展示了线程池的工作原理。

让人抓头的Java并发(二) 线程池ThreadPoolExecutor分析

合理配置线程池

想要合理的配置线程池首先需要分析任务特性:CPU密集型任务、IO密集型任务、混合型任务 .

  • CPU密集型任务:尽量使用较小的线程池,一般为CPU核心数+1。CPU密集型任务的CPU使用率很高,过多的线程数运行只能增加上下文切换的次数,因此会带来额外的开销。

  • IO密集型任务:使用稍大的线程池,一般为2*CPU核心数。IO密集型任务CPU使用率并不高,可以让CPU在等待IO的时候去处理别的任务,充分利用CPU。

  • 混合型任务:可以将任务分成IO密集型和CPU密集型任务,然后分别用不同的线程池去处理。只要分完之后两个任务的执行时间相差不大,那么就会比串行执行高效。如果划分之后两个任务执行时间相差甚远,那么最终的时间仍然取决于后执行完的任务,而且还要加上任务拆分与合并的开销。

在线程池的实现中还涉及了很多并发包中的知识比如BlockingQueue、ReentrantLock、Condition等,在这里就暂时不进行介绍了,后续会介绍它们。

原文  https://juejin.im/post/5cf7b87151882516be154a64
正文到此结束
Loading...