并发编程的挑战

转载请以链接形式标明出处： 本文出自:103style的博客

Java并发编程的艺术笔记

• 并发编程的挑战
• Java并发机制的底层实现原理
• Java内存模型
• Java并发编程基础
• Java中的锁的使用和实现介绍
• Java并发容器和框架
• Java中的12个原子操作类介绍
• Java中的并发工具类
• Java中的线程池
• Executor框架

并发编程的目的与挑战

并发编程的目的是为了让程序运行得更快。启动更多的线程并不一定就能让程序最大限度地并发执行。 希望通过多线程执行任务让程序运行得更快，会面临非常多的挑战。比如

• 上下文切换 的问题
• 死锁 的问题
• 硬件和软件的资源限制问题

上下文切换

单核处理器也支持多线程执行代码，CPU通过给每个线程分配CPU时间片来实现这个机制。时间片是CPU分配给各个线程的时间，因为时间片非常短，所以CPU通过不停地切换线程执行，让我们感觉多个线程是同时执行的，时间片一般是几十毫秒（ms）。

CPU通过时间片分配算法来循环执行任务，当前任务执行一个时间片后会切换到下一个任务。但是，在切换前会保存上一个任务的状态，以便下次切换回这个任务时，可以再加载这个任务的状态。所以任务从保存到再加载的过程就是一次上下文切换。

上下文切换也会影响多线程的执行速度。

如何减少上下文切换

减少上下文切换的方法有 无锁并发编程、CAS算法、使用最少线程 和 使用协程。

• 无锁并发编程。多线程竞争锁时，会引起上下文切换，所以多线程处理数据时，可以用一些办法来避免使用锁，如将数据的ID按照Hash算法取模分段，不同的线程处理不同段的数据。
• CAS算法。Java的Atomic包使用CAS算法来更新数据，而不需要加锁。
• 使用最少线程。避免创建不需要的线程，比如任务很少，但是创建了很多线程来处理，这样会造成大量线程都处于等待状态。
• 协程：在单线程里实现多任务的调度，并在单线程里维持多个任务间的切换。

避免死锁的几个常见方法

• 避免一个线程同时获取多个锁。
• 避免一个线程在锁内同时占用多个资源，尽量保证每个锁只占用一个资源。
• 尝试使用定时锁，使用lock.tryLock（timeout）来替代使用内部锁机制。
• 对于数据库锁，加锁和解锁必须在一个数据库连接里，否则会出现解锁失败的情况。

资源限制的挑战

• 硬件资源限制有带宽的上传/下载速度、硬盘读写速度和CPU的处理速度。
• 软件资源限制有数据库的连接数和socket连接数等。

如何解决资源限制的问题

• 对于硬件资源限制，可以考虑使用集群并行执行程序。比如使用ODPS、Hadoop或者自己搭建服务器集群。
• 对于软件资源限制，可以考虑使用资源池将资源复用。比如使用连接池将数据库和Socket连接复用，或者在调用对方webservice接口获取数据时，只建立一个连接。

在资源限制情况下进行并发编程

根据不同的资源限制调整程序的并发度，比如下载文件程序依赖于两个资源——带宽和硬盘读写速度。有数据库操作时，涉及数据库连接数，如果SQL语句执行非常快，而线程的数量比数据库连接数大很多，则某些线程会被阻塞，等待数据库连接。