大橙子网站建设,新征程启航
为企业提供网站建设、域名注册、服务器等服务
这篇文章主要介绍Java8中parallelStream并发安全的示例分析,文中介绍的非常详细,具有一定的参考价值,感兴趣的小伙伴们一定要看完!
十多年的伊通网站建设经验,针对设计、前端、开发、售后、文案、推广等六对一服务,响应快,48小时及时工作处理。成都全网营销的优势是能够根据用户设备显示端的尺寸不同,自动调整伊通建站的显示方式,使网站能够适用不同显示终端,在浏览器中调整网站的宽度,无论在任何一种浏览器上浏览网站,都能展现优雅布局与设计,从而大程度地提升浏览体验。创新互联从事“伊通网站设计”,“伊通网站推广”以来,每个客户项目都认真落实执行。
背景
Java8的stream接口极大地减少了for循环写法的复杂性,stream提供了map/reduce/collect等一系列聚合接口,还支持并发操作:parallelStream。
在爬虫开发过程中,经常会遇到遍历一个很大的集合做重复的操作,这时候如果使用串行执行会相当耗时,因此一般会采用多线程来提速。Java8的paralleStream用fork/join框架提供了并发执行能力。但是如果使用不当,很容易陷入误区。
Java8的paralleStream是线程安全的吗
一个简单的例子,在下面的代码中采用stream的forEach接口对1-10000进行遍历,分别插入到3个ArrayList中。其中对第一个list的插入采用串行遍历,第二个使用paralleStream,第三个使用paralleStream的同时用ReentryLock对插入列表操作进行同步:
private static Listlist1 = new ArrayList<>(); private static List list2 = new ArrayList<>(); private static List list3 = new ArrayList<>(); private static Lock lock = new ReentrantLock(); public static void main(String[] args) { IntStream.range(0, 10000).forEach(list1::add); IntStream.range(0, 10000).parallel().forEach(list2::add); IntStream.range(0, 10000).forEach(i -> { lock.lock(); try { list3.add(i); }finally { lock.unlock(); } }); System.out.println("串行执行的大小:" + list1.size()); System.out.println("并行执行的大小:" + list2.size()); System.out.println("加锁并行执行的大小:" + list3.size()); }
执行结果:
串行执行的大小:10000
并行执行的大小:9595
加锁并行执行的大小:10000
并且每次的结果中并行执行的大小不一致,而串行和加锁后的结果一直都是正确结果。显而易见,stream.parallel.forEach()
中执行的操作并非线程安全。
那么既然paralleStream不是线程安全的,是不是在其中的进行的非原子操作都要加锁呢?我在stackOverflow上找到了答案:
https://codereview.stackexchange.com/questions/60401/using-java-8-parallel-streams
https://stackoverflow.com/questions/22350288/parallel-streams-collectors-and-thread-safety
在上面两个问题的解答中,证实paralleStream的forEach接口确实不能保证同步,同时也提出了解决方案:使用collect和reduce接口。
http://docs.oracle.com/javase/tutorial/collections/streams/parallelism.html
在Javadoc中也对stream的并发操作进行了相关介绍:
The Collections Framework provides synchronization wrappers, which add automatic synchronization to an arbitrary collection, making it thread-safe.
Collections框架提供了同步的包装,使得其中的操作线程安全。
所以下一步,来看看collect接口如何使用。
stream的collect接口
闲话不多说直接上源码吧,Stream.java中的collect方法句柄:
R collect(Collector super T, A, R> collector);
在该实现方法中,参数是一个Collector对象,可以使用Collectors类的静态方法构造Collector对象,比如Collectors.toList(),toSet(),toMap(),etc,这块很容易查到API故不细说了。
除此之外,我们如果要在collect接口中做更多的事,就需要自定义实现Collector接口,需要实现以下方法:
Supplier supplier(); BiConsumer accumulator(); BinaryOperator combiner(); Function finisher(); Setcharacteristics();
要轻松理解这三个参数,要先知道fork/join是怎么运转的,一图以蔽之:
上图来自:http://www.infoq.com/cn/articles/fork-join-introduction
简单地说就是大任务拆分成小任务,分别用不同线程去完成,然后把结果合并后返回。所以第一步是拆分,第二步是分开运算,第三步是合并。这三个步骤分别对应的就是Collector的supplier,accumulator和combiner。talk is cheap show me the code,下面用一个例子来说明:
输入是一个10个整型数字的ArrayList,通过计算转换成double类型的Set,首先定义一个计算组件:
Compute.java:
public class Compute { public Double compute(int num) { return (double) (2 * num); } }
接下来在Main.java中定义输入的类型为ArrayList的nums和类型为Set的输出结果result:
private Listnums = new ArrayList<>(); private Set result = new HashSet<>();
定义转换list的run方法,实现Collector接口,调用内部类Container中的方法,其中characteristics()方法返回空set即可:
public void run() { // 填充原始数据,nums中填充0-9 10个数 IntStream.range(0, 10).forEach(nums::add); //实现Collector接口 result = nums.stream().parallel().collect(new Collector>() { @Override public Supplier supplier() { return Container::new; } @Override public BiConsumer accumulator() { return Container::accumulate; } @Override public BinaryOperator combiner() { return Container::combine; } @Override public Function > finisher() { return Container::getResult; } @Override public Set characteristics() { // 固定写法 return Collections.emptySet(); } }); }
构造内部类Container,该类的作用是一个存放输入的容器,定义了三个方法:
accumulate方法对输入数据进行处理并存入本地的结果
combine方法将其他容器的结果合并到本地的结果中
getResult方法返回本地的结果
Container.java:
class Container { // 定义本地的result public Setset; public Container() { this.set = new HashSet<>(); } public Container accumulate(int num) { this.set.add(compute.compute(num)); return this; } public Container combine(Container container) { this.set.addAll(container.set); return this; } public Set getResult() { return this.set; } }
在Main.java中编写测试方法:
public static void main(String[] args) { Main main = new Main(); main.run(); System.out.println("原始数据:"); main.nums.forEach(i -> System.out.print(i + " ")); System.out.println("\n\ncollect方法加工后的数据:"); main.result.forEach(i -> System.out.print(i + " ")); }
输出:
原始数据:
0 1 2 3 4 5 6 7 8 9collect方法加工后的数据:
0.0 2.0 4.0 8.0 16.0 18.0 10.0 6.0 12.0 14.0
我们将10个整型数值的list转成了10个double类型的set,至此验证成功~
以上是“Java8中parallelStream并发安全的示例分析”这篇文章的所有内容,感谢各位的阅读!希望分享的内容对大家有帮助,更多相关知识,欢迎关注创新互联行业资讯频道!