科技常识:让gzip压缩速度加快的解决方案:使用支持多核CPU多线程并发压缩的pigz

2021-06-07 15:35:25
导读今天小编跟大家讲解下有关科技常识:让gzip压缩速度加快的解决方案:使用支持多核CPU多线程并发压缩的pigz,相信小伙伴们对这个话题应该也

今天小编跟大家讲解下有关科技常识:让gzip压缩速度加快的解决方案:使用支持多核CPU多线程并发压缩的pigz,相信小伙伴们对这个话题应该也很关注吧,小编也收集到了有关科技常识:让gzip压缩速度加快的解决方案:使用支持多核CPU多线程并发压缩的pigz的相关资料,希望小伙伴会喜欢也能够帮助大家。

pig是个啥东东?官网:http://zlib.net/pigz一句话简介:复制代码代码如下:A parallel implementation of gzip for modernmulti-processor, multi-core machines。简单的说,就是支持并行的gzip。废话不多说,开始测试。

pig默认用当前逻辑cpu个数来并发压缩,无法检测个数的话,则并发8个线程。

一、测试压缩包文件1复制代码代码如下:压缩前-rw-r--r-- 1 root root 2474772480 Dec 3 19:54 dbs.tar</p><p>1、gzip测试压缩耗时,CPU最高:101.6%real 2m18.042suser 2m10.204ssys 0m6.876s</p><p>解压缩耗时,CPU最高:101.6%real 0m26.756suser 0m20.175ssys 0m6.580s</p><p>压缩后-rw-r--r-- 1 root root 2349563863 Dec 3 19:54 dbs.tar.gz</p><p>2、pigz测试并发8线程(默认):压缩耗时,CPU最高:832%real 0m21.710suser 2m31.229ssys 0m9.101s</p><p>解压缩耗时,CPU最高:199%real 0m13.239suser 0m11.791ssys 0m12.426s</p><p>并发4线程:压缩耗时,CPU最高:427.6%real 0m38.299suser 2m30.701ssys 0m8.369s</p><p>解压缩耗时,CPU最高:202%real 0m13.294suser 0m12.154ssys 0m11.862s</p><p>压缩后-rw-r--r-- 1 root root 2350161547 Dec 3 19:54 dbs.tar.gz</p><p>二、测试压缩包文件2压缩前-rw-r--r-- 1 root root 5248890880 Dec 3 20:26 mysql-5.5.28-linux2.6-x86_64.tar</p><p>1、gzip测试压缩耗时,CPU最高:101%real 6m20.524suser 6m2.466ssys 0m7.410s</p><p>解压缩耗时,CPU最高: 101%real 0m58.893suser 0m46.258ssys 0m11.944s</p><p>压缩后-rw-r--r-- 1 root root 1410045513 Dec 3 20:26 mysql-5.5.28-linux2.6-x86_64.tar.gz</p><p>2、pigz测试并发8线程(默认):压缩耗时,CPU最高: 799%real 1m11.908suser 6m36.717ssys 0m9.860s</p><p>解压缩耗时,CPU最高:179%real 0m33.188suser 0m38.069ssys 0m16.728s</p><p>并发4线程:压缩耗时,CPU最高: 418%real 1m41.547suser 6m36.782ssys 0m9.806s</p><p>解压缩耗时,CPU最高: 179%real 0m33.120suser 0m37.500ssys 0m16.956s</p><p>压缩后-rw-r--r-- 1 root root 1406061442 Dec 3 20:26 mysql-5.5.28-linux2.6-x86_64.tar.gz

结论:1、pigz默认用法(默认并发线程是逻辑cpu个数)可比gzip快5.3倍,CPU消耗则是gzip的8倍,压缩比则相当;2、并发8线程对比4线程提升:41.2%,16线程对比8线程提升:27.9%,32线程对比16线程提升:3%;3、在对压缩效率要求较高、但对短时间内CPU消耗较高不受影响的场景,使用pigz非常合适。

来源:爱蒂网

免责声明:本文由用户上传,如有侵权请联系删除!

猜你喜欢

最新文章