HTTP/2 头部压缩技术介绍

HTTP/2 尾部压缩手艺介绍

2015/11/03 · HTML5 · HTTP/2

原稿出处: imququ(@屈光宇)   

我们领悟,HTTP/2 协议由八个 EvoqueFC 组成:一个是 RFC 7540,描述了 HTTP/2 公约本身;多少个是 RFC 7541,描述了 HTTP/2 合同中使用的头顶压缩本领。本文将经超过实际际案例指引大家详细地认知 HTTP/2 尾部压缩那门技术。

缘何要减少

在 HTTP/1 中,HTTP 必要和响应都以由「状态行、央求 / 响应尾部、音讯主体」三部分构成。日常来说,音信主体都会经过 gzip 压缩,可能本人传输的便是压缩过后的二进制文件(举个例子图片、音频),但情况行和底部却从未通过别的压缩,直接以纯文本传输。

乘势 Web 作用尤为复杂,各类页面发生的诉求数也更是多,依照 HTTP Archive 的计算,当前平均每一种页面都会爆发许三个诉求。更加的多的伏乞引致消耗在头顶的流量更多,特别是历次都要传输 UserAgent、Cookie 那类不会反复变动的内容,完全部都是风姿洒脱种浪费。

以下是本人随手展开的叁个页面包车型客车抓包结果。能够看到,传输尾部的互联网支出超越100kb,比 HTML 还多:

图片 1

上边是里面贰个央求的精心。能够观察,为了获得 58 字节的数目,在头顶传输上开支了好几倍的流量:

图片 2

HTTP/1 时期,为了减小底部消耗的流量,有多数优化方案得以尝尝,比如合併诉求、启用 Cookie-Free 域名等等,可是那一个方案或多或少会引进一些新的难题,这里不展开研商。

调减后的效果

接下去本人将选择采访本博客的抓包记录以来明 HTTP/2 尾部压缩带来的更动。如何使用 Wireshark 对 HTTPS 网站举办抓包并解密,请看自身的那篇文章。本文使用的抓包文件,能够点此地下载。

首先直接上海体育地方。下图选中的 Stream 是首回访谈本站,浏览器发出的乞请头:

图片 3

从图纸中能够观察这几个 HEADE瑞鹰S 流的长度是 206 个字节,而解码后的底院长度有 451 个字节。总来说之,压缩后的头顶大小收缩了大意上多。

不过那便是整套呢?再上一张图。下图选中的 Stream 是点击本站链接后,浏览器发出的乞请头:

图片 4

能够观察那壹遍,HEADETiggoS 流的长短独有 49 个字节,然而解码后的尾厅长度却有 470 个字节。那三回,压缩后的尾部大小大约独有原本大小的 1/10。

怎么前后四次差别这么大啊?大家把三回的头顶音讯实行,查看同贰个字段四次传输所并吞的字节数:

图片 5

图片 6

相比较后能够开采,第1回的乞请尾部之所以比十分的小,是因为好多键值对只占用了一个字节。特别是 UserAgent、Cookie 那样的尾部,第一回呼吁中必要占用相当多字节,后续央浼中都只供给叁个字节。

技能原理

上边那张截图,取自 Google 的属性行家 Ilya Grigorik 在 Velocity 二〇一五 • SC 会议中享用的「HTTP/2 is here, let’s optimize!」,极其直观地陈诉了 HTTP/2 中头部压缩的原理:

图片 7

自家再用深入显出的语言表达下,底部压缩供给在支撑 HTTP/2 的浏览器和服务端之间:

  • 护卫生龙活虎份形似的静态字典(Static Table),包蕴见惯司空的头顶名称,乃卓殊其绳床瓦灶的尾部名称与值的组成;
  • 护卫意气风发份相像的动态字典(Dynamic Table),能够动态的增加内容;
  • 支持基于静态哈夫曼码表的哈夫曼编码(Huffman Coding);

静态字典的功用有四个:1)对于截然合营的底部键值对,譬如 : method :GET,能够直接使用三个字符表示;2)对于尾部名称能够包容的键值对,比如 cookie :xxxxxxx,可以将名称使用一个字符表示。HTTP/第22中学的静态字典如下(以下只截取了一些,完整表格在这里):

Index Header Name Header Value
1 :authority
2 :method GET
3 :method POST
4 :path /
5 :path /index.html
6 :scheme http
7 :scheme https
8 :status 200
32 cookie
60 via
61 www-authenticate

还要,浏览器能够告诉服务端,将 cookie :xxxxxxx 加多到动态字典中,那样继续一切键值对就足以行使三个字符表示了。相通的,服务端也得以改良对方的动态字典。必要潜心的是,动态字典上下文有关,供给为种种HTTP/2 连接维护差别的字典。

行使字典能够超大地进步压缩效果,个中静态字典在第一回呼吁中就足以选择。对于静态、动态字典中荒诞不经的开始和结果,还足以应用哈夫曼编码来减小体积。HTTP/2 使用了大器晚成份静态哈夫曼码表(详见),也亟需内置在客户端和服务端之中。

此处顺便说一下,HTTP/1 的气象行音讯(Method、Path、Status 等),在 HTTP/第22中学被拆成键值对归入底部(冒号早前的那几个),相仿能够大饱眼福到字典和哈夫曼压缩。此外,HTTP/第22中学具备尾部名称必得小写。

得以达成细节

摸底了 HTTP/2 尾部压缩的基本原理,最终大家来看一下实际的落实细节。HTTP/2 的底部键值对有以下这几个情状:

1)整个尾部键值对都在字典中

JavaScript

0 1 2 3 4 5 6 7 +---+---+---+---+---+---+---+---+ | 1 | Index (7+) | +---+---------------------------+

1
2
3
4
5
  0   1   2   3   4   5   6   7
+---+---+---+---+---+---+---+---+
| 1 |        Index (7+)         |
+---+---------------------------+
 

那是最轻便易行的事态,使用贰个字节就能够象征这几个尾部了,最左一人稳固为 1,之后伍位寄存键值对在静态或动态字典中的索引。举例下图中,尾部索引值为 2(0000010),在静态字典中查询可得 : method :GET

图片 8

2)底部名称在字典中,更新动态字典

JavaScript

0 1 2 3 4 5 6 7 +---+---+---+---+---+---+---+---+ | 0 | 1 | Index (6+) | +---+---+-----------------------+ | H | Value Length (7+) | +---+---------------------------+ | Value String (Length octets) | +-------------------------------+

1
2
3
4
5
6
7
8
9
  0   1   2   3   4   5   6   7
+---+---+---+---+---+---+---+---+
| 0 | 1 |      Index (6+)       |
+---+---+-----------------------+
| H |     Value Length (7+)     |
+---+---------------------------+
| Value String (Length octets)  |
+-------------------------------+
 

对此这种景观,首先须要选拔三个字节表示底部名称:左两位牢固为 01,之后陆位存放底部名称在静态或动态字典中的索引。接下来的二个字节第3个人H 表示尾部值是还是不是接纳了哈夫曼编码,剩余伍位表示尾部值的长度 L,后续 L 个字节就是底部值的具体内容了。举例下图中索引值为 32(100000),在静态字典中查询可得  cookie ;底部值使用了哈夫曼编码(1),长度是 28(0011100);接下去的 贰十多个字节是 cookie 的值,将其开展哈夫曼解码就能够博取具体内容。

图片 9

顾客端或服务端看到这种格式的头顶键值对,会将其加多到本人的动态字典中。后续传输那样的剧情,就符合第 1 种状态了。

3)底部名称不在字典中,更新动态字典

JavaScript

0 1 2 3 4 5 6 7 +---+---+---+---+---+---+---+---+ | 0 | 1 | 0 | +---+---+-----------------------+ | H | Name Length (7+) | +---+---------------------------+ | Name String (Length octets) | +---+---------------------------+ | H | Value Length (7+) | +---+---------------------------+ | Value String (Length octets) | +-------------------------------+

1
2
3
4
5
6
7
8
9
10
11
12
13
  0   1   2   3   4   5   6   7
+---+---+---+---+---+---+---+---+
| 0 | 1 |           0           |
+---+---+-----------------------+
| H |     Name Length (7+)      |
+---+---------------------------+
|  Name String (Length octets)  |
+---+---------------------------+
| H |     Value Length (7+)     |
+---+---------------------------+
| Value String (Length octets)  |
+-------------------------------+
 

这种气象与第 2 种状态周边,只是出于底部名称不在字典中,所以首先个字节固定为 01000000;接着注解名称是不是利用哈夫曼编码及长度,并放上名称的具体内容;再注明值是还是不是选用哈夫曼编码及长度,最后放上值的具体内容。举个例子下图中名称的尺寸是 5(0000101),值的长短是 6(0000110)。对其具体内容实行哈夫曼解码后,可得 pragma: no-cache 。

图片 10

客商端或服务端看见这种格式的头顶键值对,会将其增添到本人的动态字典中。后续传输那样的源委,就相符第 1 种状态了。

4)尾部名称在字典中,不容许更新动态字典

JavaScript

0 1 2 3 4 5 6 7 +---+---+---+---+---+---+---+---+ | 0 | 0 | 0 | 1 | Index (4+) | +---+---+-----------------------+ | H | Value Length (7+) | +---+---------------------------+ | Value String (Length octets) | +-------------------------------+

1
2
3
4
5
6
7
8
9
  0   1   2   3   4   5   6   7
+---+---+---+---+---+---+---+---+
| 0 | 0 | 0 | 1 |  Index (4+)   |
+---+---+-----------------------+
| H |     Value Length (7+)     |
+---+---------------------------+
| Value String (Length octets)  |
+-------------------------------+
 

这种场所与第 2 种情状极度相似,独一分化之处是:第三个字节左二个人牢固为 0001,只剩下几个人来贮存索引了,如下图:

图片 11

这里供给介绍别的叁个知识点:对整数的解码。上图中首先个字节为 00011111,并不表示尾部名称的目录为 15(1111)。第八个字节去掉固定的 0001,只剩叁个人可用,将位数用 N 表示,它一定要用来表示小于「2 ^ N – 1 = 15」的整数 I。对于 I,需求信守以下法规求值(HighlanderFC 7541中的伪代码,via):

Python

if I < 2 ^ N - 1, return I # I 小于 2 ^ N - 1 时,间接回到 else M = 0 repeat B = next octet # 让 B 等于下多个五个人 I = I + (B & 127卡塔尔(قطر‎ * 2 ^ M # I = I + (B 低七位 * 2 ^ M) M = M + 7 while B & 128 == 128 # B 最高位 = 1 时再三再四,否则重回 I return I

1
2
3
4
5
6
7
8
9
if I < 2 ^ N - 1, return I         # I 小于 2 ^ N - 1 时,直接返回
else
    M = 0
    repeat
        B = next octet             # 让 B 等于下一个八位
        I = I + (B & 127) * 2 ^ M  # I = I + (B 低七位 * 2 ^ M)
        M = M + 7
    while B & 128 == 128           # B 最高位 = 1 时继续,否则返回 I
    return I

对此上海体育地方中的数据,根据那个法则算出索引值为 32(00011111 00010001,15 + 17),代表  cookie 。须要在乎的是,合同中颇负写成(N+)的数字,举个例子Index (4+卡塔尔(英语:State of Qatar)、Name Length (7+卡塔尔(英语:State of Qatar),都亟待依据这几个法则来编码和解码。

这种格式的尾部键值对,不容许被加多到动态字典中(但足以接受哈夫曼编码)。对于一些那些灵敏的头顶,举个例子用来评释的 Cookie,这么做可以增长安全性。

5)尾部名称不在字典中,分化意更新动态字典

JavaScript

0 1 2 3 4 5 6 7 +---+---+---+---+---+---+---+---+ | 0 | 0 | 0 | 1 | 0 | +---+---+-----------------------+ | H | Name Length (7+) | +---+---------------------------+ | Name String (Length octets) | +---+---------------------------+ | H | Value Length (7+) | +---+---------------------------+ | Value String (Length octets) | +-------------------------------+

1
2
3
4
5
6
7
8
9
10
11
12
13
  0   1   2   3   4   5   6   7
+---+---+---+---+---+---+---+---+
| 0 | 0 | 0 | 1 |       0       |
+---+---+-----------------------+
| H |     Name Length (7+)      |
+---+---------------------------+
|  Name String (Length octets)  |
+---+---------------------------+
| H |     Value Length (7+)     |
+---+---------------------------+
| Value String (Length octets)  |
+-------------------------------+
 

这种气象与第 3 种情况特别临近,独一差异的地方是:第二个字节固定为 00010000。这种景况比少之甚少见,未有截图,各位能够脑补。近似,这种格式的底部键值对,也区别意被加多到动态字典中,只好利用哈夫曼编码来压缩体积。

实则,公约中还鲜明了与 4、5 极其临近的其它二种格式:将 4、5 格式中的第二个字节第几个人由 1 改为 0 就能够。它表示「本次不更新动态词典」,而 4、5 代表「绝对不容许更新动态词典」。分裂不是异常的大,这里略过。

知情了底部压缩的本领细节,理论上能够超轻松写出 HTTP/2 尾部解码工具了。作者比较懒,直接找来 node-http第22中学的 compressor.js 验证一下:

JavaScript

var Decompressor = require('./compressor').Decompressor; var testLog = require('bunyan').createLogger({name: 'test'}); var decompressor = new Decompressor(testLog, 'REQUEST'); var buffer = new Buffer('820481634188353daded6ae43d3f877abdd07f66a281b0dae053fad0321aa49d13fda992a49685340c8a6adca7e28102e10fda9677b8d05707f6a62293a9d810020004015309ac2ca7f2c3415c1f53b0497ca589d34d1f43aeba0c41a4c7a98f33a69a3fdf9a68fa1d75d0620d263d4c79a68fbed00177febe58f9fbed00177b518b2d4b70ddf45abefb4005db901f1184ef034eff609cb60725034f48e1561c8469669f081678ae3eb3afba465f7cb234db9f4085aec1cd48ff86a8eb10649cbf', 'hex'); console.log(decompressor.decompress(buffer)); decompressor._table.forEach(function(row, index) { console.log(index + 1, row[0], row[1]); });

1
2
3
4
5
6
7
8
9
10
11
12
var Decompressor = require('./compressor').Decompressor;
 
var testLog = require('bunyan').createLogger({name: 'test'});
var decompressor = new Decompressor(testLog, 'REQUEST');
 
var buffer = new Buffer('820481634188353daded6ae43d3f877abdd07f66a281b0dae053fad0321aa49d13fda992a49685340c8a6adca7e28102e10fda9677b8d05707f6a62293a9d810020004015309ac2ca7f2c3415c1f53b0497ca589d34d1f43aeba0c41a4c7a98f33a69a3fdf9a68fa1d75d0620d263d4c79a68fbed00177febe58f9fbed00177b518b2d4b70ddf45abefb4005db901f1184ef034eff609cb60725034f48e1561c8469669f081678ae3eb3afba465f7cb234db9f4085aec1cd48ff86a8eb10649cbf', 'hex');
 
console.log(decompressor.decompress(buffer));
 
decompressor._table.forEach(function(row, index) {
    console.log(index + 1, row[0], row[1]);
});

底部原始数据出自于本文第三张截图,运转结果如下(静态字典只截取了意气风发局部):

{ ':method': 'GET', ':path': '/', ':authority': 'imququ.com', ':scheme': 'https', 'user-agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10.11; rv:41.0) Gecko/20100101 Firefox/41.0', accept: 'text/html,application/xhtml+xml,application/xml;q=0.9,*/*;q=0.8', 'accept-language': 'en-US,en;q=0.5', 'accept-encoding': 'gzip, deflate', cookie: 'v=47; u=6f048d6e-adc4-4910-8e69-797c399ed456', pragma: 'no-cache' } 1 ':authority' '' 2 ':method' 'GET' 3 ':method' 'POST' 4 ':path' '/' 5 ':path' '/index.html' 6 ':scheme' 'http' 7 ':scheme' 'https' 8 ':status' '200' ... ... 32 'cookie' '' ... ... 60 'via' '' 61 'www-authenticate' '' 62 'pragma' 'no-cache' 63 'cookie' 'u=6f048d6e-adc4-4910-8e69-797c399ed456' 64 'accept-language' 'en-US,en;q=0.5' 65 'accept' 'text/html,application/xhtml+xml,application/xml;q=0.9,*/*;q=0.8' 66 'user-agent' 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10.11; rv:41.0) Gecko/20100101 Firefox/41.0' 67 ':authority' 'imququ.com'

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
{ ':method': 'GET',
  ':path': '/',
  ':authority': 'imququ.com',
  ':scheme': 'https',
  'user-agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10.11; rv:41.0) Gecko/20100101 Firefox/41.0',
  accept: 'text/html,application/xhtml+xml,application/xml;q=0.9,*/*;q=0.8',
  'accept-language': 'en-US,en;q=0.5',
  'accept-encoding': 'gzip, deflate',
  cookie: 'v=47; u=6f048d6e-adc4-4910-8e69-797c399ed456',
  pragma: 'no-cache' }
1 ':authority' ''
2 ':method' 'GET'
3 ':method' 'POST'
4 ':path' '/'
5 ':path' '/index.html'
6 ':scheme' 'http'
7 ':scheme' 'https'
8 ':status' '200'
... ...
32 'cookie' ''
... ...
60 'via' ''
61 'www-authenticate' ''
62 'pragma' 'no-cache'
63 'cookie' 'u=6f048d6e-adc4-4910-8e69-797c399ed456'
64 'accept-language' 'en-US,en;q=0.5'
65 'accept' 'text/html,application/xhtml+xml,application/xml;q=0.9,*/*;q=0.8'
66 'user-agent' 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10.11; rv:41.0) Gecko/20100101 Firefox/41.0'
67 ':authority' 'imququ.com'

能够看来,这段从 Wireshark 拷出来的头顶数据能够符合规律解码,动态字典也收获了履新(62 – 67)。

总结

在举行 HTTP/2 网址品质优化时很首要一点是「使用尽可能少的连接数」,本文提到的底部压缩是内部叁个比较重大的缘故:同三个接连上发出的倡议和响应越多,动态字典累积得越全,头部压缩效果也就越好。所以,针对 HTTP/2 网址,最棒施行是不要合併财富,不要散列域名。

默许情状下,浏览器会针对那几个情状采纳同八个连连:

  • 同风流洒脱域名下的财富;
  • 不一样域名下的能源,可是满意八个条件:1)深入分析到同三个IP;2)使用同一个证书;

上边第一点轻便精通,第二点则相当的轻松被忽视。实际上 Google已经那样做了,Google 生龙活虎雨后苦笋网址都共用了同三个注脚,能够这么表达:

$ openssl s_client -connect google.com:443 |openssl x509 -noout -text | grep DNS depth=2 C = US, O = GeoTrust Inc., CN = GeoTrust Global CA verify error:num=20:unable to get local issuer certificate verify return:0 DNS:*.google.com, DNS:*.android.com, DNS:*.appengine.google.com, DNS:*.cloud.google.com, DNS:*.google-analytics.com, DNS:*.google.ca, DNS:*.google.cl, DNS:*.google.co.in, DNS:*.google.co.jp, DNS:*.google.co.uk, DNS:*.google.com.ar, DNS:*.google.com.au, DNS:*.google.com.br, DNS:*.google.com.co, DNS:*.google.com.mx, DNS:*.google.com.tr, DNS:*.google.com.vn, DNS:*.google.de, DNS:*.google.es, DNS:*.google.fr, DNS:*.google.hu, DNS:*.google.it, DNS:*.google.nl, DNS:*.google.pl, DNS:*.google.pt, DNS:*.googleadapis.com, DNS:*.googleapis.cn, DNS:*.googlecommerce.com, DNS:*.googlevideo.com, DNS:*.gstatic.cn, DNS:*.gstatic.com, DNS:*.gvt1.com, DNS:*.gvt2.com, DNS:*.metric.gstatic.com, DNS:*.urchin.com, DNS:*.url.google.com, DNS:*.youtube-nocookie.com, DNS:*.youtube.com, DNS:*.youtubeeducation.com, DNS:*.ytimg.com, DNS:android.com, DNS:g.co, DNS:goo.gl, DNS:google-analytics.com, DNS:google.com, DNS:googlecommerce.com, DNS:urchin.com, DNS:youtu.be, DNS:youtube.com, DNS:youtubeeducation.com

1
2
3
4
5
6
$ openssl s_client -connect google.com:443 |openssl x509 -noout -text | grep DNS
 
depth=2 C = US, O = GeoTrust Inc., CN = GeoTrust Global CA
verify error:num=20:unable to get local issuer certificate
verify return:0
                DNS:*.google.com, DNS:*.android.com, DNS:*.appengine.google.com, DNS:*.cloud.google.com, DNS:*.google-analytics.com, DNS:*.google.ca, DNS:*.google.cl, DNS:*.google.co.in, DNS:*.google.co.jp, DNS:*.google.co.uk, DNS:*.google.com.ar, DNS:*.google.com.au, DNS:*.google.com.br, DNS:*.google.com.co, DNS:*.google.com.mx, DNS:*.google.com.tr, DNS:*.google.com.vn, DNS:*.google.de, DNS:*.google.es, DNS:*.google.fr, DNS:*.google.hu, DNS:*.google.it, DNS:*.google.nl, DNS:*.google.pl, DNS:*.google.pt, DNS:*.googleadapis.com, DNS:*.googleapis.cn, DNS:*.googlecommerce.com, DNS:*.googlevideo.com, DNS:*.gstatic.cn, DNS:*.gstatic.com, DNS:*.gvt1.com, DNS:*.gvt2.com, DNS:*.metric.gstatic.com, DNS:*.urchin.com, DNS:*.url.google.com, DNS:*.youtube-nocookie.com, DNS:*.youtube.com, DNS:*.youtubeeducation.com, DNS:*.ytimg.com, DNS:android.com, DNS:g.co, DNS:goo.gl, DNS:google-analytics.com, DNS:google.com, DNS:googlecommerce.com, DNS:urchin.com, DNS:youtu.be, DNS:youtube.com, DNS:youtubeeducation.com

利用多域名加上相像的 IP 和证件布署 Web 服务有特有的意义:让援助 HTTP/2 的终极只创设一个总是,用上 HTTP/2 合同带给的各样收益;而只帮助 HTTP/1.1 的终端则会树立多少个一而再,达到同一时间更加多并发诉求的目标。那在 HTTP/2 完全广泛前也是三个科学的取舍。

1 赞 收藏 评论

图片 12

本文由快3平台发布于安徽快三web前端,转载请注明出处:HTTP/2 头部压缩技术介绍

相关阅读