菜单

HTTP/二 尾部压缩技术介绍

2019年4月13日 - CSS/CSS3

总结

在进行 HTTP/二网址品质优化时很要紧一点是「使用尽恐怕少的连接数」,本文提到的头顶压缩是里面二个很重点的因由:同3个三番五次上爆发的请求和响应越来越多,动态字典积累得越全,底部压缩效果也就越好。所以,针对
HTTP/2 网址,最好实践是毫无合并能源,不要散列域名。

暗中认可景况下,浏览器会针对那几个境况选用同3个连接:

地点第二点简单精通,第3点则很不难被忽略。实际上 Google已经这么做了,谷歌 一文山会海网址都共用了同多个申明,可以如此表达:

JavaScript

$ openssl s_client -connect google.com:443 |openssl x509 -noout -text |
grep DNS depth=2 C = US, O = GeoTrust Inc., CN = GeoTrust Global CA
verify error:num=20:unable to get local issuer certificate verify
return:0 DNS:*.google.com, DNS:*.android.com,
DNS:*.appengine.google.com, DNS:*.cloud.google.com,
DNS:*.google-analytics.com, DNS:*.google.ca, DNS:*.google.cl,
DNS:*.google.co.in, DNS:*.google.co.jp, DNS:*.google.co.uk,
DNS:*.google.com.ar, DNS:*.google.com.au, DNS:*.google.com.br,
DNS:*.google.com.co, DNS:*.google.com.mx, DNS:*.google.com.tr,
DNS:*.google.com.vn, DNS:*.google.de, DNS:*.google.es,
DNS:*.google.fr, DNS:*.google.hu, DNS:*.google.it, DNS:*.google.nl,
DNS:*.google.pl, DNS:*.google.pt, DNS:*.googleadapis.com,
DNS:*.googleapis.cn, DNS:*.googlecommerce.com, DNS:*.googlevideo.com,
DNS:*.gstatic.cn, DNS:*.gstatic.com, DNS:*.gvt1.com, DNS:*.gvt2.com,
DNS:*.metric.gstatic.com, DNS:*.urchin.com, DNS:*.url.google.com,
DNS:*.youtube-nocookie.com, DNS:*.youtube.com,
DNS:*.youtubeeducation.com, DNS:*.ytimg.com, DNS:android.com,
DNS:g.co, DNS:goo.gl, DNS:google-analytics.com, DNS:google.com,
DNS:googlecommerce.com, DNS:urchin.com, DNS:youtu.be, DNS:youtube.com,
DNS:youtubeeducation.com

1
2
3
4
5
6
7
$ openssl s_client -connect google.com:443 |openssl x509 -noout -text | grep DNS
 
depth=2 C = US, O = GeoTrust Inc., CN = GeoTrust Global CA
verify error:num=20:unable to get local issuer certificate
verify return:0
                DNS:*.google.com, DNS:*.android.com, DNS:*.appengine.google.com, DNS:*.cloud.google.com, DNS:*.google-analytics.com, DNS:*.google.ca, DNS:*.google.cl, DNS:*.google.co.in, DNS:*.google.co.jp, DNS:*.google.co.uk, DNS:*.google.com.ar, DNS:*.google.com.au, DNS:*.google.com.br, DNS:*.google.com.co, DNS:*.google.com.mx, DNS:*.google.com.tr, DNS:*.google.com.vn, DNS:*.google.de, DNS:*.google.es, DNS:*.google.fr, DNS:*.google.hu, DNS:*.google.it, DNS:*.google.nl, DNS:*.google.pl, DNS:*.google.pt, DNS:*.googleadapis.com, DNS:*.googleapis.cn, DNS:*.googlecommerce.com, DNS:*.googlevideo.com, DNS:*.gstatic.cn, DNS:*.gstatic.com, DNS:*.gvt1.com, DNS:*.gvt2.com, DNS:*.metric.gstatic.com, DNS:*.urchin.com, DNS:*.url.google.com, DNS:*.youtube-nocookie.com, DNS:*.youtube.com, DNS:*.youtubeeducation.com, DNS:*.ytimg.com, DNS:android.com, DNS:g.co, DNS:goo.gl, DNS:google-analytics.com, DNS:google.com, DNS:googlecommerce.com, DNS:urchin.com, DNS:youtu.be, DNS:youtube.com, DNS:youtubeeducation.com
 

采纳多域名加上同样的 IP 和证书铺排 Web 服务有异样的意思:让协助 HTTP/2的顶峰只建立二个延续,用上 HTTP/二 协议带来的种种利益;而只帮助 HTTP/一.1的终极则会建立多个连续,达到同时更多并发请求的指标。那在 HTTP/2完全普及前也是贰个科学的采纳。

本文就写到那里,希望能给对 HTTP/二感兴趣的同班带来补助,也欢迎我们持续关切本博客的「HTTP/2
专题
」。

打赏扶助笔者写出更加多好小说,感谢!


打赏作者

HTTP/二 尾部压缩技术介绍

2015/11/03 · HTML5 ·
HTTP/2

原稿出处:
imququ(@屈光宇)   

咱俩清楚,HTTP/贰 协议由四个 CR-VFC 组成:八个是 RFC
7540
,描述了 HTTP/2协议本人;二个是 RFC
7541
,描述了 HTTP/贰协议中应用的头顶压缩技术。本文将透超过实际际案例指导我们详细地认识 HTTP/贰底部压缩那门技术。

打赏协助作者写出越来越多好文章,多谢!

任选壹种支付办法

图片 1
图片 2

1 赞 3 收藏
评论

压缩后的效应

接下去本人将使用访问本博客的抓包记录以来明 HTTP/二底部压缩带来的更动。怎样利用 Wireshark 对 HTTPS
网址进行抓包并解密,请看笔者的那篇小说。本文使用的抓包文件,能够点这里下载

率先直接上海教室。下图选中的 Stream 是第3回访问本站,浏览器发出的请求头:

图片 3

从图纸中得以见见那么些 HEADERubiconS 流的长短是 206 个字节,而解码后的尾委员长度有
45壹 个字节。简而言之,压缩后的尾部大小收缩了大体上多。

然则那正是整套啊?再上一张图。下图选中的 Stream
是点击本站链接后,浏览器发出的伸手头:

图片 4

能够见见那2回,HEADEOdysseyS 流的尺寸只有 4玖 个字节,可是解码后的底市长度却有
470 个字节。那三次,压缩后的头顶大小差不多只有原来大小的 10%。

为啥前后两遍差别这么大呢?我们把五回的头顶音信进行,查看同一个字段四次传输所占有的字节数:

图片 5

图片 6

对待后方可发现,第3次的央求尾部之所以相当的小,是因为超过八分之四键值对只占用了三个字节。特别是
UserAgent、Cookie
那样的尾部,第叁次呼吁中需求占用很多字节,后续请求中都只要求几个字节。

技能原理

下边那张截图,取自 谷歌(Google) 的习性专家 Ilya Grigorik 在 Velocity 201⑤ • SC
会议中分享的「HTTP/2 is here, let’s
optimize!
」,至极直观地描述了
HTTP/贰 中底部压缩的规律:

图片 7

自己再用浅显的言语诠释下,底部压缩要求在辅助 HTTP/二 的浏览器和服务端之间:

静态字典的功效有五个:壹)对于截然同盟的尾部键值对,例如
:method: GET,能够直接使用五个字符表示;二)对于尾部名称能够协作的键值对,例如
cookie: xxxxxxx,能够将名称使用叁个字符表示。HTTP/2中的静态字典如下(以下只截取了有个别,完整表格在这里):

Index Header Name Header Value
1 :authority
2 :method GET
3 :method POST
4 :path /
5 :path /index.html
6 :scheme http
7 :scheme https
8 :status 200
32 cookie
60 via
61 www-authenticate

同时,浏览器能够告知服务端,将 cookie: xxxxxxx
添加到动态字典中,那样持续一切键值对就能够使用2个字符表示了。类似的,服务端也能够立异对方的动态字典。必要小心的是,动态字典上下文有关,要求为每一种HTTP/贰 连接维护分歧的字典。

应用字典能够大幅度地升级压缩效果,个中静态字典在第二遍呼吁中就足以接纳。对于静态、动态字典中不存在的始末,还是可以够行使哈夫曼编码来减小体量。HTTP/2使用了1份静态哈夫曼码表(详见),也急需内置在客户端和服务端之中。

此地顺便说一下,HTTP/一 的动静行消息(Method、Path、Status 等),在
HTTP/第22中学被拆成键值对放入尾部(冒号开首的那2个),同样能够享受到字典和哈夫曼压缩。其余,HTTP/第22中学兼有尾部名称必须小写。

实现细节

询问了 HTTP/二 底部压缩的基本原理,最终大家来看一下现实的落到实处细节。HTTP/二的头顶键值对有以下这几个情状:

壹)整个尾部键值对都在字典中

JavaScript

0 1 2 3 4 5 6 7 +—+—+—+—+—+—+—+—+ | 1 | Index (7+) |
+—+—————————+

1
2
3
4
5
  0   1   2   3   4   5   6   7
+—+—+—+—+—+—+—+—+
| 1 |        Index (7+)         |
+—+—————————+
 

那是最简易的意况,使用贰个字节就足以代表那些底部了,最左一个人稳定为
一,之后八人存放键值对在静态或动态字典中的索引。例如下图中,底部索引值为
2(00000十),在静态字典中查询可得 :
method :GET

图片 8

二)底部名称在字典中,更新动态字典

JavaScript

0 1 2 3 4 5 6 7 +—+—+—+—+—+—+—+—+ | 0 | 1 | Index (6+) |
+—+—+———————–+ | H | Value Length (7+) |
+—+—————————+ | Value String (Length octets) |
+——————————-+

1
2
3
4
5
6
7
8
9
  0   1   2   3   4   5   6   7
+—+—+—+—+—+—+—+—+
| 0 | 1 |      Index (6+)       |
+—+—+———————–+
| H |     Value Length (7+)     |
+—+—————————+
| Value String (Length octets)  |
+——————————-+
 

对此那种状态,首先要求利用一个字节表示尾部名称:左两位稳定为
0一,之后陆人存放尾部名称在静态或动态字典中的索引。接下来的3个字节第一人H 表示底部值是不是采纳了哈夫曼编码,剩余五位代表底部值的长度 L,后续 L
个字节正是尾部值的具体内容了。例如下图中索引值为
32(一千00),在静态字典中查询可得  cookie ;底部值使用了哈夫曼编码(一),长度是
28(0011十0);接下去的 30个字节是 cookie 的值,将其进展哈夫曼解码就能获得具体内容。

图片 9

客户端或服务端看到那种格式的底部键值对,会将其添加到自个儿的动态字典中。后续传输那样的内容,就适合第二 种状态了。

三)尾部名称不在字典中,更新动态字典

JavaScript

0 1 2 3 4 5 6 7 +—+—+—+—+—+—+—+—+ | 0 | 1 | 0 |
+—+—+———————–+ | H | Name Length (7+) |
+—+—————————+ | Name String (Length octets) |
+—+—————————+ | H | Value Length (7+) |
+—+—————————+ | Value String (Length octets) |
+——————————-+

1
2
3
4
5
6
7
8
9
10
11
12
13
  0   1   2   3   4   5   6   7
+—+—+—+—+—+—+—+—+
| 0 | 1 |           0           |
+—+—+———————–+
| H |     Name Length (7+)      |
+—+—————————+
|  Name String (Length octets)  |
+—+—————————+
| H |     Value Length (7+)     |
+—+—————————+
| Value String (Length octets)  |
+——————————-+
 

那种景况与第 2种状态类似,只是由于底部名称不在字典中,所以率先个字节固定为
0一千000;接着声明名称是或不是使用哈夫曼编码及长度,并放上名称的具体内容;再申明值是还是不是采纳哈夫曼编码及长度,最终放上值的具体内容。例如下图中名称的尺寸是
5(0000拾一),值的长短是
6(0000110)。对其具体内容进行哈夫曼解码后,可得 pragma: no-cache 。

图片 10

客户端或服务端看到那种格式的尾部键值对,会将其添加到本身的动态字典中。后续传输那样的始末,就适合第二 种景况了。

四)尾部名称在字典中,不容许更新动态字典

JavaScript

0 1 2 3 4 5 6 7 +—+—+—+—+—+—+—+—+ | 0 | 0 | 0 | 1 |
Index (4+) | +—+—+———————–+ | H | Value Length (7+) |
+—+—————————+ | Value String (Length octets) |
+——————————-+

1
2
3
4
5
6
7
8
9
  0   1   2   3   4   5   6   7
+—+—+—+—+—+—+—+—+
| 0 | 0 | 0 | 1 |  Index (4+)   |
+—+—+———————–+
| H |     Value Length (7+)     |
+—+—————————+
| Value String (Length octets)  |
+——————————-+
 

那种情况与第 二 种状态十二分类似,唯一分化之处是:第3个字节左肆位稳定为
0001,只剩余三个人来存放索引了,如下图:

图片 11

那边供给介绍此外3个知识点:对整数的解码。上海体育场合中第二个字节为
00011111,并不意味尾部名称的目录为 壹伍(1111)。首个字节去掉固定的
0001,只剩二人可用,将位数用 N 表示,它不得不用来代表小于「二 ^ N – 一 =
15」的整数 I。对于 I,须要遵守以下规则求值(猎豹CS陆FC 75肆第11中学的伪代码,via):

Python

if I < 2 ^ N – 1, return I # I 小于 二 ^ N – 1 时,直接回到 else M =
0 repeat B = next octet # 让 B 等于下3个伍人 I = I + (B & 1二7) * 2 ^
M # I = I + (B 低七位 * 2 ^ M) M = M + 7 while B & 128 == 128 # B
最高位 = 1 时前赴后继,不然再次来到 I return I

1
2
3
4
5
6
7
8
9
if I < 2 ^ N – 1, return I         # I 小于 2 ^ N – 1 时,直接返回
else
    M = 0
    repeat
        B = next octet             # 让 B 等于下一个八位
        I = I + (B & 127) * 2 ^ M  # I = I + (B 低七位 * 2 ^ M)
        M = M + 7
    while B & 128 == 128           # B 最高位 = 1 时继续,否则返回 I
    return I

对此上海教室中的数据,根据那个规则算出索引值为 32(00011111 000一千一,壹5 +
一七),代表  cookie 。要求注意的是,协议中有所写成(N+)的数字,例如
Index (四+)、Name Length (柒+),都急需遵守这几个规则来编码和平消除码。

那种格式的头顶键值对,不允许被添加到动态字典中(但能够动用哈夫曼编码)。对于某些百般灵动的底部,比如用来注明的
Cookie,这么做能够增进安全性。

伍)底部名称不在字典中,分化意更新动态字典

JavaScript

0 1 2 3 4 5 6 7 +—+—+—+—+—+—+—+—+ | 0 | 0 | 0 | 1 | 0 |
+—+—+———————–+ | H | Name Length (7+) |
+—+—————————+ | Name String (Length octets) |
+—+—————————+ | H | Value Length (7+) |
+—+—————————+ | Value String (Length octets) |
+——————————-+

1
2
3
4
5
6
7
8
9
10
11
12
13
  0   1   2   3   4   5   6   7
+—+—+—+—+—+—+—+—+
| 0 | 0 | 0 | 1 |       0       |
+—+—+———————–+
| H |     Name Length (7+)      |
+—+—————————+
|  Name String (Length octets)  |
+—+—————————+
| H |     Value Length (7+)     |
+—+—————————+
| Value String (Length octets)  |
+——————————-+
 

那种情况与第 三 种情景杰出接近,唯一不一致之处是:第多个字节固定为
000一千0。那种状态相比少见,未有截图,各位可以脑补。同样,这种格式的底部键值对,也不容许被添加到动态字典中,只好动用哈夫曼编码来压缩体量。

实质上,协议中还分明了与 肆、5 非常接近的此外三种格式:将 四、5格式中的第一个字节第多人由 一 改为 0
即可。它表示「此番不更新动态词典」,而 四、5代表「相对不容许更新动态词典」。差别不是相当大,那里略过。

知情了底部压缩的技术细节,理论上能够很轻松写出 HTTP/2尾部解码工具了。作者比较懒,直接找来 node-http第22中学的 compressor.js 验证一下:

JavaScript

var Decompressor = require(‘./compressor’).Decompressor; var testLog =
require(‘bunyan’).createLogger({name: ‘test’}); var decompressor = new
Decompressor(testLog, ‘REQUEST’); var buffer = new
Buffer(‘820481634188353daded6ae43d3f877abdd07f66a281b0dae053fad0321aa49d13fda992a49685340c8a6adca7e28102e10fda9677b8d05707f6a62293a9d810020004015309ac2ca7f2c3415c1f53b0497ca589d34d1f43aeba0c41a4c7a98f33a69a3fdf9a68fa1d75d0620d263d4c79a68fbed00177febe58f9fbed00177b518b2d4b70ddf45abefb4005db901f1184ef034eff609cb60725034f48e1561c8469669f081678ae3eb3afba465f7cb234db9f4085aec1cd48ff86a8eb10649cbf’,
‘hex’); console.log(decompressor.decompress(buffer));
decompressor._table.forEach(function(row, index) { console.log(index +
1, row[0], row[1]); });

1
2
3
4
5
6
7
8
9
10
11
12
var Decompressor = require(‘./compressor’).Decompressor;
 
var testLog = require(‘bunyan’).createLogger({name: ‘test’});
var decompressor = new Decompressor(testLog, ‘REQUEST’);
 
var buffer = new Buffer(‘820481634188353daded6ae43d3f877abdd07f66a281b0dae053fad0321aa49d13fda992a49685340c8a6adca7e28102e10fda9677b8d05707f6a62293a9d810020004015309ac2ca7f2c3415c1f53b0497ca589d34d1f43aeba0c41a4c7a98f33a69a3fdf9a68fa1d75d0620d263d4c79a68fbed00177febe58f9fbed00177b518b2d4b70ddf45abefb4005db901f1184ef034eff609cb60725034f48e1561c8469669f081678ae3eb3afba465f7cb234db9f4085aec1cd48ff86a8eb10649cbf’, ‘hex’);
 
console.log(decompressor.decompress(buffer));
 
decompressor._table.forEach(function(row, index) {
    console.log(index + 1, row[0], row[1]);
});

底部原始数据出自于本文第壹张截图,运转结果如下(静态字典只截取了1部分):

{ ‘:method’: ‘GET’, ‘:path’: ‘/’, ‘:authority’: ‘imququ.com’, ‘:scheme’:
‘https’, ‘user-agent’: ‘Mozilla/5.0 (Macintosh; Intel Mac OS X 10.11;
rv:41.0) Gecko/20100101 Firefox/41.0’, accept:
‘text/html,application/xhtml+xml,application/xml;q=0.9,*/*;q=0.8’,
‘accept-language’: ‘en-US,en;q=0.5’, ‘accept-encoding’: ‘gzip, deflate’,
cookie: ‘v=47; u=6f048d6e-adc4-4910-8e69-797c399ed456’, pragma:
‘no-cache’ } 1 ‘:authority’ ” 2 ‘:method’ ‘GET’ 3 ‘:method’ ‘POST’ 4
‘:path’ ‘/’ 5 ‘:path’ ‘/index.html’ 6 ‘:scheme’ ‘http’ 7 ‘:scheme’
‘https’ 8 ‘:status’ ‘200’ … … 32 ‘cookie’ ” … … 60 ‘via’ ” 61
‘www-authenticate’ ” 62 ‘pragma’ ‘no-cache’ 63 ‘cookie’
‘u=6f048d6e-adc4-4910-8e69-797c399ed456’ 64 ‘accept-language’
‘en-US,en;q=0.5’ 65 ‘accept’
‘text/html,application/xhtml+xml,application/xml;q=0.9,*/*;q=0.8’ 66
‘user-agent’ ‘Mozilla/5.0 (Macintosh; Intel Mac OS X 10.11; rv:41.0)
Gecko/20100101 Firefox/41.0’ 67 ‘:authority’ ‘imququ.com’

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
{ ‘:method’: ‘GET’,
  ‘:path’: ‘/’,
  ‘:authority’: ‘imququ.com’,
  ‘:scheme’: ‘https’,
  ‘user-agent’: ‘Mozilla/5.0 (Macintosh; Intel Mac OS X 10.11; rv:41.0) Gecko/20100101 Firefox/41.0’,
  accept: ‘text/html,application/xhtml+xml,application/xml;q=0.9,*/*;q=0.8’,
  ‘accept-language’: ‘en-US,en;q=0.5’,
  ‘accept-encoding’: ‘gzip, deflate’,
  cookie: ‘v=47; u=6f048d6e-adc4-4910-8e69-797c399ed456’,
  pragma: ‘no-cache’ }
1 ‘:authority’ ”
2 ‘:method’ ‘GET’
3 ‘:method’ ‘POST’
4 ‘:path’ ‘/’
5 ‘:path’ ‘/index.html’
6 ‘:scheme’ ‘http’
7 ‘:scheme’ ‘https’
8 ‘:status’ ‘200’
… …
32 ‘cookie’ ”
… …
60 ‘via’ ”
61 ‘www-authenticate’ ”
62 ‘pragma’ ‘no-cache’
63 ‘cookie’ ‘u=6f048d6e-adc4-4910-8e69-797c399ed456’
64 ‘accept-language’ ‘en-US,en;q=0.5’
65 ‘accept’ ‘text/html,application/xhtml+xml,application/xml;q=0.9,*/*;q=0.8’
66 ‘user-agent’ ‘Mozilla/5.0 (Macintosh; Intel Mac OS X 10.11; rv:41.0) Gecko/20100101 Firefox/41.0’
67 ‘:authority’ ‘imququ.com’

能够看出,这段从 Wireshark
拷出来的头顶数据可以通常解码,动态字典也赢得了履新(6贰 – 陆柒)。

为什么要减小

在 HTTP/一 中,HTTP 请求和响应都以由「状态行、请求 /
响应底部、音信主体」叁有些组成。一般而言,消息主体都会透过 gzip
压缩,也许我传输的便是削减过后的贰进制文件(例如图片、音频),但情状行和尾部却尚未经过任何压缩,直接以纯文本传输。

趁着 Web 作用越发复杂,每种页面发生的央求数也越来越多,依据 HTTP
Archive

的总结,当前平均每种页面都会发生众两个请求。更加多的乞请导致消耗在头顶的流量愈来愈多,特别是每一遍都要传输
UserAgent、Cookie 那类不会一再转移的内容,完全是一种浪费。

以下是本身随手打开的1个页面包车型地铁抓包结果。能够看到,传输头部的网络开发超过十0kb,比 HTML 还多:

图片 12

上边是内部贰个请求的有心人。能够看出,为了赢得 58字节的数额,在头顶传输上海消防费了几许倍的流量:

图片 13

HTTP/1时期,为了削减头部消耗的流量,有不少优化方案得以尝尝,例如合并请求、启用
Cookie-Free
域名等等,但是这个方案或多或少会引进壹些新的标题,那里不展开研讨。

怎么要减小

在 HTTP/1 中,HTTP 请求和响应都以由「状态行、请求 /
响应头部、新闻主体」三有个别组成。壹般而言,新闻主体都会通过 gzip
压缩,可能自个儿传输的正是削减过后的二进制文件(例如图片、音频),但情况行和尾部却尚未经过任何压缩,直接以纯文本传输。

趁着 Web 功能尤其复杂,各种页面发生的伏乞数也进一步多,依据 HTTP
Archive
 的计算,当前平均各类页面都会产生很多少个请求。越多的乞请导致消耗在头顶的流量越来越多,特别是每回都要传输
UserAgent、Cookie 那类不会反复变更的始末,完全是1种浪费。

以下是本身随手打开的叁个页面包车型地铁抓包结果。可以看来,传输尾部的互连网支付超过十0kb,比 HTML 还多:

图片 14

上边是在那之中一个呼吁的绵密。能够看到,为了赢得 58字节的多少,在头顶传输上开支了少好几倍的流量:

图片 15

HTTP/一时期,为了减小底部消耗的流量,有诸多优化方案得以品味,例如合并请求、启用
Cookie-Free
域名等等,可是这么些方案或多或少会引进壹些新的题材,那里不展开探讨。

关于小编:JerryQu

图片 16

专注 Web 开发,关怀 Web
品质优化与石嘴山。https://imququ.com
个人主页
·
作者的小说
·
2
·
  

图片 17

技能原理

上面那张截图,取自 谷歌(Google) 的品质专家 Ilya Grigorik 在 Velocity 20一5 • SC
会议中分享的「HTTP/2 is here, let’s
optimize!
」,非凡直观地描述了
HTTP/二 中底部压缩的规律:

图片 18

自身再用浅显的语言表达下,底部压缩必要在支撑 HTTP/二 的浏览器和服务端之间:

静态字典的功效有四个:1)对于截然相称的头顶键值对,例如 :
method :GET
,能够平昔使用二个字符表示;二)对于底部名称可以同盟的键值对,例如 cookie :xxxxxxx,能够将名称使用2个字符表示。HTTP/2中的静态字典如下(以下只截取了有的,完整表格在这里):

Index Header Name Header Value
1 :authority
2 :method GET
3 :method POST
4 :path /
5 :path /index.html
6 :scheme http
7 :scheme https
8 :status 200
32 cookie
60 via
61 www-authenticate

而且,浏览器能够告知服务端,将 cookie :xxxxxxx 添加到动态字典中,那样持续一切键值对就能够动用3个字符表示了。类似的,服务端也能够立异对方的动态字典。须求注意的是,动态字典上下文有关,供给为各样HTTP/二 连接维护差别的字典。

选拔字典能够不小地升高压缩效果,当中静态字典在第3遍呼吁中就足以利用。对于静态、动态字典中不设有的内容,还足以选拔哈夫曼编码来减小体量。HTTP/2使用了1份静态哈夫曼码表(详见),也急需内置在客户端和服务端之中。

此间顺便说一下,HTTP/一 的景色行消息(Method、Path、Status 等),在
HTTP/第22中学被拆成键值对放入底部(冒号伊始的这一个),同样能够享用到字典和哈夫曼压缩。其余,HTTP/第22中学保有底部名称必须小写。

HTTP/二 底部压缩技术介绍

2016/04/13 · 基本功技术 ·
HTTP/2

正文我: 伯乐在线
JerryQu
。未经小编许可,禁止转发!
欢迎加入伯乐在线 专辑撰稿人

咱俩了然,HTTP/2 协议由五个 EvoqueFC 组成:一个是 RFC
7540
,描述了 HTTP/2协议自个儿;二个是 RFC
7541
,描述了 HTTP/二协议中利用的头顶压缩技术。本文将因而实际案例指点我们详细地认识 HTTP/2底部压缩那门技术。

总结

在实行 HTTP/2网址品质优化时很主要一点是「使用尽大概少的连接数」,本文提到的头顶压缩是个中二个很重大的原委:同1个连接上发出的呼吁和响应越多,动态字典积累得越全,底部压缩效果也就越好。所以,针对
HTTP/二 网址,最棒实践是绝不合并能源,不要散列域名。

暗中同意情状下,浏览器会针对那些景况使用同二个总是:

地点第三点不难驾驭,第3点则很容易被忽视。实际上 谷歌(Google)已经这么做了,谷歌(Google) 1层层网址都共用了同一个证书,能够这么表明:

$ openssl s_client -connect google.com:443 |openssl x509 -noout -text |
grep DNS depth=2 C = US, O = GeoTrust Inc., CN = GeoTrust Global CA
verify error:num=20:unable to get local issuer certificate verify
return:0 DNS:*.google.com, DNS:*.android.com,
DNS:*.appengine.google.com, DNS:*.cloud.google.com,
DNS:*.google-analytics.com, DNS:*.google.ca, DNS:*.google.cl,
DNS:*.google.co.in, DNS:*.google.co.jp, DNS:*.google.co.uk,
DNS:*.google.com.ar, DNS:*.google.com.au, DNS:*.google.com.br,
DNS:*.google.com.co, DNS:*.google.com.mx, DNS:*.google.com.tr,
DNS:*.google.com.vn, DNS:*.google.de, DNS:*.google.es,
DNS:*.google.fr, DNS:*.google.hu, DNS:*.google.it, DNS:*.google.nl,
DNS:*.google.pl, DNS:*.google.pt, DNS:*.googleadapis.com,
DNS:*.googleapis.cn, DNS:*.googlecommerce.com, DNS:*.googlevideo.com,
DNS:*.gstatic.cn, DNS:*.gstatic.com, DNS:*.gvt1.com, DNS:*.gvt2.com,
DNS:*.metric.gstatic.com, DNS:*.urchin.com, DNS:*.url.google.com,
DNS:*.youtube-nocookie.com, DNS:*.youtube.com,
DNS:*.youtubeeducation.com, DNS:*.ytimg.com, DNS:android.com,
DNS:g.co, DNS:goo.gl, DNS:google-analytics.com, DNS:google.com,
DNS:googlecommerce.com, DNS:urchin.com, DNS:youtu.be, DNS:youtube.com,
DNS:youtubeeducation.com

1
2
3
4
5
6
$ openssl s_client -connect google.com:443 |openssl x509 -noout -text | grep DNS
 
depth=2 C = US, O = GeoTrust Inc., CN = GeoTrust Global CA
verify error:num=20:unable to get local issuer certificate
verify return:0
                DNS:*.google.com, DNS:*.android.com, DNS:*.appengine.google.com, DNS:*.cloud.google.com, DNS:*.google-analytics.com, DNS:*.google.ca, DNS:*.google.cl, DNS:*.google.co.in, DNS:*.google.co.jp, DNS:*.google.co.uk, DNS:*.google.com.ar, DNS:*.google.com.au, DNS:*.google.com.br, DNS:*.google.com.co, DNS:*.google.com.mx, DNS:*.google.com.tr, DNS:*.google.com.vn, DNS:*.google.de, DNS:*.google.es, DNS:*.google.fr, DNS:*.google.hu, DNS:*.google.it, DNS:*.google.nl, DNS:*.google.pl, DNS:*.google.pt, DNS:*.googleadapis.com, DNS:*.googleapis.cn, DNS:*.googlecommerce.com, DNS:*.googlevideo.com, DNS:*.gstatic.cn, DNS:*.gstatic.com, DNS:*.gvt1.com, DNS:*.gvt2.com, DNS:*.metric.gstatic.com, DNS:*.urchin.com, DNS:*.url.google.com, DNS:*.youtube-nocookie.com, DNS:*.youtube.com, DNS:*.youtubeeducation.com, DNS:*.ytimg.com, DNS:android.com, DNS:g.co, DNS:goo.gl, DNS:google-analytics.com, DNS:google.com, DNS:googlecommerce.com, DNS:urchin.com, DNS:youtu.be, DNS:youtube.com, DNS:youtubeeducation.com

行使多域名加上同样的 IP 和证件安插 Web 服务有十分的意义:让援助 HTTP/2的巅峰只建立贰个连接,用上 HTTP/2 协议带来的各个利益;而只支持 HTTP/一.壹的极限则会树立几个接二连三,达到同时更加多并发请求的目标。这在 HTTP/2完全普及前也是三个没错的取舍。

1 赞 收藏
评论

图片 19

兑现细节

叩问了 HTTP/2 尾部压缩的基本原理,最终我们来看一下有血有肉的完毕细节。HTTP/贰的底部键值对有以下那么些意况:

1)整个底部键值对都在字典中

JavaScript

0 1 2 3 4 5 6 7 +—+—+—+—+—+—+—+—+ | 1 | Index (7+) |
+—+—————————+

1
2
3
4
5
  0   1   2   3   4   5   6   7
+—+—+—+—+—+—+—+—+
| 1 |        Index (7+)         |
+—+—————————+
 

那是最简便的场所,使用三个字节就可以代表这一个头部了,最左一个人稳定为
一,之后七个人存放键值对在静态或动态字典中的索引。例如下图中,尾部索引值为
2(00000十),在静态字典中查询可得 :method: GET

图片 20

二)底部名称在字典中,更新动态字典

JavaScript

0 1 2 3 4 5 6 7 +—+—+—+—+—+—+—+—+ | 0 | 1 | Index (6+) |
+—+—+———————–+ | H | Value Length (7+) |
+—+—————————+ | Value String (Length octets) |
+——————————-+

1
2
3
4
5
6
7
8
9
  0   1   2   3   4   5   6   7
+—+—+—+—+—+—+—+—+
| 0 | 1 |      Index (6+)       |
+—+—+———————–+
| H |     Value Length (7+)     |
+—+—————————+
| Value String (Length octets)  |
+——————————-+
 

对此那种状态,首先要求使用1个字节表示尾部名称:左两位稳定为
0壹,之后5人存放底部名称在静态或动态字典中的索引。接下来的一个字节第三人H 表示尾部值是还是不是选择了哈夫曼编码,剩余五个人代表头部值的长短 L,后续 L
个字节就是底部值的具体内容了。例如下图中索引值为
3二(一千00),在静态字典中询问可得
cookie;尾部值使用了哈夫曼编码(一),长度是 28(0011拾0);接下去的 310个字节是 cookie 的值,将其进行哈夫曼解码就能获得具体内容。

图片 21

客户端或服务端看到那种格式的头顶键值对,会将其添加到本人的动态字典中。后续传输那样的始末,就符合第三 种状态了。

三)尾部名称不在字典中,更新动态字典

JavaScript

0 1 2 3 4 5 6 7 +—+—+—+—+—+—+—+—+ | 0 | 1 | 0 |
+—+—+———————–+ | H | Name Length (7+) |
+—+—————————+ | Name String (Length octets) |
+—+—————————+ | H | Value Length (7+) |
+—+—————————+ | Value String (Length octets) |
+——————————-+

1
2
3
4
5
6
7
8
9
10
11
12
13
  0   1   2   3   4   5   6   7
+—+—+—+—+—+—+—+—+
| 0 | 1 |           0           |
+—+—+———————–+
| H |     Name Length (7+)      |
+—+—————————+
|  Name String (Length octets)  |
+—+—————————+
| H |     Value Length (7+)     |
+—+—————————+
| Value String (Length octets)  |
+——————————-+
 

这种景况与第 2种状态好像,只是出于头部名称不在字典中,所以首先个字节固定为
0一千000;接着声明名称是还是不是利用哈夫曼编码及长度,并放上名称的具体内容;再注脚值是不是选取哈夫曼编码及长度,末了放上值的具体内容。例如下图中名称的尺寸是
伍(000010一),值的长短是
六(0000110)。对其具体内容进行哈夫曼解码后,可得 pragma: no-cache

图片 22

客户端或服务端看到那种格式的尾部键值对,会将其添加到自身的动态字典中。后续传输那样的始末,就适合第二 种情状了。

4)头部名称在字典中,差别意更新动态字典

JavaScript

0 1 2 3 4 5 6 7 +—+—+—+—+—+—+—+—+ | 0 | 0 | 0 | 1 |
Index (4+) | +—+—+———————–+ | H | Value Length (7+) |
+—+—————————+ | Value String (Length octets) |
+——————————-+

1
2
3
4
5
6
7
8
9
  0   1   2   3   4   5   6   7
+—+—+—+—+—+—+—+—+
| 0 | 0 | 0 | 1 |  Index (4+)   |
+—+—+———————–+
| H |     Value Length (7+)     |
+—+—————————+
| Value String (Length octets)  |
+——————————-+
 

那种情景与第 二 种情景格外接近,唯1不一样之处是:第一个字节左3个人稳定为
0001,只剩余4人来存放在索引了,如下图:

图片 23

此处要求介绍此外三个知识点:对整数的解码。上海体育地方中第3个字节为
0001111一,并不意味尾部名称的目录为 一伍(111一)。第一个字节去掉固定的
000壹,只剩四人可用,将位数用 N 表示,它不得不用来表示小于「二 ^ N – 一 =
15」的平头 I。对于 I,须要依照以下规则求值(奥迪Q5FC 7541中的伪代码,via):

JavaScript

if I < 2 ^ N – 1, return I # I 小于 二 ^ N – 壹 时,直接回到 else M =
0 repeat B = next octet # 让 B 等于下三个五位 I = I + (B & 1贰七) *
2 ^ M # I = I + (B 低七位 * 2 ^ M) M = M + 7 while B & 128 == 128
# B 最高位 = 一 时此起彼伏,不然再次来到 I return I

1
2
3
4
5
6
7
8
9
10
if I &lt; 2 ^ N – 1, return I         # I 小于 2 ^ N – 1 时,直接返回
else
    M = 0
    repeat
        B = next octet             # 让 B 等于下一个八位
        I = I + (B &amp; 127) * 2 ^ M  # I = I + (B 低七位 * 2 ^ M)
        M = M + 7
    while B &amp; 128 == 128           # B 最高位 = 1 时继续,否则返回 I
    return I
 

对此上图中的数据,依照那一个规则算出索引值为 32(0001111壹 000一千1,①5 +
1七),代表 cookie。需求注意的是,协议中有所写成(N+)的数字,例如
Index (4+)、Name Length (7+),都急需服从那一个规则来编码和平消除码。

那种格式的头顶键值对,分化意被添加到动态字典中(但能够利用哈夫曼编码)。对于部分非常灵活的尾部,比如用来说明的
Cookie,这么做能够增强安全性。

五)尾部名称不在字典中,不容许更新动态字典

JavaScript

0 1 2 3 4 5 6 7 +—+—+—+—+—+—+—+—+ | 0 | 0 | 0 | 1 | 0 |
+—+—+———————–+ | H | Name Length (7+) |
+—+—————————+ | Name String (Length octets) |
+—+—————————+ | H | Value Length (7+) |
+—+—————————+ | Value String (Length octets) |
+——————————-+

1
2
3
4
5
6
7
8
9
10
11
12
13
  0   1   2   3   4   5   6   7
+—+—+—+—+—+—+—+—+
| 0 | 0 | 0 | 1 |       0       |
+—+—+———————–+
| H |     Name Length (7+)      |
+—+—————————+
|  Name String (Length octets)  |
+—+—————————+
| H |     Value Length (7+)     |
+—+—————————+
| Value String (Length octets)  |
+——————————-+
 

那种气象与第 三 种情状非常接近,唯一差别之处是:第2个字节固定为
000一千0。那种景况比较少见,未有截图,各位能够脑补。同样,那种格式的底部键值对,也分裂意被添加到动态字典中,只可以利用哈夫曼编码来压缩体量。

实际,协议中还规定了与 4、伍 分外类似的此外二种格式:将 4、5格式中的第2个字节第四位由 一 改为 0
即可。它代表「此番不立异动态词典」,而 四、伍代表「相对不允许更新动态词典」。区别不是非常大,那里略过。

明亮了尾部压缩的技术细节,理论上得以很自在写出 HTTP/2尾部解码工具了。笔者比较懒,直接找来 node-http二 中的
compressor.js
验证一下:

JavaScript

var Decompressor = require(‘./compressor’).Decompressor; var testLog =
require(‘bunyan’).createLogger({name: ‘test’}); var decompressor = new
Decompressor(testLog, ‘REQUEST’); var buffer = new
Buffer(‘820481634188353daded6ae43d3f877abdd07f66a281b0dae053fad0321aa49d13fda992a49685340c8a6adca7e28102e10fda9677b8d05707f6a62293a9d810020004015309ac2ca7f2c3415c1f53b0497ca589d34d1f43aeba0c41a4c7a98f33a69a3fdf9a68fa1d75d0620d263d4c79a68fbed00177febe58f9fbed00177b518b2d4b70ddf45abefb4005db901f1184ef034eff609cb60725034f48e1561c8469669f081678ae3eb3afba465f7cb234db9f4085aec1cd48ff86a8eb10649cbf’,
‘hex’); console.log(decompressor.decompress(buffer));
decompressor._table.forEach(function(row, index) { console.log(index +
1, row[0], row[1]); });

1
2
3
4
5
6
7
8
9
10
11
12
13
var Decompressor = require(‘./compressor’).Decompressor;
 
var testLog = require(‘bunyan’).createLogger({name: ‘test’});
var decompressor = new Decompressor(testLog, ‘REQUEST’);
 
var buffer = new Buffer(‘820481634188353daded6ae43d3f877abdd07f66a281b0dae053fad0321aa49d13fda992a49685340c8a6adca7e28102e10fda9677b8d05707f6a62293a9d810020004015309ac2ca7f2c3415c1f53b0497ca589d34d1f43aeba0c41a4c7a98f33a69a3fdf9a68fa1d75d0620d263d4c79a68fbed00177febe58f9fbed00177b518b2d4b70ddf45abefb4005db901f1184ef034eff609cb60725034f48e1561c8469669f081678ae3eb3afba465f7cb234db9f4085aec1cd48ff86a8eb10649cbf’, ‘hex’);
 
console.log(decompressor.decompress(buffer));
 
decompressor._table.forEach(function(row, index) {
    console.log(index + 1, row[0], row[1]);
});
 

尾部原始数据来源于于本文第壹张截图,运转结果如下(静态字典只截取了壹局地):

JavaScript

{ ‘:method’: ‘GET’, ‘:path’: ‘/’, ‘:authority’: ‘imququ.com’, ‘:scheme’:
‘https’, ‘user-agent’: ‘Mozilla/5.0 (Macintosh; Intel Mac OS X 10.11;
rv:41.0) Gecko/20100101 Firefox/41.0’, accept:
‘text/html,application/xhtml+xml,application/xml;q=0.9,*/*;q=0.8’,
‘accept-language’: ‘en-US,en;q=0.5’, ‘accept-encoding’: ‘gzip, deflate’,
cookie: ‘v=47; u=6f048d6e-adc4-4910-8e69-797c399ed456’, pragma:
‘no-cache’ } 1 ‘:authority’ ” 2 ‘:method’ ‘GET’ 3 ‘:method’ ‘POST’ 4
‘:path’ ‘/’ 5 ‘:path’ ‘/index.html’ 6 ‘:scheme’ ‘http’ 7 ‘:scheme’
‘https’ 8 ‘:status’ ‘200’ … … 32 ‘cookie’ ” … … 60 ‘via’ ” 61
‘www-authenticate’ ” 62 ‘pragma’ ‘no-cache’ 63 ‘cookie’
‘u=6f048d6e-adc4-4910-8e69-797c399ed456’ 64 ‘accept-language’
‘en-US,en;q=0.5’ 65 ‘accept’
‘text/html,application/xhtml+xml,application/xml;q=0.9,*/*;q=0.8’ 66
‘user-agent’ ‘Mozilla/5.0 (Macintosh; Intel Mac OS X 10.11; rv:41.0)
Gecko/20100101 Firefox/41.0’ 67 ‘:authority’ ‘imququ.com’

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
{ ‘:method’: ‘GET’,
  ‘:path’: ‘/’,
  ‘:authority’: ‘imququ.com’,
  ‘:scheme’: ‘https’,
  ‘user-agent’: ‘Mozilla/5.0 (Macintosh; Intel Mac OS X 10.11; rv:41.0) Gecko/20100101 Firefox/41.0’,
  accept: ‘text/html,application/xhtml+xml,application/xml;q=0.9,*/*;q=0.8’,
  ‘accept-language’: ‘en-US,en;q=0.5’,
  ‘accept-encoding’: ‘gzip, deflate’,
  cookie: ‘v=47; u=6f048d6e-adc4-4910-8e69-797c399ed456’,
  pragma: ‘no-cache’ }
1 ‘:authority’ ”
2 ‘:method’ ‘GET’
3 ‘:method’ ‘POST’
4 ‘:path’ ‘/’
5 ‘:path’ ‘/index.html’
6 ‘:scheme’ ‘http’
7 ‘:scheme’ ‘https’
8 ‘:status’ ‘200’
… …
32 ‘cookie’ ”
… …
60 ‘via’ ”
61 ‘www-authenticate’ ”
62 ‘pragma’ ‘no-cache’
63 ‘cookie’ ‘u=6f048d6e-adc4-4910-8e69-797c399ed456’
64 ‘accept-language’ ‘en-US,en;q=0.5’
65 ‘accept’ ‘text/html,application/xhtml+xml,application/xml;q=0.9,*/*;q=0.8’
66 ‘user-agent’ ‘Mozilla/5.0 (Macintosh; Intel Mac OS X 10.11; rv:41.0) Gecko/20100101 Firefox/41.0’
67 ‘:authority’ ‘imququ.com’
 

能够看来,那段从 Wireshark
拷出来的底部数据能够日常解码,动态字典也获取了翻新(62 – 6七)。

减去后的功力

接下去本身将动用访问本博客的抓包记录以来明 HTTP/贰底部压缩带来的变更。怎样利用 Wireshark 对 HTTPS
网址进行抓包并解密,请看作者的那篇小说

率先直接上海教室。下图选中的 Stream 是第贰遍访问本站,浏览器发出的呼吁头:

图片 24

从图片中得以看到这一个 HEADEHighlanderS 流的长度是 20六 个字节,而解码后的头顶长度有
451 个字节。同理可得,压缩后的头顶大小减少了50%多。

然而那正是任何啊?再上一张图。下图选中的 Stream
是点击本站链接后,浏览器发出的乞请头:

图片 25

能够看到那2回,HEADEGL450S 流的长度只有 4玖 个字节,不过解码后的尾委员长度却有
470 个字节。那3遍,压缩后的头顶大小大约唯有原来大小的 一成。

干什么前后三遍差别这么大啊?大家把五遍的尾部音讯实行,查看同一个字段一次传输所占据的字节数:

图片 26

图片 27

相比后能够发现,第一回的呼吁尾部之所以非常的小,是因为大多数键值对只占用了五个字节。越发是
UserAgent、库克ie
那样的头顶,第三回呼吁中必要占用很多字节,后续请求中都只供给二个字节。

相关文章

发表评论

电子邮件地址不会被公开。 必填项已用*标注

网站地图xml地图