非ascii字符到要编码之后（[踩坑]url传参+变空格）

本文目录

• [踩坑]url传参+变空格
• PHP的字符编码17符号代替问题，怎么解决

[踩坑]url传参+变空格

开发过程中遇到一个问题，就是在用GET方法请求接口的时候，传入的参数值中，+号会被转化为空格，传给后台。传入的参数是:"aaa++++bbb--@%&"，被url编码和解码后，传入后台就变成了截图所示。加号全部被转为空格。截图的请求方式之所以展示为post，是因为前端做了接口拦截设置，把所有的GET请求转为了POST请求。 后来把请求方式改为post，content-type设置为xxx-form-urlencoded，+号依然被转化为空格传给了后台，如下方截图所示刚开始以为只是content-type:xxx-form-urlencoded导致的。 后来在chrome的url搜索栏输入www.baidu.com/aa+bb?cc=e+f然后按enter键看了下接口请求，如下图最终的解决方案是:后台修改了传参类型，前台用POST，改为JSON传参。 后面查了一些资料。以下是查询所得: 对于Url来说，之所以要进行编码，是因为Url中有些字符会引起歧义。例如，Url参数字符串中使用key=value键值对这样的形式来传参，键值对之间以&符号分隔，如/s?q=abc&ie=utf-8。如果你的value字符串中包含了=或者&，那么势必会造成接收Url的服务器解析错误，因此必须将引起歧义的&和=符号进行转义，也就是对其进行编码。 又如，Url的编码格式采用的是ASCII码，而不是Unicode，这也就是说你不能在Url中包含任何非ASCII字符，例如中文。否则如果客户端浏览器和服务端浏览器支持的字符集不同的情况下，中文可能会造成问题。Url编码的原则就是使用安全的字符（没有特殊用途或者特殊意义的可打印字符）去表示那些不安全的字符。 哪些字符需要编码?RFC3986文档规定，Url中只允许包含英文字母（a-zA-Z）、数字（0-9）、-_.~4个特殊字符以及所有保留字符。RFC3986文档对Url的编解码问题做出了详细的建议，指出了哪些字符需要被编码才不会引起Url语义的转变，以及对为什么这些字符需要编码做出了相应的解释。US-ASCII字符集中没有对应的可打印字符：Url中只允许使用可打印字符。US-ASCII码中的10-7F字节全都表示控制字符，这些字符都不能直接出现在Url中。同时，对于80-FF字节（ISO-8859-1），由于已经超出了US-ACII定义的字节范围，因此也不可以放在Url中。保留字符：Url可以划分成若干个组件，协议、主机、路径等。有一些字符（:/?#@）是用作分隔不同组件的。例如：冒号用于分隔协议和主机，/用于分隔主机和路径，?用于分隔路径和查询参数，等等。还有一些字符（!$&’()*+,;=）用于在每个组件中起到分隔作用的，如=用于表示查询参数中的键值对，&符号用于分隔查询多个键值对。当组件中的普通数据包含这些特殊字符时，需要对其进行编码。RFC3986中指定了以下字符为保留字符：! * ’ ( ) ; : @ & = + $ , / ? # 注意：大多数人不知道"+"在路径部分是被允许的并且特指正号而不是空格。其他类似的有： "?"在查询部分允许不被转义， "/"在查询部分允许不被转义， "="在作为路径参数或者查询参数值以及在路径部分允许不被转义， ":@-._~!$&’()*+,;="等字符在路径部分允许不被转义， "/?:@-._~!$&’()*+,;="等字符在任何段中允许不被转义。(验证过’作为查询参数还是会被编码) 不安全字符：还有一些字符，当他们直接放在Url中的时候，可能会引起解析程序的歧义。这些字符被视为不安全字符，原因有很多。空格：Url在传输的过程，或者用户在排版的过程，或者文本处理程序在处理Url的过程，都有可能引入无关紧要的空格，或者将那些有意义的空格给去掉。 引号以及《》：引号和尖括号通常用于在普通文本中起到分隔Url的作用 #：通常用于表示书签或者锚点 %：百分号本身用作对不安全字符进行编码时使用的特殊字符，因此本身需要编码 {}|\^`~：某一些网关或者传输代理会篡改这些字符 需要注意的是，对于Url中的合法字符，编码和不编码是等价的，但是对于上面提到的这些字符，如果不经过编码，那么它们有可能会造成Url语义的不同。 因此对于Url而言，只有普通英文字符和数字，特殊字符$-_.+!*’()还有保留字符，才能出现在未经编码的Url之中。其他字符均需要经过编码之后才能出现在Url中。但是由于历史原因，目前尚存在一些不标准的编码实现。例如对于~符号，虽然RFC3986文档规定，对于波浪符号~，不需要进行Url编码，但是还是有很多老的网关或者传输代理会进行编码。如何对Url中的非法字符进行编码? ***隐藏网址***对于非ASCII字符，需要使用ASCII字符集的超集进行编码得到相应的字节，然后对每个字节执行百分号编码。对于Unicode字符，RFC文档建议使用utf-8对其进行编码得到相应的字节，然后对每个字节执行百分号编码。如"中文"使用UTF-8字符集得到的字节为0xE4 0xB8 0xAD 0xE6 0x96 0x87，经过Url编码之后得到"%E4%B8%AD%E6%96%87"。如果某个字节对应着ASCII字符集中的某个非保留字符，则此字节无需使用百分号表示。例如"Url编码"，使用UTF-8编码得到的字节是0x55 0x72 0x6C 0xE7 0xBC 0x96 0xE7 0xA0 0x81，由于前三个字节对应着ASCII中的非保留字符"Url"，因此这三个字节可以用非保留字符"Url"表示。最终的Url编码可以简化成"Url%E7%BC%96%E7%A0%81" ，当然，如果你用"%55%72%6C%E7%BC%96%E7%A0%81"也是可以的。由于历史的原因，有一些Url编码实现并不完全遵循这样的原则，下面会提到。Javascript中的escape, encodeURI和encodeURIComponent的区别 JavaScript中提供了3对函数用来对Url编码以得到合法的Url，它们分别是escape / unescape, encodeURI / decodeURI和encodeURIComponent / decodeURIComponent。由于解码和编码的过程是可逆的，因此这里只解释编码的过程。这三个编码的函数——escape，encodeURI，encodeURIComponent——都是用于将不安全不合法的Url字符转换为合法的Url字符表示，它们有以下几个不同点。安全字符不同：下面列出了这三个函数的安全字符（即函数不会对这些字符进行编码）escape（69个）：*/@+-._0-9a-zA-Z encodeURI（82个）：!#$&’()*+,/:;=?@-._~0-9a-zA-Z encodeURIComponent（71个）：!’()*-._~0-9a-zA-Z 兼容性不同：escape函数是从Javascript 1.0的时候就存在了，其他两个函数是在Javascript 1.5才引入的。但是由于Javascript 1.5已经非常普及了，所以实际上使用encodeURI和encodeURIComponent并不会有什么兼容性问题。对Unicode字符的编码方式不同：这三个函数对于ASCII字符的编码方式相同，均是使用百分号+两位十六进制字符来表示。但是对于Unicode字符，escape的编码方式是%uxxxx，其中的xxxx是用来表示unicode字符的4位十六进制字符。这种方式已经被W3C废弃了。但是在ECMA-262标准中仍然保留着escape的这种编码语法。encodeURI和encodeURIComponent则使用UTF-8对非ASCII字符进行编码，然后再进行百分号编码。这是RFC推荐的。因此建议尽可能的使用这两个函数替代escape进行编码。适用场合不同：encodeURI被用作对一个完整的URI进行编码，而encodeURIComponent被用作对URI的一个组件进行编码。从上面提到的安全字符范围表格来看，我们会发现，encodeURIComponent编码的字符范围要比encodeURI的大。我们上面提到过，保留字符一般是用来分隔URI组件（一个URI可以被切割成多个组件）或者子组件（如URI中查询参数的分隔符），如：号用于分隔scheme和主机，?号用于分隔主机和路径。由于encodeURI操纵的对象是一个完整的的URI，这些字符在URI中本来就有特殊用途，因此这些保留字符不会被encodeURI编码，否则意义就变了。组件内部有自己的数据表示格式，但是这些数据内部不能包含有分隔组件的保留字符，否则就会导致整个URI中组件的分隔混乱。因此对于单个组件使用encodeURIComponent，需要编码的字符就更多了。表单提交 当Html的表单被提交时，每个表单域都会被Url编码之后才在被发送。由于历史的原因，表单使用的Url编码实现并不符合最新的标准。例如对于空格使用的编码并不是%20，而是+号，如果表单使用的是Post方法提交的，我们可以在HTTP头中看到有一个Content-Type的header，值为application/x-www-form-urlencoded。 还有，对于非ASCII字符，使用的编码字符集取决于当前文档使用的字符集。例如我们在Html头部加上***隐藏网址*** 这样浏览器就会使用gb2312去渲染此文档（注意，当HTML文档中没有设置此meta标签，则浏览器会根据当前用户喜好去自动选择字符集，用户也可以强制当前网站使用某个指定的字符集）。当提交表单时，Url编码使用的字符集就是gb2312。 对于包含中文的Url的处理问题，不同浏览器有不同的表现。例如对于IE，如果你勾选了高级设置"总是以UTF-8发送Url"，那么Url中的路径部分的中文会使用UTF-8进行Url编码之后发送给服务端，而查询参数中的中文部分使用系统默认字符集进行Url编码。为了保证最大互操作性，建议所有放到Url中的组件全部显式指定某个字符集进行Url编码，而不依赖于浏览器的默认实现。另外，很多HTTP监视工具或者浏览器地址栏等在显示Url的时候会自动将Url进行一次解码（使用UTF-8字符集），这就是为什么当你在Firefox中访问Google搜索中文的时候，地址栏显示的Url包含中文的缘故。但实际上发送给服务端的原始Url还是经过编码的。你可以在地址栏上使用Javascript访问location.href就可以看出来了。在研究Url编解码的时候千万别被这些假象给迷惑了。

PHP的字符编码17符号代替问题，怎么解决

近日，公司的论坛管理员发了一个帖子链接给我，说标题修改以后和实际的显示不一样。我打开之后发现，原始标题为：“手贱洗包浆，洗洗更健康”，但在title显示成了 “手贱洗包浆，洗洗更降”。于是乎，在本地测试环境下进行了测试未发现异常，服务器上对其它帖子也进行了保存也为发现问题。看来需要跟踪一下源代码了，发现上面的标题在执行了一下代码之后发生了变化：1 $thread); 2 $thread); 至此，可以肯定问题出在了这里，然而到底是什么问题导致的呢，初步考虑是1，服务器环境有问题2，编码处理不一致经过多个服务器环境测试后，发现问题依旧，可以排除服务器因素。之后测试编码处理，先将要替换的字符和查询的字符串转成UTF-8编码，之后进行替换测试发现问题不存在了。于是修正上面的代码为：1 $rep1 = iconv(’GBK’, ’UTF-8’, "【"); 2 $rep2 = iconv(’GBK’, ’UTF-8’, "】"); 3 $thread); 4 $thread); 5 $thread); 解决问题。终极问题分析：由于计算机是基于二进制代码运行的，因此php在执行替换的时候也是将非ASCII字符转成了ASCII编码之后进行查找替换，使用十六进制工具查看这些字符的二进制情况，结果如下：【 的十六进制为 A1 BE】 的十六进制为 A1 BF健康的十六进制为 BD A1 BF B5降的十六进制为 BD B5通过以上的十六进制数据不难发现，健康的ASCII码里面正好存在】的ASCII码，于是被替换，留下了降的ASCII码。由此可知，在字符串查找替换的时候，如果是非ASCII编码字符串很容易出现这种问题，通过转码到UTF8或者Unicode编码能否彻底的解决此问题还有待考证！