• 欢迎访问挑战自我博客网站,安全研究,web渗透,推荐使用最新版火狐浏览器和Chrome浏览器访问本网站,欢迎加入挑战自我博客网站 网站主页

解决python UnicodeEncodeError

python 挑战自我 1068次浏览 已收录 0个评论

解决python UnicodeEncodeError:’gbk’codec can’t encode character ‘\xXX’ in position XX

事件起因

从网上抓了一些字节流,想打印出来结果发生了一下错误:

UnicodeEncodeError: ‘gbk’ codec can’t encode character ‘\xbb’ in position 8530: illegal multibyte sequence

代码

import urllib.request
res=urllib.request.urlopen('http://www.baidu.com')
htmlBytes=res.read()
print(htmlBytes.decode('utf-8'))

错误信息让人很困惑,为什么用的是’utf-8’解码,错误信息却提示’gbk’错误呢?不仅如此,从百度首页的html中发现以下代码:

<meta http-equiv="content-type" content="text/html;charset=utf-8">

这说明网页的确用的是utf-8,为什么会出现Error呢?

事件的解决过程

1.字符就是unicode字符,字符串就是unicode字符数组

如果用以下代码测试,

print('a'=='\u0061')

会发现结果为True,足以说明两者的等价关系。

2.str转bytes叫encode,bytes转str叫decode

如上面的代码就是将抓到的字节流给decode成unicode数组,根据上面的错误信息分析了字节流中出现\xbb的地方,发现有个\xc2\xbb的特殊字符»,怀疑是它无法被解码。用以下代码测试后,果然报错了:UnicodeEncodeError: ‘gbk’ codec can’t encode character ‘\xbb’ in position 0: illegal multibyte sequence

print(b'\xc2\xbb'.decode('utf-8'))

3、解决print函数的自身限制

上网找了下utf-8编码表,发现的确特殊字符»的utf-8形式就是c2bb,unicode是’\u00bb’,为什么无法解码呢?仔细看看错误信息,它提示’gbk’无法encode,但是我的代码是utf-8无法decode,压根牛头不对马嘴,终于让我怀疑是print函数出错了,于是立即有了以下的测试:

print('\u00bb')

结果报错了:UnicodeEncodeError: ‘gbk’ codec can’t encode character ‘\xbb’ in position 0: illegal multibyte sequence

原来是print()函数自身有限制,不能完全打印所有的unicode字符。知道原因后,google了一下解决方法,其实print()函数的局限就是Python默认编码的局限,因为系统是win7的,python的默认编码不是’utf-8′,改一下python的默认编码成’utf-8’就行了

import io
import sys
import urllib.request
sys.stdout = io.TextIOWrapper(sys.stdout.buffer,encoding='utf8') #改变标准输出的默认编码
res=urllib.request.urlopen('http://www.baidu.com')
htmlBytes=res.read()
print(htmlBytes.decode('utf-8'))

4、cmd下编码输出的兼容性问题

运行后不报错了,但是居然有好多乱码(英文显示正常,中文则显示乱码)!!又一阵折腾后发现是控制台的问题,具体来说就是我在cmd下运行该脚本会有乱码,而在IDLE下运行却很正常。由此推测是cmd不能很好地兼容utf8,而IDLE就可以,甚至在IDLE下运行,连“改变标准输出的默认编码”都不用,因为它默认就是utf8。如果一定要在cmd下运行,那就做一下编码转化:

("请设置你的密码:").decode('utf-8').encode('gbk')

5、语言编码对照

utf8 所有语言

gbk 简体中文

gb2312 简体中文

gb18030 简体中文

big5 繁体中文

big5hkscs 繁体中文


挑战自我博客, 版权所有丨如未注明 , 均为原创丨本网站采用BY-NC-SA协议进行授权 , 转载请注明解决python UnicodeEncodeError
喜欢 (17)
支付宝[]
分享 (0)
发表我的评论
取消评论
表情 贴图 加粗 删除线 居中 斜体 签到

Hi,您需要填写昵称和邮箱!

  • 昵称 (必填)
  • 邮箱 (必填)
  • 网址