Chinaunix首页 | 论坛 | 博客
  • 博客访问: 7484991
  • 博文数量: 368
  • 博客积分: 9600
  • 博客等级: 上校
  • 技术积分: 18875
  • 用 户 组: 普通用户
  • 注册时间: 2009-01-01 00:00
文章分类

全部博文(368)

文章存档

2017年(9)

2016年(19)

2015年(3)

2014年(6)

2013年(8)

2012年(78)

2011年(66)

2010年(135)

2009年(44)

分类: LINUX

2012-10-23 14:42:53

今天在测试lwp模块的时候,发现读取的网站内容含有中文的输出后都是乱码,于是学习了一下perlEncode模块,写一下总结,做个备忘,也希望能对其他的朋友有帮助!

    先来学习一下perl中编码的基础知识:在Perl看来, 字符串只有两种形式。一种是octets, 8位序列, 也就是我们通常说的字节数组。另一种utf8编码的字符串, perl管它叫string。 也就是说: Perl只认识两种编码: Ascii(octets)utf8(string)

那么perl如何确定一个字符串是octets还是utf8编码的字符串呢? perl可没有什么智能, 他完全是靠字符串上的utf8 flag. perl内部, 字符串结构由两部分组成: 数据和utf8 flag.如果utf8 flagOn的话, perl就会把它当成utf8字符串来处理, 如果utf8 flagOff, perl就会把它当成octets来处理. 所有字符串相关的函数包括正则表达式都会受utf8 flag的影响.

那么确定一个字符串的utf8 flag是否已开启? 使用Encode::is_utf8($str). 这个函数并不是用来检测一个字符串是不是utf8编码, 而是仅仅看看它的utf8 flag是否开启.

一、  字符串读入乱码

读入的内容乱码有两种情形:

1.   字符串本来不是utf8编码的, 应该先把它转成utf8编码, 并且使它的utf8 flag处于开启状态. 比如下面将gbk转换成utf8编码。


点击(此处)折叠或打开

  1. my $out=decode("gbk",$str);

这里拿我们lwp为例子,原来baidu.com的编码为gbk,转换成utf8后就不乱码了。代码如下:


点击(此处)折叠或打开

  1. my $url='';

  2. my $content=get $url;

  3. die "Couldn't get $url" unless defined $content;

  4. my $out=decode("gbk",$content);

  5. print $out,"\n";

2.   字符串编码本来就是utf8, 只是utf8 flag没有打开, 那么你可以使用以下方式中的任一种来开启utf8 flag


点击(此处)折叠或打开

  1. $str = Encode::decode_utf8($str);

  2. $str = Encode::decode("utf8", $str);

二、  字符串输出乱码

字符串在程序内被正确地处理后, 要展现给用户. 这时我们需要把字符串从perl internal form转化成用户能接受的形式. 简单地说, 就是把字符串从utf8编码转换成输出的编码或表现界面的编码. 这时候, 我们使用如下代码来将utf8的编码转换成其他的编码:


点击(此处)折叠或打开

  1. $str = Encode::encode('charset', $str);

参考:
阅读(25440) | 评论(0) | 转发(2) |
给主人留下些什么吧!~~