Chinaunix首页 | 论坛 | 博客
  • 博客访问: 6643123
  • 博文数量: 915
  • 博客积分: 17977
  • 博客等级: 上将
  • 技术积分: 8846
  • 用 户 组: 普通用户
  • 注册时间: 2005-08-26 09:59
个人简介

一个好老好老的老程序员了。

文章分类

全部博文(915)

文章存档

2022年(9)

2021年(13)

2020年(10)

2019年(40)

2018年(88)

2017年(130)

2015年(5)

2014年(12)

2013年(41)

2012年(36)

2011年(272)

2010年(1)

2009年(53)

2008年(65)

2007年(47)

2006年(81)

2005年(12)

分类: Java

2011-08-25 10:52:22

在程序中,文本文件经常用来存储标准的ASCII码文本,比如英文、加减乘除等号这些运算符号。文本文件也可能用于存储一些其他非ASCII字符,如基于GBK的简体中文,基于BIG5的繁体中文等等。在存储这些字符时需要正确指定文件的编码格式;而在读取这些文本文件时,有时候就需要自动判定文件的编码格式。

按照给定的字符集存储文本文件时,在文件的最开头的三个字节中就有可能存储着编码信息,所以,基本的原理就是只要读出文件前三个字节,判定这些字节的值,就可以得知其编码的格式。其实,如果项目运行的平台就是中文操作系统,如果这些文本文件在项目内产生,即开发人员可以控制文本的编码格式,只要判定两种常见的编码就可以了:GBK和UTF-8。由于中文Windows默认的编码是GBK,所以一般只要判定UTF-8编码格式。

对于UTF-8编码格式的文本文件,其前3个字节的值就是-17、-69、-65,所以,判定是否是UTF-8编码格式的代码片段如下:

测试文件编码是否为UTF-8 

       File file = new File(path);

       InputStream ios = new java.io.FileInputStream(file);

       byte[] b = new byte[3];

       ios.read(b);

       ios.close();

       if (b[0] == -17 && b[1] == -69 && b[2] == -65)

           System.out.println(file.getName() + ":编码为UTF-8");

       else

           System.out.println(file.getName() + ":可能是GBK,也可能是其他编码。");



上述代码只是简单判定了是否是UTF-8格式编码的文本文件,如果项目对要判定的文本文件编码不可控(比如用户上传的一些HTML、XML等文本),可以采用一个现成的开源项目:cpdetector,它所在的网址是:。它的类库很小,只有500K左右,利用该类库判定文本文件的代码如下:

FileEncodeDetector

package cn.edu.cqu.tiger;



import info.monitorenter.cpdetector.io.ASCIIDetector;

import info.monitorenter.cpdetector.io.CodepageDetectorProxy;

import info.monitorenter.cpdetector.io.JChardetFacade;

import info.monitorenter.cpdetector.io.ParsingDetector;

import info.monitorenter.cpdetector.io.UnicodeDetector;



import java.io.BufferedReader;

import java.io.File;

import java.io.FileInputStream;

import java.io.FileNotFoundException;

import java.io.IOException;

import java.io.InputStream;

import java.io.InputStreamReader;



public class FileEncodeDetector {

    public static String getFileEncode(String path) {



       /*------------------------------------------------------------------------

         detector是探测器,它把探测任务交给具体的探测实现类的实例完成。

         cpDetector内置了一些常用的探测实现类,这些探测实现类的实例可以通过add方法

         加进来,如ParsingDetector、 JChardetFacade、ASCIIDetector、UnicodeDetector。  

         detector按照“谁最先返回非空的探测结果,就以该结果为准”的原则返回探测到的

         字符集编码。

          使用需要用到三个第三方JAR包:antlr.jar、chardet.jar和cpdetector.jar

          cpDetector是基于统计学原理的,不保证完全正确。

       --------------------------------------------------------------------------*/

       CodepageDetectorProxy detector = CodepageDetectorProxy.getInstance();

       /*-------------------------------------------------------------------------

         ParsingDetector可用于检查HTML、XML等文件或字符流的编码,构造方法中的参数用于

         指示是否显示探测过程的详细信息,为false不显示。

       ---------------------------------------------------------------------------*/

       detector.add(new ParsingDetector(false));

       /*--------------------------------------------------------------------------

         JChardetFacade封装了由Mozilla组织提供的JChardet,它可以完成大多数文件的编码

         测定。所以,一般有了这个探测器就可满足大多数项目的要求,如果你还不放心,可以

         再多加几个探测器,比如下面的ASCIIDetector、UnicodeDetector等。

        ---------------------------------------------------------------------------*/

       detector.add(JChardetFacade.getInstance());//用到antlr.jar、chardet.jar

       // ASCIIDetector用于ASCII编码测定

       detector.add(ASCIIDetector.getInstance());

       // UnicodeDetector用于Unicode家族编码的测定

       detector.add(UnicodeDetector.getInstance());

       java.nio.charset.Charset charset = null;

       File f = new File(path);

       try {

           charset = detector.detectCodepage(f.toURI().toURL());

       } catch (Exception ex) {

           ex.printStackTrace();

       }

       if (charset != null)

           return charset.name();

       else

           return null;

    }



    public static void main(String[] args) throws IOException,

           FileNotFoundException {

       String path = "J:\\Unicode\\ub.txt";

       //Windows下Unicode探测后得到Windows-1252

       String encode = getFileEncode(path);

       if("Windows-1252".equalsIgnoreCase(encode))

           encode = "Unicode";

       File file = new File(path);

       InputStream ios = new java.io.FileInputStream(file);

       byte[] b = new byte[3];

       ios.read(b);

       ios.close();

       if (b[0] == -17 && b[1] == -69 && b[2] == -65)//文件头

           System.out.println(file.getName() + ":编码为UTF-8");

       else

           System.out.println(file.getName() + ":可能是GBK,也可能是其他编码。");

       BufferedReader bufferedReader = new BufferedReader(

              new InputStreamReader(new FileInputStream(file), encode));

       System.out.println(encode);

       System.out.println(bufferedReader.readLine().substring(1));//去掉第一行中的文件头

    }

}

       上面代码中的detector不仅可以用于探测文件的编码,也可以探测任意输入的文本流的编码,方法是调用其重载形式:

charset=detector.detectCodepage(InputStream in, int length);

       上面的字节数由程序员指定,字节数越多,判定越准确,当然时间也花得越长。要注意,字节数的指定不能超过文本流的最大长度。

判定文件编码的具体应用举例:

属性文件(.properties)是Java程序中的常用文本存储方式,象STRUTS框架就是利用属性文件存储程序中的字符串资源。它的内容如下所示:

#注释语句  

属性名=属性值

       读入属性文件的一般方法是:

  FileInputStream ios=new FileInputStream("属性文件名");

  Properties prop=new Properties();

  prop.load(ios);

  ios.close();

       利用java.io.Properties的load方法读入属性文件虽然方便,但如果属性文件中有中文,在读入之后就会发现出现乱码现象。发生这个原因是load方法使用字节流读入文本,在读入后需要将字节流编码成为字符串,而它使用的编码是“iso-8859-1”,这个字符集是ASCII码字符集,不支持中文编码,所以这时需要使用显式的转码:

   String value=prop.getProperty("属性名");

   String encValue=new String(value.getBytes("iso-8859-1"),"属性文件的实际编码");

       在上面的代码中,属性文件的实际编码就可以利用上面的方法获得。当然,象这种属性文件是项目内部的,我们可以控制属性文件的编码格式,比如约定采用Windows内定的GBK,就直接利用"gbk"来转码,如果约定采用UTF-8,也可以是使用"UTF-8"直接转码。如果想灵活一些,做到自动探测编码,就可利用上面介绍的方法测定属性文件的编码,从而方便开发人员的工作。

可以用下面代码获得Java支持编码集合:

Charset.availableCharsets().keySet();

       可以用下面的代码获得系统默认编码:

Charset.defaultCharset();
阅读(2557) | 评论(1) | 转发(0) |
给主人留下些什么吧!~~

renxiao20032011-08-25 10:56:38

package net;

import info.monitorenter.cpdetector.io.CodepageDetectorProxy;
import info.monitorenter.cpdetector.io.JChardetFacade;

import java.io.BufferedReader;
import java.io.File;
import java.io.FileReader;
import java.io.FileWriter;
import java.io.IOException;
import java.nio.charset.Charset;

public class CharacterEnding {

    public static String getFileCharacterEnding(String fileP