分类: C/C++
2009-05-22 14:00:55
|
如果您对UTF-8、Unicode、GB2312等还是很陌生的话,请查看,我这里就不浪费口舌了。下面介绍一下WinAPI的两个函数:WideCharToMultiByte、MultiByteToWideChar。 函数原型: int WideCharToMultiByte( UINT CodePage, // code page DWORD dwFlags, // performance and mapping flags LPCWSTR lpWideCharStr, // wide-character string int cchWideChar, // number of chars in string LPSTR lpMultiByteStr, // buffer for new string int cbMultiByte, // size of buffer LPCSTR lpDefaultChar, // default for unmappable chars LPBOOL lpUsedDefaultChar // set when default char used ); //将宽字符转换成多个窄字符 int MultiByteToWideChar( UINT CodePage, // code page DWORD dwFlags, // character-type options LPCSTR lpMultiByteStr, // string to map int cbMultiByte, // number of bytes in string LPWSTR lpWideCharStr, // wide-character buffer int cchWideChar // size of buffer );//将多个窄字符转换成宽字符需要用到的一些函数: CString CXmlProcess::HexToBin(CString string)//将16进制数转换成2进制
{
if( string == "0") return "0000";
if( string == "1") return "0001";
if( string == "2") return "0010";
if( string == "3") return "0011";
if( string == "4") return "0100";
if( string == "5") return "0101";
if( string == "6") return "0110";
if( string == "7") return "0111";
if( string == "8") return "1000";
if( string == "9") return "1001";
if( string == "a") return "1010";
if( string == "b") return "1011";
if( string == "c") return "1100";
if( string == "d") return "1101";
if( string == "e") return "1110";
if( string == "f") return "1111";
return "";
}
CString CXmlProcess::BinToHex(CString BinString)//将2进制数转换成16进制
{
if( BinString == "0000") return "0";
if( BinString == "0001") return "1";
if( BinString == "0010") return "2";
if( BinString == "0011") return "3";
if( BinString == "0100") return "4";
if( BinString == "0101") return "5";
if( BinString == "0110") return "6";
if( BinString == "0111") return "7";
if( BinString == "1000") return "8";
if( BinString == "1001") return "9";
if( BinString == "1010") return "a";
if( BinString == "1011") return "b";
if( BinString == "1100") return "c";
if( BinString == "1101") return "d";
if( BinString == "1110") return "e";
if( BinString == "1111") return "f";
return "";
}
int CXmlProcess::BinToInt(CString string)//2进制字符数据转换成10进制整型
{
int len =0;
int tempInt = 0;
int strInt = 0;
for(int i =0 ;i < string.GetLength() ;i ++)
{
tempInt = 1;
strInt = (int)string.GetAt(i)-48;
for(int k =0 ;k < 7-i ; k++)
{
tempInt = 2*tempInt;
}
len += tempInt*strInt;
}
return len;
} UTF-8转换成GB2312先把UTF-8转换成Unicode.然后再把Unicode通过函数WideCharToMultiByte转换成GB2312 WCHAR* CXmlProcess::UTF_8ToUnicode(char *ustart) //把UTF-8转换成Unicode
{
char char_one;
char char_two;
char char_three;
int Hchar;
int Lchar;
char uchar[2];
WCHAR *unicode;
CString string_one;
CString string_two;
CString string_three;
CString combiString;
char_one = *ustart;
char_two = *(ustart+1);
char_three = *(ustart+2);
string_one.Format("%x",char_one);
string_two.Format("%x",char_two);
string_three.Format("%x",char_three);
string_three = string_three.Right(2);
string_two = string_two.Right(2);
string_one = string_one.Right(2);
string_three = HexToBin(string_three.Left(1))+HexToBin(string_three.Right(1));
string_two = HexToBin(string_two.Left(1))+HexToBin(string_two.Right(1));
string_one = HexToBin(string_one.Left(1))+HexToBin(string_one.Right(1));
combiString = string_one +string_two +string_three;
combiString = combiString.Right(20);
combiString.Delete(4,2);
combiString.Delete(10,2);
Hchar = BinToInt(combiString.Left(8));
Lchar = BinToInt(combiString.Right(8));
uchar[1] = (char)Hchar;
uchar[0] = (char)Lchar;
unicode = (WCHAR *)uchar;
return unicode;
}
char * CXmlProcess::UnicodeToGB2312(unsigned short uData) //把Unicode 转换成 GB2312
{
char *buffer ;
buffer = new char[sizeof(WCHAR)];
WideCharToMultiByte(CP_ACP,NULL,&uData,1,buffer,sizeof(WCHAR),NULL,NULL);
return buffer;
}
GB2312转换成UTF-8:先把GB2312通过函数MultiByteToWideChar转换成Unicode.然后再把Unicode通过拆开Unicode后拼装成UTF-8。 WCHAR * CXmlProcess::Gb2312ToUnicode(char *gbBuffer) //GB2312 转换成 Unicode
{
WCHAR *uniChar;
uniChar = new WCHAR[1];
::MultiByteToWideChar(CP_ACP,MB_PRECOMPOSED,gbBuffer,2,uniChar,1);
return uniChar;
}
char * CXmlProcess::UnicodeToUTF_8(WCHAR *UniChar) // Unicode 转换成UTF-8
{
char *buffer;
CString strOne;
CString strTwo;
CString strThree;
CString strFour;
CString strAnd;
buffer = new char[3];
int hInt,lInt;
hInt = (int)((*UniChar)/256);
lInt = (*UniChar)%256;
CString string ;
string.Format("%x",hInt);
strTwo = HexToBin(string.Right(1));
string = string.Left(string.GetLength() - 1);
strOne = HexToBin(string.Right(1));
string.Format("%x",lInt);
strFour = HexToBin(string.Right(1));
string = string.Left(string.GetLength() -1);
strThree = HexToBin(string.Right(1));
strAnd = strOne +strTwo + strThree + strFour;
strAnd.Insert(0,"1110");
strAnd.Insert(8,"10");
strAnd.Insert(16,"10");
strOne = strAnd.Left(8);
strAnd = strAnd.Right(16);
strTwo = strAnd.Left(8);
strThree = strAnd.Right(8);
*buffer = (char)BinToInt(strOne);
buffer[1] = (char)BinToInt(strTwo);
buffer[2] = (char)BinToInt(strThree);
return buffer;
} 例子:将GB2312转换成UTF-8的调用: char * CXmlProcess::translateCharToUTF_8(char *xmlStream, int len)
{
int newCharLen =0 ;
int oldCharLen = 0;
int revCharLen = len;
char* newCharBuffer;
char* finalCharBuffer;
char *buffer ;
CString string;
buffer = new char[sizeof(WCHAR)];
newCharBuffer = new char[int(1.5*revCharLen)];//设置最大的一个缓冲区
while(oldCharLen < revCharLen)
{
if( *(xmlStream + oldCharLen) >= 0)
{
*(newCharBuffer+newCharLen) = *(xmlStream +oldCharLen);
newCharLen ++;
oldCharLen ++;
}//如果是英文直接复制就可以
else
{
WCHAR *pbuffer = this->Gb2312ToUnicode(xmlStream+oldCharLen);
buffer = this->UnicodeToUTF_8(pbuffer);
*(newCharBuffer+newCharLen) = *buffer;
*(newCharBuffer +newCharLen +1) = *(buffer + 1);
*(newCharBuffer +newCharLen +2) = *(buffer + 2);
newCharLen += 3;
oldCharLen += 2;
}
}
newCharBuffer[newCharLen] = ''\0'';
CString string1 ;
string1.Format("%s",newCharBuffer);
finalCharBuffer = new char[newCharLen+1];
memcpy(finalCharBuffer,newCharBuffer,newCharLen+1);
return finalCharBuffer;
}
程序都非常的简单,由于实在太穷。已经吃了两天的方便面。所以现在头昏,程序的详细说明就不写了。程序员到了像我这样的地步也真是少见。工资低没有办法。哎!!!! |
搞笑,这种害人害己的文章还有这么多人访问。 作者光知道 WideCharToMultiByte 可以把 Unicode 转成 GB2312 就不知道也可以把 Unicode 转换为 UTF-8 吗? 其实这是一个很简单的程序,都被作者搞复杂了。 要实现 GB2312 (其实是GBK)转换为 UTF-8 其实很简单,先用 MultiByteToWideChar 把 GB2312 转换为 Unicode,再用 WideCharToMultiByte 把 Unicode 转换为 UTF-8 就可以了。 UTF- 8 转换为 GB2312 是个相反的过程,先用 MultiByteToWideChar 把 UTF-8 转换为 Unicode,再用 WideCharToMultiByte 把 Unicode 转换为 GB2312 就可以了。 ( 雁过留声 发表于 2007-1-11 9:11:00) 请作者检查一下, 如: "你是我的好朋友" 转换成了;"浣犳槸鎴戠殑濂芥i脲弸鍚?" 正确的应是: "浣犳槸鎴戠殑濂芥湅鍙嬪悧" 对于有的编码还能对... 交流一下:kudoo.aos@gmail.com ( kudoo 发表于 2006-8-20 19:46:00) buffersize = WideCharToMultiByte(CP_UTF8, MB_PRECOMPOSED, unicode, wide_size, NULL, 0, NULL, 0); buffer = new char[buffersize+1]; 但是,我在调试的时候发现:buffersize似乎已经预先留了‘\0’的位置,或者是不是我出错了 比如:“i love you,爱”GB2312是需要14个字节 UTF8是需要15个字节,返回时候就是这些了啊, 我的地址是:robin-fox@sohu.com, 谁能回答以下,感谢!! ( robin_fox_nan 发表于 2006-3-19 20:20:00) 原文请看 ( 鬼龙之舞 发表于 2005-8-25 16:13:00) 感谢楼主!! UTF8toUnicode proc uses esi edi lpszBuf_OUT,lpszUTF8_IN mov esi,lpszUTF8_IN mov edi,lpszBuf_OUT .while TRUE mov al,[esi] .if sbyte ptr al <0 mov al,[esi] and al,00001111b shl al,4 mov [edi+1],al mov al,[esi+1] and al,00111100b shr al,2 or [edi+1],al mov al,[esi+1] and al,11b shl al,6 mov [edi+0],al mov al,[esi+2] and al,00111111b or [edi+0],al add edi,2 add esi,3 .elseif al xor ah,ah stosw inc esi .else mov WORD ptr [edi],0 .break .endif .endw ret UTF8toUnicode endp ( 鬼龙之舞 发表于 2005-8-25 16:11:00) mov esi,lpszUTF8_IN mov edi,lpBuf_OUT .while TRUE mov ax,[esi] .if ax==0 stosw .break .elseif ah==0 add esi,2 stosw .else mov al,[esi+1] shr al,4 or al,11100000b mov [edi+0],al mov al,[esi+1] and al,00001111b shl al,2 or al,10000000b mov ah,[esi+0] shr ah,6 or al,ah mov [edi+1],al mov al,[esi+0] and al,00111111b or al,10000000b mov [edi+2],al add edi,3 add esi,2 .endif .endw ret UnicodetoUTF8 endp ( 鬼龙之舞 发表于 2005-8-25 16:11:00) UINT CodePage, // code page DWORD dwFlags, // performance and mapping flags LPCWSTR lpWideCharStr, // wide-character string int cchWideChar, // number of chars in string LPSTR lpMultiByteStr, // buffer for new string int cbMultiByte, // size of buffer LPCSTR lpDefaultChar, // default for unmappable chars LPBOOL lpUsedDefaultChar // set when default char used ); //将宽字符转换成多个窄字符 这些只是函数原型,并没有具体实现 ( zztop5384 发表于 2005-4-18 10:27:00) WCHAR* CXmlProcess::UTF_8ToUnicode(char *pText) { char uchar[2]; WCHAR *unicode; char_one = pText[0]; char_two = pText[1]); char_three = pText[2]; uchar[1] = ((pText[0] & 0x0F) << 4) + ((pText[1] >> 2) & 0x0F); uchar[0] = ((pText[1] & 0x03) << 6) + (pText[2] & 0x3F); unicode = (WCHAR *)uchar; return unicode; } ( Mycro 发表于 2005-4-9 3:40:00) WCHAR* CXmlProcess::UTF_8ToUnicode(char *pText) { char char_one; char char_two; char char_three; char uchar[2]; WCHAR *unicode; char_one = pText[0]; char_two = pText[1]); char_three = pText[2]; uchar[1] = ((char_one & 0x0F) << 4) + ((char_two >> 2) & 0x0F); uchar[0] = (char_two & 0x03) << 6 + (char_three & 0x3F); unicode = (WCHAR *)uchar; return unicode; } ( Mycro 发表于 2005-4-9 3:28:00) |
哇!兄弟身体要紧啊! (发表于2005-2-2 21:36:00) 有段时间也是天天吃,那东西吃多会有问题的。 (发表于2005-2-3 8:33:00) (发表于2005-2-3 9:14:00) (甚至还支持UTF-7——65000) 先使用代码页65001调用MultiByteToWideChar将UTF-8转为UTF-16LE(Windows中的Unicode字符串实际上是UTF-16LE) 再使用代码页936调用WideCharToMultiByte将UTF-16LE字符串转为GB2312字符串 CP_ACP是指系统代码页 只有在“中文(中国)”的时候 CP_ACP才等价与GB2312 所以在必需转成GB2312时必须写清楚936 从Windows98开始 代码页936不再指GB2312-1980 而是GBK——GB2312扩展 GBK的收录了2万多字,简体繁体都有(GB13000-1993的字汇范围) 现在最新的汉子标准是GB18030-2000 允许4字节编码的汉字 所以编码空间是260万 足够收录所有汉字 但是只有WindowsXP(及以上,如Windows Server 2003)才在内核上支持GB18030-2000(Win2000需要打补丁) GB18030-2000的代码页是54936 (发表于2005-2-3 9:31:00) 看过你的另一篇ftp断点续传的文章,学到了一些东西。 (发表于2005-2-3 10:20:00) 我截获网页数据包。可以通过这种办法将乱码转成汉字吗?? (发表于2005-2-3 13:24:00) char *buffer = NULL; int buffersize; buffersize = WideCharToMultiByte(CP_UTF8, MB_PRECOMPOSED, unicode, wide_size, NULL, 0, NULL, 0); buffer = new char[buffersize+1]; BOOL bUsedDefaultChar = FALSE; int sizeUTF = WideCharToMultiByte(CP_UTF8, MB_PRECOMPOSED, unicode, wide_size, buffer, buffersize+1, NULL, NULL); if (sizeUTF != 0) { buffer[sizeUTF] = 0; strUTF = buffer; bSuccess = true; } else { strUTF = _T(""); bSuccess = false; } delete[] unicode; delete[] buffer; delete[] byteArray; return bSuccess; } (发表于2005-2-6 17:19:00) { int nLength = strGB2312.GetLength(); bool bSuccess = false; if (nLength == 0) { strUTF = _T(""); return false; } int nByteLength = nLength + 1; char *byteArray = NULL; byteArray = new char[nByteLength]; if (byteArray == NULL) return false; strcpy(byteArray, (LPCTSTR)strGB2312); wchar_t *unicode = NULL; int uni_size; uni_size = MultiByteToWideChar(LANG_CP_GB2312, 0, byteArray, nLength, NULL, 0); unicode = new wchar_t[uni_size+1]; int wide_size = MultiByteToWideChar(LANG_CP_GB2312, 0, byteArray, nLength, unicode, uni_size+1); unicode[wide_size] = 0; if (wide_size == 0) { delete[] buffer; return false; } (发表于2005-2-6 17:19:00) 节来表示的,但是如果字符不属于ASCII字符集时,就用两至三个位来表示。 在 0x0001-0x007F之间的字符(传统的ASCII字符)用一个位来表示 0 | bits0-6 在 0x000以及在0x0080-0x07FF之间的字符使用下面来表示: 1 | 1 | 0 | bits 6-10 | 1 | 0 | bits 0-5 如果虚拟机看到这样的一个字符的话,虚拟机会把第一个字节最前头的110以及第二个字节的前头 的10拿掉把剩下的位重新组合成一个2字节的数位来表示字符: 00000 | bits 6-10 | bits 0-5 同理,0x0800 - 0xFFFF的字符表示: 1 | 1 | 1 | 0 | bits 12-15 | 1 | 0 | bits 6-11 | 1 | 0 | bits 0-5 也可以用同样的方法重新组合成一个两个字节的字符串来 特别需要注意的是kjava中的null字符也使用两个字节来表示而不是一个字节:) ******************************************************************************/ (发表于2005-2-6 17:21:00) 手机里面的字符串基本上都是采用的UTF-8的编码法。 而我们在PC机器上所采用的基本上都是ASCII和unicode编码法 ASCII编码法是单字节的编码方法,只能表示256个字符,英文字母是足够了 但是无法表示汉字 unicode是双字节的编码法,可以用来表示汉字,但是却对于一般的英文字母浪费了太多的空间 (至少面对于手机的存储是这样的)。 (发表于2005-2-6 17:21:00) 这里的UTF8编码方式,与Java的InputStream.WriteUTF()的编码方式一致。 由于评论只能贴1000个字,所以采取这种倒贴的方式,请见谅,大家合起来看吧 (发表于2005-2-6 17:23:00) (发表于2005-2-6 17:27:00) 我不想用XML4C来搞。。 (发表于2005-2-16 21:48:00) 否则文章与题目就不符了,UTF-8与GB2312之间的“互换” (发表于2005-2-18 10:48:00) LPSTR str = new char[14]; BYTE a[] = { 0x54, 0x65, 0x78, 0x74, 0xE5, 0x92, 0x8C, 0xE4, 0xB8, 0xAD, 0xE6, 0x96, 0x87 }; memset( str, 0, 14 ); memcpy( str, a, 13 ); CString strGB; /*可逆 // int n = (str[0]+256)*256+str[1]+256; // char c1,c2; // c1 = n/256 - 256; // c2 = n%256 - 256; // strGB.Format("%c%c", c1, c2 ); */ // LPSTR lpstr = new char[1024]; LPWSTR lp = new unsigned short[1024]; // for( int i=0; i<3;i++) // lp[i] = (str[i*2]+256)*256 + str[i*2+1]+256; // nLeft = strTemp.GetAt(0) + 256; // nRight = strTemp.GetAt(1) + 256; // nCode = ( nLeft<<8 ) + nRight; memset( lp, 0, 1024 ); // WideCharToMultiByte( CP_UTF8, 0, lp, 3, lpstr, 1024, NULL, NULL ); MultiByteToWideChar( CP_UTF8, 0, str, 100, lp, 1024); strGB.Empty(); for( int i= 0; i <100; i++ ) { char c1,c2; c1 = lp[i]/256-256; c2 = lp[i]%256-256; //strGB.Format("%c%c",c1,c2); strGB += c1 + c2; } (发表于2005-2-23 14:01:00) (发表于2005-3-3 9:52:00) { char * newCharBuffer = new char[len]; int index =0; int nCBIndex = 0; while(index < len) { if(xmlStream[index] > 0) // 如果是GB2312的字符 { newCharBuffer[nCBIndex] = xmlStream[index]; //直接复制 index += 1; //源字符串偏移量1 nCBIndex += 1; //目标字符串偏移量1 } else //如果是UTF-8的字符 { WCHAR * Wtemp = this->UTF_8ToUnicode(xmlStream + index); //先把UTF-8转成Unicode char * Ctemp = this->UnicodeToGB2312(*Wtemp);//再把Unicode 转成 GB2312 newCharBuffer[nCBIndex] = * Ctemp; // 复制 newCharBuffer[nCBIndex + 1] = *(Ctemp + 1); index += 3; //源字符串偏移量3 nCBIndex += 2; //目标字符串偏移量2 因为一个中文UTF-8占3个字节,GB2312占两个字节 } } newCharBuffer[nCBIndex] = 0; //结束符 return newCharBuffer; } (发表于2005-3-3 9:53:00) //将2进制数转换成16进制 static char* BinToHex(char pc); 可以这样写: int CChineseCodeLib::BinToInt(char *pBin) { int m_Dec = 0; int m_Len = strlen(pBin); for(int i =0 ;i < m_Len ;i ++) { m_Dec = (m_Dec << 1) + (pBin[i] - '0'); } return m_Dec; } (发表于2005-4-9 1:19:00) WCHAR* CXmlProcess::UTF_8ToUnicode(char *pText) { char char_one; char char_two; char char_three; char uchar[2]; WCHAR *unicode; char_one = pText[0]; char_two = pText[1]); char_three = pText[2]; uchar[1] = ((char_one & 0x0F) << 4) + ((char_two >> 2) & 0x0F); uchar[0] = (char_two & 0x03) << 6 + (char_three & 0x3F); unicode = (WCHAR *)uchar; return unicode; } (发表于2005-4-9 3:28:00) WCHAR* CXmlProcess::UTF_8ToUnicode(char *pText) { char uchar[2]; WCHAR *unicode; char_one = pText[0]; char_two = pText[1]); char_three = pText[2]; uchar[1] = ((pText[0] & 0x0F) << 4) + ((pText[1] >> 2) & 0x0F); uchar[0] = ((pText[1] & 0x03) << 6) + (pText[2] & 0x3F); unicode = (WCHAR *)uchar; return unicode; } (发表于2005-4-9 3:40:00) UINT CodePage, // code page DWORD dwFlags, // performance and mapping flags LPCWSTR lpWideCharStr, // wide-character string int cchWideChar, // number of chars in string LPSTR lpMultiByteStr, // buffer for new string int cbMultiByte, // size of buffer LPCSTR lpDefaultChar, // default for unmappable chars LPBOOL lpUsedDefaultChar // set when default char used ); //将宽字符转换成多个窄字符 这些只是函数原型,并没有具体实现 (发表于2005-4-18 10:27:00) (发表于2005-4-18 10:35:00) 感谢楼主!! UTF8toUnicode proc uses esi edi lpszBuf_OUT,lpszUTF8_IN mov esi,lpszUTF8_IN mov edi,lpszBuf_OUT .while TRUE mov al,[esi] .if sbyte ptr al <0 mov al,[esi] and al,00001111b shl al,4 mov [edi+1],al mov al,[esi+1] and al,00111100b shr al,2 or [edi+1],al mov al,[esi+1] and al,11b shl al,6 mov [edi+0],al mov al,[esi+2] and al,00111111b or [edi+0],al add edi,2 add esi,3 .elseif al xor ah,ah stosw inc esi .else mov WORD ptr [edi],0 .break .endif .endw ret UTF8toUnicode endp (发表于2005-8-25 16:11:00) mov esi,lpszUTF8_IN mov edi,lpBuf_OUT .while TRUE mov ax,[esi] .if ax==0 stosw .break .elseif ah==0 add esi,2 stosw .else mov al,[esi+1] shr al,4 or al,11100000b mov [edi+0],al mov al,[esi+1] and al,00001111b shl al,2 or al,10000000b mov ah,[esi+0] shr ah,6 or al,ah mov [edi+1],al mov al,[esi+0] and al,00111111b or al,10000000b mov [edi+2],al add edi,3 add esi,2 .endif .endw ret UnicodetoUTF8 endp (发表于2005-8-25 16:11:00) 原文请看 (发表于2005-8-25 16:13:00) buffersize = WideCharToMultiByte(CP_UTF8, MB_PRECOMPOSED, unicode, wide_size, NULL, 0, NULL, 0); buffer = new char[buffersize+1]; 但是,我在调试的时候发现:buffersize似乎已经预先留了‘\0’的位置,或者是不是我出错了 比如:“i love you,爱”GB2312是需要14个字节 UTF8是需要15个字节,返回时候就是这些了啊, 我的地址是:robin-fox@sohu.com, 谁能回答以下,感谢!! (发表于2006-3-19 20:20:00) 请作者检查一下, 如: "你是我的好朋友" 转换成了;"浣犳槸鎴戠殑濂芥i脲弸鍚?" 正确的应是: "浣犳槸鎴戠殑濂芥湅鍙嬪悧" 对于有的编码还能对... 交流一下:kudoo.aos@gmail.com (发表于2006-8-20 19:46:00) 搞笑,这种害人害己的文章还有这么多人访问。 作者光知道 WideCharToMultiByte 可以把 Unicode 转成 GB2312 就不知道也可以把 Unicode 转换为 UTF-8 吗? 其实这是一个很简单的程序,都被作者搞复杂了。 要实现 GB2312 (其实是GBK)转换为 UTF-8 其实很简单,先用 MultiByteToWideChar 把 GB2312 转换为 Unicode,再用 WideCharToMultiByte 把 Unicode 转换为 UTF-8 就可以了。 UTF-8 转换为 GB2312 是个相反的过程,先用 MultiByteToWideChar 把 UTF-8 转换为 Unicode,再用 WideCharToMultiByte 把 Unicode 转换为 GB2312 就可以了。 (发表于2007-1-11 9:11:00) |