国产探花免费观看_亚洲丰满少妇自慰呻吟_97日韩有码在线_资源在线日韩欧美_一区二区精品毛片,辰东完美世界有声小说,欢乐颂第一季,yy玄幻小说排行榜完本

首頁 > 學院 > 開發設計 > 正文

Unicode與UTF-8轉換

2019-11-08 20:23:26
字體:
來源:轉載
供稿:網友

通過這幾天的研究,終于明白了Unicode和UTF-8之間編碼的區別。Unicode是一個字符集,而UTF-8是Unicode的其中一種,Unicode是定長的都為雙字節,而UTF-8是可變的,對于漢字來說Unicode占有的字節比UTF-8占用的字節少1個字節。Unicode為雙字節,而UTF-8中漢字占三個字節。

   UTF-8編碼字符理論上可以最多到6個字節長,然而16位BMP(BasicMultilingual Plane)字符最多只用到3字節長。下面看一下UTF-8編碼表:      U-00000000 - U-0000007F:0xxxxxxx       U-00000080 -U-000007FF: 110xxxxx 10xxxxxx       U-00000800 -U-0000FFFF: 1110xxxx 10xxxxxx 10xxxxxx       U-00010000 -U-001FFFFF: 11110xxx 10xxxxxx 10xxxxxx 10xxxxxx       U-00200000 -U-03FFFFFF: 111110xx 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx       U-04000000 -U-7FFFFFFF: 1111110x 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx10xxxxxx

    xxx的位置由字符編碼數的二進制表示的位填入, 越靠右的 x 具有越少的特殊意義,只用最短的那個足夠表達一個字符編碼數的多字節串。注意在多字節串中,第一個字節的開頭"1"的數目就是整個串中字節的數目。而第一行中以0開頭,是為了兼容ASCII編碼,為一個字節,第二行就為雙字節字符串,第三行為3字節,如漢字就屬于這種,以此類推。(個人認為:其實我們可以簡單的把前面的1的個數看成字節數)

為了要將Unicode轉換為UTF-8,當然要知道他們的區別到底在什么地方。下面來看一下,在Unicode中的編碼是怎樣轉換成UTF-8的,在UTF-8中,如果一個字符的字節小于0x80(128)則為ASCII字符,占一個字節,可以不用轉換,因為UTF-8兼容ASCII編碼。假如在Unicode中漢字“你”的編碼為“u4F60”,把它轉換為二進制為100111101100000,然后按照UTF-8的方法進行轉換。可以將Unicode二進制從地位往高位取出二進制數字,每次取6位,如上述的二進制就可以分別取出為如下所示的格式,前面按格式填補,不足8位用0填補。

           unicode:100111101100000             4F60        utf-8:   11100100,10111101,10100000     E4BDA0    從上面就可以很直觀的看出Unicode到UTF-8之間的轉換,當然知道了UTF-8的格式后,就可以進行逆運算,就是按照格式把它在二進制中的相應位置上取出,然后在轉換就是所得到的Unicode字符了(這個運算可以通過“位移”來完成)。   如上述的“你”的轉換,由于其值大于0x800小于0x10000,因此可以判斷為三字節存儲,則最高位需要向右移“12”位再根據三字節格式的最高位為11100000(0xE0)求或(|)就可以得到最高位的值了。同理第二位則是右移“6”位,則還剩下最高位和第二位的二進制值,可以通過與111111(0x3F)求按位于(&)操作,再和11000000(0x80)求或(|)。第三位就不用移位了,只要直接取最后六位(與111111(ox3F)取&),在與11000000(0x80)求或(|)。OK了,轉換成功!在VC++中的代碼如下所示(Unicode到UTF-8的轉換)。

   1const wchar_t pUnicode = L"你";       2char utf8[3+1];       3memset(utf8,0,4);       4utf8[0]= 0xE0|(pUnicode>>12);       5utf8[1]= 0x80|((pUnicode>>6)&0x3F);       6utf8[2]= 0x80|(pUnicode&0x3F);       7utf8[3]= "/0";       8//char[4]就是UTF-8的字符“你”了。   當然在UTF-8到Unicode的轉換也是通過移位等來完成的,就是把UTF-8那些格式相應的位置的二進制數給揪出來。在上述例子中“你”為三個字節,因此要每個字節進行處理,有高位到低位進行處理。在UTF-8中“你”為11100100,10111101,10100000。從高位起即第一個字節11100100就是把其中的"0100"給取出來,這個很簡單只要和11111(0x1F)取與(&),由三字節可以得知最到位肯定位于12位之前,因為每次取六位。所以還要將得到的結果左移12位,最高位也就這樣完成了0100,000000,000000。而第二位則是要把“111101”給取出來,則只需將第二字節10111101和111111(0x3F)取與(&)。在將所得到的結果左移6位與最高字節所得的結果取或(|),第二位就這樣完成了,得到的結果為0100,111101,000000。以此類推最后一位直接與111111(0x3F)取與(&),再與前面所得的結果取或(|)即可得到結果0100,111101,100000。OK,轉換成功!在VC++中的代碼如下所示(UTF-8到Unicode的轉換)。   1 //UTF-8格式的字符串   2 const char*utf8 = "你";   3 wchar_tunicode;   4 unicode = (utf8[0]& 0x1F)<<12;   5 unicode |= (utf8[1]& 0x3F)<<6;   6 unicode |= (utf8[2]& 0x3F);   7 //unicode is ok!  當然在編程過程中不可能只轉換一個字符,這里需要注意的是字符的長度一定要算清楚,不然會帶來...以上就是我這幾天研究的結果,至于Unicode的轉換為GB2312在MFC中Windows有自帶的API(WideCharToMultiByte)可以轉換。這樣也就能夠將UTF-8格式轉換為GB2312了,這里就不再贅述,如果大家有更好的方法希望指教。


發表評論 共有條評論
用戶名: 密碼:
驗證碼: 匿名發表
主站蜘蛛池模板: 汉川市| 利津县| 垣曲县| 兴化市| 云梦县| 左云县| 勃利县| 老河口市| 灯塔市| 普安县| 宁强县| 通许县| 望奎县| 隆昌县| 措美县| 鹿邑县| 克拉玛依市| 丹江口市| 石楼县| 卢湾区| 江口县| 阿勒泰市| 黄大仙区| 舞阳县| 朝阳县| 新乐市| 揭东县| 东源县| 北票市| 永顺县| 综艺| 樟树市| 两当县| 卢湾区| 龙岩市| 新郑市| 阿荣旗| 毕节市| 和田市| 东阿县| 晋宁县|