再談Java中文問題

- 中國WEB開發者網絡 (http://www.webasp.net)
-- 技術教程 (http://www.webasp.net/article/)
--- 再談Java中文問題 (http://www.webasp.net/article/19/18201.htm)

-- 作者：javabin
-- 發佈日期： 2005-04-28

我來說一下tomcat如何實現JSP的你就明白了。
預備知識：
　1.字節和unicode
　　Java內核是unicode的，就連class文件也是，但是很多媒體，包括文件/流的保存方式
　　是使用字節流的。因此Java要對這些字節流經行轉化。char是unicode的，而byte是字節.
　　Java中byte/char互轉的函數在sun.io的包中間有。其中ByteToCharConverter類是中調度，
　　可以用來告訴你，你用的Convertor。其中兩個很常用的靜態函數是
　　 public static ByteToCharConverter getDefault() ;
　　 public static ByteToCharConverter getConverter(String encoding);
　　如果你不指定converter，則系統會自動使用當前的Encoding,GB平台上用GBK,EN平台上用
　　8859_1
　　
　　我們來就一個簡單的例子：
　　　　　"你"的gb碼是：0xC4E3 ,unicode是0x4F60
　　　　　你用:
　　　　　--encoding="gb2312";
　　　　　--byte b[]={(byte)』\u00c4』,(byte)』\u00E3』};
　　　　　--convertor=ByteToCharConverter.getConverter(encoding);
　　　　　--char [] c=converter.convertAll(b);
　　　　　--for(int i=0;i<c.length;c++)
　　　　　--{
　　　　　-- System.out.println(Integer.toHexString(c[i]));
　　　　　--}
　　　　　--打印出來是0x4F60
　　　　　--但是如果使用8859_1的編碼，打印出來是
　　　　　--0x00C4,0x00E3
　　　　　----例１
　　　　反過來：
　　　　 --encoding="gb2312";
　　　　　　　char c[]={』\u4F60』};
　　　　　　　 convertor=ByteToCharConverter.getConverter(encoding);
　　　　　--byte [] b=converter.convertAll(c);
　　　　　--for(int i=0;i<b.length;c++)
　　　　　--{
　　　　　-- System.out.println(Integer.toHexString(b[i]));
　　　　　--}
　　　　　　--打印出來是：0xC4,0xE3
　　　　　　----例２
　　　　　　--如果用8859_1就是0x3F，?號，表示無法轉化　　　　　　--
　　　　　很多中文問題就是從這兩個最簡單的類派生出來的。而卻有很多類　　
　　不直接支持把Encoding輸入，這給我們帶來諸多不便。很多程序難得用encoding
　　了，直接用default的encoding，這就給我們移植帶來了很多困難
　　--
　　2.UTF-8
　　--UTF-8是和Unicode一一對應的，其實現很簡單
　　--
　　 -- 7位的Unicode: 0 _ _ _ _ _ _ _
　　--11位的Unicode: 1 1 0 _ _ _ _ _ 1 0 _ _ _ _ _ _
　　--16位的Unicode: 1 1 1 0 _ _ _ _ 1 0 _ _ _ _ _ _ 1 0 _ _ _ _ _ _
　　--21位的Unicode: 1 1 1 1 0 _ _ _ 1 0 _ _ _ _ _ _ 1 0 _ _ _ _ _ _ 1 0 _ _ _ _ _ _
　　--大多數情況是只使用到16位以下的Unicode:
　　--"你"的gb碼是：0xC4E3 ,unicode是0x4F60
　　--我們還是用上面的例子
　　--　　--例１：0xC4E3的二進制：
　　--　　--　　　 1 1 0 0 0 1 0 0 1 1 1 0 0 0 1 1
　　--　　--　　　由於只有兩位我們按照兩位的編碼來排，但是我們發現這行不通，
　　--　　--　　　因為第７位不是0因此，返回"?"
　　--　　--　　　
　　--　　--例２：0x4F60的二進制：
　　--　　--　　　 0 1 0 0 1 1 1 1 0 1 1 0 0 0 0 0
　　--　　--　　　我們用UTF-8補齊，變成：
　　--　　--　　　 11100100 10111101 10100000
　　--　　--　　　 E4--BD-- A0
　　--　　--　　　於是返回0xE4,0xBD,0xA0
　　--　　--
　　3.String和byte[]
　　--String其實核心是char[],然而要把byte轉化成String，必須經過編碼。
　　--String.length()其實就是char數組的長度，如果使用不同的編碼，很可
　　--能會錯分，造成散字和亂碼。
　　--例：
　　----byte [] b={(byte)』\u00c4』,(byte)』\u00e3』};
　　----String str=new String(b,encoding);　　----
　　----如果encoding=8859_1，會有兩個字，但是encoding=gb2312只有一個字　　----
　　--這個問題在處理分頁是經常發生
　　4.Reader,Writer/InputStream,OutputStream
　　--Reader和Writer核心是char，InputStream和OutputStream核心是byte。
　　--但是Reader和Writer的主要目的是要把Char讀/寫InputStream/OutputStream
--一個reader的例子：
--文件test.txt只有一個"你"字，0xC4,0xE3--
--String encoding=;
--InputStreamReader reader=new InputStreamReader(
----new FileInputStream("text.txt"),encoding);
--char []c=new char[10];
--int length=reader.read(c);
--for(int i=0;i<c.length;i++)
----System.out.println(c[i]);
　　--如果encoding是gb2312，則只有一個字符，如果encoding=8859_1，則有兩個字符
　　--------
--
--
　　
　　 ----
　2.我們要對Java的編譯器有所瞭解：
　--javac -encoding
　我們常常沒有用到ENCODING這個參數。其實Encoding這個參數對於跨平台的操作是很重要的。
　如果沒有指定Encoding，則按照系統的默認Encoding,gb平台上是gb2312，英文平台上是ISO8859_1。　
　--Java的編譯器實際上是調用sun.tools.javac.Main的類，對文件進行編譯，這個類　--
　有compile函數中間有一個encoding的變量,-encoding的參數其實直接傳給encoding變量。
　編譯器就是根據這個變量來讀取java文件的，然後把用UTF-8形式編譯成class文件。
　一個例子：
　--public void test()
　--{
　----String str="你";
　----FileWriter write=new FileWriter("test.txt");
　----write.write(str);
　----write.close();
　--}
　----例３
--如果用gb2312編譯，你會找到E4 BD A0的字段
--
--如果用8859_1編譯，
--00C4 00E3的二進制：
--00000000 11000100 00000000 11100011--
--因為每個字符都大於7位，因此用11位編碼：
--11000001 10000100 11000011 10100011
--C1-- 84--　C3--　 A3
--你會找到C1 84 C3 A3 --
　　　　
　　但是我們往往忽略掉這個參數，因此這樣往往會有跨平台的問題：
　　--　　例３在中文平台上編譯，生成ZhClass
　　--　　例３在英文平台上編譯，輸出EnClass
　　--1.　 ZhClass在中文平台上執行OK,但是在英文平台上不行
　　--2.　 EnClass在英文平台上執行OK,但是在中文平台上不行
　　原因：
　--1.在中文平台上編譯後，其實str在運行態的char[]是0x4F60,　----
　--在中文平台上運行，FileWriter的缺省編碼是gb2312,因此
　--CharToByteConverter會自動用調用gb2312的converter,把str轉化
　--成byte輸入到FileOutputStream中，於是0xC4,0xE3放進了文件。
　--但是如果是在英文平台下，CharToByteConverter的缺省值是8859_1,
　--FileWriter會自動調用8859_1去轉化str,但是他無法解釋，因此他會
　--輸出"?"　----
　--2.　在英文平台上編譯後，其實str在運行態的char[]是0x00C4 0x00E3,　----
　--在中文平台上運行，中文無法識別，因此會出現??
　--　　在英文平台上，0x00C4-->0xC4,0x00E3->0xE3，因此0xC4,0xE3被放進了
　--文件
----
1.對於JSP正文的解釋：
--Tomcat首先看一下你的葉面中有沒有"<%@page include的符號。有，則在相同
--地方設定response.setContentType(..);按照encoding的來讀，沒有他按照8859_1
--讀取文件，然後用UTF-8寫成.java文件，然後用sun.tools.Main去讀取這個文件，
--（當然它使用UTF-8去讀），然後編譯成class文件
--setContentType改變的是out的屬性，out變量缺省的encoding是8859_1

2.對Parameter的解釋
--很不幸Parameter只有ISO8859_1的解釋，這個質料可以在servlet的實現代碼中找到。

3.對include的解釋
格式的，但是很不幸，由於那個寫"org.apache.jasper.compiler.Parser"的人
在數組JspUtil.ValidAttribute[]忘記加了一個參數：encoding,因此導致不支
持這種方式。你完全可以編譯源代碼，加上對encoding的支持

總結：

如果你在NT底下，最簡單的方法就是欺騙java,不加任何Encoding變量：
<html>
你好<%=request.getParameter("value")%>
</html>

http://localhost/test/test.jsp?value=你

結果:你好你

但這種方法局限性較大，比如對上傳的文章分段，這樣的做法是死定的，最好的
解決方案是用這種方案：
<%@ page contentType="text/html;charset=gb2312" %>
<html>
你好<%=new String(request.getParameter("value").getBytes("8859_1"),"gb2312")%>
</html>

webasp.net