問題描述:從新浪微博抓取消息保存到MySQL數(shù)據(jù)中,對應數(shù)據(jù)庫字段為varchar,字符編碼utf-8。部分插入成功,部分插入失敗,報錯如標題。
在網(wǎng)上查詢,有人說是編碼問題,建議修改編碼格式,比如改成gbk,UTF-8,blob等等,但是幾乎沒有人給出更詳細的答案。在一個英文網(wǎng)站上,才發(fā)現(xiàn)真正錯誤的原因。鏈接1 鏈接2
錯誤原因:我們可以看到錯誤提示中的字符0xF0 0x9F 0x98 0x84 ,這對應UTF-8編碼格式中的4字節(jié)編碼(UTF-8編碼規(guī)范)。正常的漢字一般不會超過3個字節(jié),為什么為出現(xiàn)4個字節(jié)呢?實際上是它對應的是智能手機輸入法中的表情。那為什么會報錯呢?因為mysql中的utf-8并不是真正意義上的utf-8,它只能存儲1~3個字節(jié)長度的utf-8編碼,如果想存儲4個字節(jié)的必須用utf8mb4類型。不而要使用utf8mb4類型,首先要保證Mysql版本要不低于 MySQL 5.5.3。
解決方案: 1)使用utf8mb4數(shù)據(jù)類型 要用這種策略,如果MySql版本低于5.5.3,首先要進行版本升級,然后將對應的數(shù)據(jù)類型改為utf8mb4類型。如果使用的是Connector/J 連接數(shù)據(jù)庫,需要在配置中把編碼格式改為utf8mb4(set character_set_server=utf8mb4 in the connection config)。 2)自定義過濾規(guī)則,將文本中出現(xiàn)的四字節(jié)UTF-8字符過濾或轉(zhuǎn)化為自定義類型。 下面是將4字節(jié)字符轉(zhuǎn)化為0000的測試例子。
|
|