Unicode是为了解决传统的字符编码方案的局限而产生的,它为每种语言中的每个字符设定了统一并且唯一的二进制编码,以满足跨语言、跨平台进行文本转换、处理的要求。
在实际应用有很多需要中文和unicode转换的场景,这里主要介绍通过golang实现中文和unicode互相转换。
1、中文转unicode
这一步比较简单
示例
代码语言:javascript复制 sText := "hello 你好"
textQuoted := strconv.QuoteToASCII(sText)
textUnquoted := textQuoted[1 : len(textQuoted)-1]
fmt.Println(textUnquoted)
2、unicode 转中文
网上有些例子,通过 u 分隔来实现,这种方式存在局限性。比如字符里面含有非中文字符,就会出现问题。
正确转换示例
代码语言:javascript复制package main
import (
"fmt"
"strconv"
"strings"
)
func zhToUnicode(raw []byte) ([]byte, error) {
str, err := strconv.Unquote(strings.Replace(strconv.Quote(string(raw)), `\u`, `u`, -1))
if err != nil {
return nil, err
}
return []byte(str), nil
}
func main() {
sText := "hello 你好"
textQuoted := strconv.QuoteToASCII(sText)
textUnquoted := textQuoted[1 : len(textQuoted)-1]
fmt.Println(textUnquoted)
v, _ := zhToUnicode([]byte(textUnquoted))
fmt.Println(string(v))
}
strconv.Quote(s string)string
-> 返回字符串在go语法下的双引号字面值表示,控制字符和不可打印字符会进行转义(t,n等)strconv.Unquote(s string)(t string,err error)
-> 函数假设s是一个半引号、双引号、反引号包围的go语法字符串,解析它并返回它表示的值。(如果是单引号括起来的,函数会认为s是go字符字面值,返回一个单字符的字符串)