Go 语言高效分词, 支持英文、中文、日文等
词典用双数组trie（Double-Array Trie）实现， 分词器算法为基于词频的最短路径加动态规划。
支持普通和搜索引擎两种分词模式，支持用户词典、词性标注，可运行JSON RPC服务。
项目地址: https://github.com/go-ego/gse
```
package main
import (
"fmt"
"github.com/go-ego/gse"
)
func main() {
var seg gse.Segmenter
seg.LoadDict("zh,testdata/test_dict.txt,testdata/test_dict1.txt")
text1 := []byte("你好世界, Hello world")
segments := seg.Segment(text1)
fmt.Println(gse.ToString(segments, false))
}
```
## Danube River
### Add
- [NEW] 增加加载词典错误行检测
- [NEW] 增加不同语言词典缩写
- [NEW] 增加模式分词方法
- [NEW] 增加自定义字典你在
- [NEW] 更多测试
- [NEW] 更新测试工具
### Update
- [NEW] 更新 tool 和 benchmark 代码
- [NEW] 更新 cedar 代码
- [NEW] 简化代码 name
- [NEW] 更新 README.md
- [NEW] 细分代码方法
- [NEW] 更新版本并使用 dep 管理包
- [NEW] 优化字典加载
- [NEW] 更新 log print 和文件名
### Fix
- [FIX] Format some code and fix godoc
有疑问加站长微信联系（非本文作者）
