Gse v0.30.0 发布了, Go 高性能分词, 增加 hmm 支持

vway · · 131 次点击 · 开始浏览    置顶
Go 语言高效分词, 支持英文、中文、日文等 词典用双数组 trie(Double-Array Trie)实现, 分词器算法为基于词频的最短路径加动态规划。v0.30.0 版本主要新增了 DAG 和 HMM (Viterbi) 算法分词, 新增 API 基本和结巴分词保持一致. 支持普通、搜索引擎、全模式、精确模式和 HMM模式多种分词模式,支持用户词典、词性标注,可运行 JSON RPC 服务。 项目地址: https://github.com/go-ego/gse ```go package main import ( "fmt" "github.com/go-ego/gse" ) func main() { var seg gse.Segmenter seg.LoadDict() text1 := "你好世界, Hello world" fmt.Println(seg.Cut(text1, true)) } ``` # Rhine River ### Add - [NEW] Add HMM cut support - [NEW] Add go mod support and remove dep files - [NEW] Add find word in dictionary func - [NEW] Add Cut(), CutAll(), CutSearch(), LoadModel(), HMMCut() func - [NEW] Add hmm cut test code - [NEW] Add hmm cut example code ### Update - [NEW] Cutting the dict method, move load dictionary to dict_util.go - [NEW] Update example and Add more test - [NEW] Update and clean utils code - [NEW] Simplify test code, add equal benchmark code - [NEW] Update pkg cedar code - [NEW] Update code style - [NEW] Update README.md [ Format README.mdand Update example ] ### Fix - [FIX] Fixed and clean issue template - [FIX] Update README.md [ update and fixed example ] See Commits for more details, after Oct 9.
131 次点击  
加入收藏 微博
暂无回复
添加一条新回复 (您需要 登录 后才能回复 没有账号 ?)
  • 请尽量让自己的回复能够对别人有帮助
  • 支持 Markdown 格式, **粗体**、~~删除线~~、`单行代码`
  • 支持 @ 本站用户;支持表情(输入 : 提示),见 Emoji cheat sheet
  • 图片支持拖拽、截图粘贴等方式上传