goscws 中文分词器 goscws

jmrs2018-07-19 20:32:32 • 3004 次点击    
这是一个分享于 2018-07-19 20:32:32 的项目,其中的信息可能已经有所发展或是发生改变。

golang goscws中文分词

scws是一个很好的中文分词库,由于项目中用到scws分词但go语言没有很好用的绑定,于是就自己 写了goscws,并且他支持协程分词。

例子:

根据 SendText 设定的文本内容,返回一系列切好的词汇

    gs := goscws.NewScws()
    gs.SetCharset("utf8")
    err := gs.SetDict("/usr/local/scws/etc/dict.utf8.xdb", goscws.SCWS_XDICT_MEM)
    if err != nil {
        log.Println(err)
    }
    err = gs.SetRule("/usr/local/scws/etc/rules.utf8.ini")
    if err != nil {
        log.Println(err)
    }
    err = gs.SetIgnore(0)
    if err != nil {
        log.Println(err)
    }
    text := []byte(`陈凯歌并不是《无极》的唯一著作权人,一部电影的整体版权归电影制片厂所有。`)
    gs.SendText(text, len(text))
    for  res := gs.GetResult(); res != nil;  res = gs.GetResult() {
            log.Println(string(res.Word), res.Idf, string(res.Attr))
    }
    gs.DeleteScws()

根据 SendText 设定的文本内容,返回系统计算出来的最关键词汇列表

    gs := goscws.NewScws()
    gs.SetCharset("utf8")
    err := gs.SetDict("/usr/local/scws/etc/dict.utf8.xdb", goscws.SCWS_XDICT_MEM)
    if err != nil {
        log.Println(err)
    }
    err = gs.SetRule("/usr/local/scws/etc/rules.utf8.ini")
    if err != nil {
        log.Println(err)
    }
    err = gs.SetIgnore(0)
    if err != nil {
        log.Println(err)
    }
    text := []byte(`陈凯歌并不是《无极》的唯一著作权人,一部电影的整体版权归电影制片厂所有。`)
    gs.SendText(text, len(text))
    for res := gs.GetTops(); res != nil; res = gs.GetTops() {
        log.Println(string(res.Word), res.Weight, res.Times,
            string(res.Attr))
    }
    gs.DeleteScws()

根据SendText 设定的文本内容,返回系统中词性符合要求的关键词汇

gs := goscws.NewScws()
    gs.SetCharset("utf8")
    err := gs.SetDict("/usr/local/scws/etc/dict.utf8.xdb", goscws.SCWS_XDICT_MEM)
    if err != nil {
        log.Println(err)
    }
    err = gs.SetRule("/usr/local/scws/etc/rules.utf8.ini")
    if err != nil {
        log.Println(err)
    }
    err = gs.SetIgnore(0)
    if err != nil {
        log.Println(err)
    }
    text := []byte(`陈凯歌并不是《无极》的唯一著作权人,一部电影的整体版权归电影制片厂所有。`)
    gs.SendText(text, len(text))
    for res := gs.GetWords([]byte("n")); res != nil; res = gs.GetWords(
        []byte("n")) {
        log.Println(string(res.Word), res.Weight, res.Times,
            string(res.Attr))
    }
    gs.DeleteScws()
Latest commit to the master branch on 7-20-2018
Download as zip
授权协议:
MIT
开发语言:
goc 查看源码»
操作系统:
linux windows mac
3004 次点击  
加入收藏 微博
暂无回复
添加一条新回复 (您需要 登录 后才能回复 没有账号 ?)
  • 请尽量让自己的回复能够对别人有帮助
  • 支持 Markdown 格式, **粗体**、~~删除线~~、`单行代码`
  • 支持 @ 本站用户;支持表情(输入 : 提示),见 Emoji cheat sheet
  • 图片支持拖拽、截图粘贴等方式上传