go-concurrentMap

亖狼何需装羴 · · 903 次点击 · · 开始浏览    
这是一个创建于 的文章,其中的信息可能已经有所发展或是发生改变。

这个map是一个github上的开源项目,地址是https://github.com/fanliao/go-concurrentMap,对比golang中自带的线程安全map,这种map的实现方式比较简单,还是通过加锁来解决多routine操作map的问题。但是和sync.Map不同的是,cmap使用了分段锁的方式,先看下cmap主要的数据结构

image.png

cmap其实就是一个ConcurrentMapShared结构体的切片,而每一个ConcurrentMapShared结构体都单独维护一个互斥锁。

可以看下cmap的Get方法:

image.png

Get方法很简单,主要逻辑就是先通过GetShard方法定位到应该去哪个shard上查找key,然后在该shard上加锁并读取value,getShard方法也很简单,就是简单的进行求哈希运算

image.png

而cmap的set,has等方法都是在原生map的基础上加了个分段锁操作,实现逻辑非常简单,感兴趣的话可以再自行去看源码了解。

package main

import (
    "sync"
)

// 总的map
type ConcurrentMap []*ConcurrentMapShared

// 默认分片数
const SHARE_COUNT int = 64

// 单个map分片
type ConcurrentMapShared struct {
    items map[string]interface{} // 本分片内的map
    mu    sync.RWMutex           // 本分片的专用锁
}

// 新建一个map
func NewConcurrentMap() *ConcurrentMap {
    m := make(ConcurrentMap, SHARE_COUNT)
    for i := 0; i < SHARE_COUNT; i++ {
        m[i] = &ConcurrentMapShared{
            items: map[string]interface{}{},
        }
    }
    return &m
}

// GetSharedMap 获取key对应的map分片
func (m ConcurrentMap) GetSharedMap(key string) *ConcurrentMapShared {
    return m[uint(fnv32(key))%uint(SHARE_COUNT)]
}

// hash函数
func fnv32(key string) uint32 {
    hash := uint32(2166136261)
    prime32 := uint32(16777619)
    for i := 0; i < len(key); i++ {
        hash *= prime32
        hash ^= uint32(key[i])
    }
    return hash
}

// Set 设置key,value
func (m ConcurrentMap) Set(key string, value interface{}) {
    sharedMap := m.GetSharedMap(key) // 找到对应的分片map
    sharedMap.mu.Lock()              // 加锁(全锁定)
    sharedMap.items[key] = value     // 赋值
    sharedMap.mu.Unlock()            // 解锁
}

// Get 获取key对应的value
func (m ConcurrentMap) Get(key string) (value interface{}, ok bool) {
    sharedMap := m.GetSharedMap(key) // 找到对应的分片map
    sharedMap.mu.RLock()             // 加锁(读锁定)
    value, ok = sharedMap.items[key] // 取值
    sharedMap.mu.RUnlock()           // 解锁
    return value, ok
}

// Count 统计key个数
func (m ConcurrentMap) Count() int {
    count := 0
    for i := 0; i < SHARE_COUNT; i++ {
        m[i].mu.RLock() // 加锁(读锁定)
        count += len(m[i].items)
        m[i].mu.RUnlock() // 解锁
    }
    return count
}

// Keys1 所有的key方法1(方法:遍历每个分片map,读取key;缺点:量大时,阻塞时间较长)
func (m ConcurrentMap) Keys1() []string {
    count := m.Count()
    keys := make([]string, count)

    // 遍历所有的分片map
    for i := 0; i < SHARE_COUNT; i++ {
        m[i].mu.RLock() // 加锁(读锁定)
        oneMapKeys := make([]string, len(m[i].items))
        for k := range m[i].items {
            oneMapKeys = append(oneMapKeys, k)
        }
        m[i].mu.RUnlock() // 解锁

        // 汇总到keys
        keys = append(keys, oneMapKeys...)
    }

    return keys
}

// Keys2 所有的key方法2(方法:开多个协程分别对分片map做统计再汇总 优点:量大时,阻塞时间较短)
func (m ConcurrentMap) Keys2() []string {
    count := m.Count()
    keys := make([]string, count)

    ch := make(chan string, count) // 通道,遍历时
    // 单独起一个协程
    go func() {
        wg := sync.WaitGroup{}
        wg.Add(SHARE_COUNT)

        for i := 0; i < SHARE_COUNT; i++ {
            // 每个分片map,单独起一个协程进行统计
            go func(ms *ConcurrentMapShared) {
                defer wg.Done()

                ms.mu.RLock() // 加锁(读锁定)
                for k := range ms.items {
                    ch <- k // 压入通道
                }
                ms.mu.RUnlock() // 解锁
            }(m[i])
        }

        // 等待所有协程执行完毕
        wg.Wait()
        close(ch) // 一定要关闭通道,因为不关闭的话,后面的range不会结束!!!
    }()

    // 遍历通道,压入所有的key
    for k := range ch {
        keys = append(keys, k)
    }
    return keys
}


有疑问加站长微信联系(非本文作者)

本文来自:简书

感谢作者:亖狼何需装羴

查看原文:go-concurrentMap

入群交流(和以上内容无关):加入Go大咖交流群,或添加微信:liuxiaoyan-s 备注:入群;或加QQ群:692541889

903 次点击  
加入收藏 微博
暂无回复
添加一条新回复 (您需要 登录 后才能回复 没有账号 ?)
  • 请尽量让自己的回复能够对别人有帮助
  • 支持 Markdown 格式, **粗体**、~~删除线~~、`单行代码`
  • 支持 @ 本站用户;支持表情(输入 : 提示),见 Emoji cheat sheet
  • 图片支持拖拽、截图粘贴等方式上传