gRPC源码/负载均衡

蓝白狂想 · · 2023 次点击 · · 开始浏览    
这是一个创建于 的文章,其中的信息可能已经有所发展或是发生改变。

本文以roundRobin为例介绍gRPC负载均衡实现。

代码

https://github.com/messixukej...
在liangzhiyang/annotate-grpc-go基础上补充了部分注释

关键interface

负载均衡器:
type Balancer interface{
    //启动负载均衡器,dialing的时候调用。
    Start(target string, config BalancerConfig) error
  //通知负载均衡器由新地址连接ok
    Up(addr Address) (down func(error))
    //获取下一个有效的负载均衡地址
    Get(ctx context.Context, opts BalancerGetOptions) (addr Address, put func(), err error)
    //地址更新通知channel,这里返回的是全量地址
    Notify() <-chan[]Address
    Close() error
}

//地址解析器接口
type Resolver interface{
    //解析器Resolver 用于创建 服务地址watcher。
    Resolve(target string) (Watcher, error)
}

//服务地址发现器接口
//watcher用于观察服务地址的变化
type Watcher interface{
    //阻塞接口,知道有服务地址变化或者错误发生
    Next() ([]*Update, error)
    
    Close()
}

关键数据结构

type testWatcher struct{
//用于接收地址更新
update chan*naming.Update

//用于表示多少个更新发生
side chan int

//用于通知地址注入者更新读已结束
readDone chanint
}

实现流程(以RoundRobin为例)

1、注入负载均衡规则

使用Dial时,使用WithBalance注入负载均衡规则
func WithBalancer(b Balancer) DialOption {
    return func(o *dialOptions) {
        o.balancer = b
    }
}

例如,这里注入了RoundRobin 轮寻规则。
cc, err := Dial("foo.bar.com", WithBalancer(RoundRobin(r)), WithBlock(), WithInsecure(), WithCodec(testCodec{}))

2、 启动负载均衡器

roundRobin.Start -> testNameResolver.Resolve 生成服务地址发现器 -> 建立服务地址发现任务 watchAddrUpdates(新的goroutine循环监控地址)

3、服务地址发现器(开启负载均衡后,不管是初始化还是过程中的变化,都是通过服务地址发现器来获取服务端地址)

roundRobin.watchAddrUpdates ->阻塞在watcher.Next获取地址变更动作 -> 更新roundRobin.addrs -> 写入roundRobin.addrCh

3.1、开工过程,根据balancer.Notify获取服务端地址 -> 根据地址列表创建连接resetAddrConn
地址注入方式:Resolve中将服务端初始地址注入

3.2、动态变更地址 ClientConn.lbWatcher,根据balancer.Notify获取服务端地址 -> 新增地址resetAddrConn,删除地址tearDown。
地址注入方式:testWatcher.inject

3.3 创建连接细化resetAddrConn->resetTransport->roundRobin.Up

3.4 删除连接细化tearDown->roundRobin.down

4、提交记录

Invoke->getTransport->balancer.Get获取有效地址(策略:根据connected状态,循环找到有效地址。如果找不到则阻塞在waitCh)

waitCh阻塞解除由3.3触发

有疑问加站长微信联系(非本文作者)

本文来自:Segmentfault

感谢作者:蓝白狂想

查看原文:gRPC源码/负载均衡

入群交流(和以上内容无关):加入Go大咖交流群,或添加微信:liuxiaoyan-s 备注:入群;或加QQ群:692541889

2023 次点击  
加入收藏 微博
暂无回复
添加一条新回复 (您需要 登录 后才能回复 没有账号 ?)
  • 请尽量让自己的回复能够对别人有帮助
  • 支持 Markdown 格式, **粗体**、~~删除线~~、`单行代码`
  • 支持 @ 本站用户;支持表情(输入 : 提示),见 Emoji cheat sheet
  • 图片支持拖拽、截图粘贴等方式上传