国产探花免费观看_亚洲丰满少妇自慰呻吟_97日韩有码在线_资源在线日韩欧美_一区二区精品毛片,辰东完美世界有声小说,欢乐颂第一季,yy玄幻小说排行榜完本

首頁 > 編程 > Golang > 正文

golang中sync.Map并發創建、讀取問題實戰記錄

2020-04-01 18:56:08
字體:
來源:轉載
供稿:網友

背景:

我們有一個用go做的項目,其中用到了zmq4進行通信,一個簡單的rpc過程,早期遠端是使用一個map去做ip和具體socket的映射。

問題

大概是這樣

struct SocketMap { sync.Mutex sockets map[string]*zmq4.Socket}

然后調用的時候的代碼大概就是這樣的:

func (pushList *SocketMap) push(ip string, data []byte) { pushList.Lock() defer pushList.UnLock() socket := pushList.sockets[string] if socket == nil { socket := zmq4.NewSocket() //do some initial operation like connect pushList.sockets[ip] = socket } socket.Send(data)}

相信大家都能看出問題:當push被并發訪問的時候(事實上push會經常被并發訪問),由于這把大鎖的存在,同時只能有一個協程在臨界區工作,效率是會被大大降低的。

解決方案:會帶來crash的優化

所以我們決定使用sync.Map來替代這個設計,然后出了第一版代碼,寫的非常簡單,只做了簡單的替換:

struct SocketMap { sockets sync.Map}func (pushList *SocketMap) push(ip string, data []byte) { var socket *zmq4.Socket  socketInter, ok = pushList.sockets.Load(ip) if !ok { socket = zmq4.NewSocket() //do some initial operation like connect pushList.sockets.Store(ip, socket) } else { socket = socketInter.(*zmq4.Socket) } socket.Send(data)}

乍一看似乎沒什么問題?但是跑起來總是爆炸,然后一看log,提示有個非法地址。后來在github上才看到,zmq4.Socket不是線程安全的。上面的代碼恰恰會造成多個線程同時拿到socket實例,然后就crash了。

解決方案2: 加一把鎖也擋不住的沖突

然后怎么辦呢?看來也只能加鎖了,不過這次加鎖不能加到整個map上,否則還會有性能問題,那就考慮減小鎖的粒度吧,使用鎖包裝socket。這個時候我們的代碼也就呼之欲出了:

struct SocketMutex{ sync.Mutex socket *zmq4.Socket}struct SocketMap { sockets sync.Map}func (pushList *SocketMap) push(ip string, data []byte) { var socket *SocketMutex  socketInter, ok = pushList.sockets.Load(ip) if !ok { socket = &{  socket: zmq4.NewSocket() } //do some initial operation like connect pushList.sockets.Store(ip, newSocket) } else { socket = socketInter.(*SocketMutex) } socket.Lock() defer socket.Unlock() socket.socket.Send(data)}

但是這樣還是有問題,相信經驗比較豐富的老哥一眼就能看出來,問題處在socketInter, ok = pushList.sockets.Load(ip)這行代碼上,如果map中沒有這個值,且有多個協程同時訪問到這行代碼,顯然這幾個協程的ok都會置為false,然后都進入第一個if代碼塊,創建多個socket實例,并且爭相覆蓋原有值。

單純解決這個問題也很簡單,就是使用sync.Map.LoadOrStore(key interface{}, value interface{}) (v interface{}, loaded bool)這個api,來原子地去做讀寫。

然而這還沒完,我們的寫入新值的操作不光是調用一個api創建socket就完了,還要有一系列的初始化操作,我們必須保證在初始化完成之前,其他通過Load拿到這個實例的協程無法真正訪問socket實例。

這時候顯然sync.Map自帶的機制已經無法解決這個問題了,那么我們必須尋求其他的手段,要么鎖,要么就sync.WaitGroup或者whatever的其他什么東西。

解決方案3: 閉包帶來的神奇體驗

后來經大佬指點,我在encoder.go中看到了這么一段代碼:

 func typeEncoder(t reflect.Type) encoderFunc {      if fi, ok := encoderCache.Load(t); ok {       return fi.(encoderFunc)       }                     // To deal with recursive types, populate the map with an    // indirect func before we build it. This type waits on the   // real func (f) to be ready and then calls it. This indirect   // func is only used for recursive types.      var (           wg sync.WaitGroup         f encoderFunc         )           wg.Add(1)          fi, loaded := encoderCache.LoadOrStore(t, encoderFunc(func(e *encodeState, v reflect.Value, opts encOpts) {  wg.Wait()          f(e, v, opts)         }))          if loaded {          return fi.(encoderFunc)       }                      // Compute the real encoder and replace the indirect func with it.   f = newTypeEncoder(t, true)       wg.Done()          encoderCache.Store(t, f)        return f          }  

豁然開朗,我們可以在sync.Map中存放一個閉包函數,然后在閉包函數中等待本地的sync.WaitGroup完成再返回實例。于是最終的代碼也就成型了。

struct SocketMutex{ sync.Mutex socket *zmq4.Socket}struct SocketMap { sockets sync.Map}func (pushList *SocketMap) push(ip string, data []byte) { type SocketFunc func()*SocketMutex var (  socket *SocketMutex  w sync.WaitGroup ) socket = &SocketMutex {  socket : zmq4.NewSocket() }  w.Add(1) socketf, ok = pushList.sockets.LoadOrStore(ip, SocketFunc(func()*SocketMutex) {  w.Wait()  return socket }) if !ok {  socket = &{   socket: zmq4.NewSocket()  }  //do some initial operation like connect  w.Done() } else {  socket = socketInter.(*SockeFunc)() } socket.Lock() defer socket.Unlock() socket.socket.Send(data)}

總結:

并發代碼中的競爭問題,每一行代碼的重入性都要深思熟慮啊。

總的來說要保持以下幾個準則:

(1) 不可重入訪問的系統資源,如socketfd, filefd,signalfd(事實上大多數這種系統資源都是不可重入的)等,在使用無鎖結構的容器、讀寫鎖封裝的容器時,需要給每個資源單獨加鎖或者使用其他手段保證系統資源在臨界區受到有效保護。

(2)如果有讀取,如果為空則寫入的邏輯,需要使用能提供原子性保證的LoadOrSave調用,或者沒有的話,自己實現也要保證讀取和寫入過程整體的原子性;防止并發訪問Load調用時,多個線程都返回否而創建多個實例,然后在Save的時候又互相覆蓋。——這個原則不光對成員是系統資源的時候生效,如果存放的是其他東西也同樣適用。

(3)如果資源創建完畢,還需要其他的初始化過程,則可以考慮在容器內放置閉包,初始化過程使用sync.WaitGroup保護,在閉包中調用Wait方法等待初始化完成再給其他線程返回初始化好的實例。而初始化過程完成后,可以置換閉包函數,不再調用Wait方法,來減少可能的開銷。

好了,以上就是這篇文章的全部內容了,希望本文的內容對大家的學習或者工作具有一定的參考學習價值,如果有疑問大家可以留言交流,謝謝大家對VEVB武林網的支持。


發表評論 共有條評論
用戶名: 密碼:
驗證碼: 匿名發表
主站蜘蛛池模板: 阳泉市| 花莲市| 竹山县| 碌曲县| 阳新县| 诸城市| 盖州市| 永善县| 霞浦县| 安图县| 罗田县| 谢通门县| 麻城市| 红安县| 凉城县| 彭山县| 巫山县| 崇阳县| 繁峙县| 射洪县| 潢川县| 彰武县| 灌阳县| 徐汇区| 宁城县| 河池市| 腾冲县| 麦盖提县| 兖州市| 江油市| 施甸县| 油尖旺区| 扶沟县| 开封市| 浠水县| 内丘县| 唐河县| 吐鲁番市| 上蔡县| 广昌县| 隆德县|