色五月色开心色婷婷色丁香,五月婷婷丁香花综合网,婷婷丁香五月激情综合在线,五月婷婷六月丁香动漫,婷婷丁香五月激情综合在线,丁香花中文字幕在线观看,播五月色五月开心五月网,开心激情综合网,狠狠色丁香婷婷综合最新地址,丁香视频在线观看,狠狠做六月爱婷婷综合av,久久激情五月丁香伊人

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營(yíng)的一線實(shí)戰(zhàn)洞察。

死鎖排查與預(yù)防實(shí)戰(zhàn):從CPU 100%到多線程實(shí)時(shí)采集系統(tǒng)的穩(wěn)定之道

死鎖排查與預(yù)防實(shí)戰(zhàn):從CPU 100%到多線程實(shí)時(shí)采集系統(tǒng)的穩(wěn)定之道 干實(shí)時(shí)采集系統(tǒng)這行的大概都經(jīng)歷過這樣的至暗時(shí)刻界面上數(shù)據(jù)突然不刷新了進(jìn)程管理器里 CPU 穩(wěn)穩(wěn)地頂在 100%點(diǎn)哪里都沒反應(yīng)最后只能粗暴地殺掉進(jìn)程重啟。如果運(yùn)氣不好連“保存現(xiàn)場(chǎng)”的機(jī)會(huì)都沒有緩沖區(qū)里攢了幾個(gè)小時(shí)的數(shù)據(jù)直接歸零。這種一出現(xiàn)就是卡死、CPU 打滿、必須重啟的問題絕大多數(shù)時(shí)候和業(yè)務(wù)邏輯一點(diǎn)關(guān)系都沒有問題出在程序自身——多線程之間互相掐架誰也不讓誰最后誰也沒法往前挪半步。這就是死鎖Deadlock一個(gè)在并發(fā)編程里談之色變、在多線程實(shí)時(shí)采集系統(tǒng)里最隱蔽也最致命的 Bug。這篇內(nèi)容我打算從根上講透死鎖它到底怎么形成的為什么在實(shí)時(shí)采集系統(tǒng)里特別容易中招遇到 CPU 100% 之后怎么一步步定位以及最后怎么從架構(gòu)和代碼習(xí)慣上把它杜絕掉。不管你是寫 C、Java、C#、Python還是 Delphi今天就拿自己踩過的坑把這件事掰開揉碎了說清楚。1. 先搞清楚死鎖的本質(zhì)不是“鎖壞了”是人堵死了1.1 死鎖的形成需要四個(gè)條件缺一不可死鎖本質(zhì)上是一組線程在等待一個(gè)永遠(yuǎn)不可能被釋放的資源。教科書上總結(jié)為四個(gè)必要條件互斥、持有并等待、不可剝奪、循環(huán)等待。這四句話聽起來很繞但拿現(xiàn)實(shí)生活一比對(duì)就清楚了。想象一個(gè)只有一條車道的窄橋兩邊各來一輛車誰都想先過橋誰也不肯倒車。橋是互斥資源只能一方使用兩車都占著各自的路口不肯退讓持有并等待沒有交警來強(qiáng)制拖走任何一輛不可剝奪于是兩車頭對(duì)頭堵死循環(huán)等待。這四個(gè)條件只要同時(shí)成立系統(tǒng)就卡在這兒了而且永遠(yuǎn)自行解不開只能外部干預(yù)——強(qiáng)制重啟。放到多線程代碼里“車”就是線程“窄橋”就是被鎖保護(hù)的共享數(shù)據(jù)區(qū)。線程 A 持有一把鎖 L1想去拿 L2與此同時(shí)線程 B 持有 L2正排隊(duì)等著 L1。兩邊都認(rèn)為對(duì)方“應(yīng)該先放手”結(jié)果誰都不放手。這就是最經(jīng)典的 ABBA 死鎖A 等 BB 等 A雙方懷里都抱著對(duì)方想要的東西。要注意死鎖不是“程序錯(cuò)了才出現(xiàn)”的恰恰相反絕大部分死鎖代碼在語(yǔ)法上完全正確編譯和單線程運(yùn)行都毫無問題。死鎖是運(yùn)行時(shí)在多線程時(shí)序配合下才會(huì)觸發(fā)的“偶發(fā)炸彈”所以它遠(yuǎn)比普通空指針、數(shù)組越界更難發(fā)現(xiàn)和復(fù)現(xiàn)。1.2 多線程實(shí)時(shí)采集系統(tǒng)為什么是死鎖高發(fā)區(qū)理解了四個(gè)條件再看實(shí)時(shí)采集系統(tǒng)這個(gè)具體場(chǎng)景就會(huì)發(fā)現(xiàn)它幾乎把死鎖的土壤填滿了。實(shí)時(shí)采集系統(tǒng)的基本模型是采集設(shè)備采集卡、傳感器、相機(jī)、串口數(shù)據(jù)不斷地產(chǎn)生原始數(shù)據(jù)流一個(gè)或多個(gè)采集線程高速讀取并寫入共享緩沖區(qū)業(yè)務(wù)處理線程從緩沖區(qū)取數(shù)據(jù)做解析、存儲(chǔ)、顯示或轉(zhuǎn)發(fā)。這個(gè)模型天然就是多線程的——數(shù)據(jù)生產(chǎn)端和數(shù)據(jù)消費(fèi)端速率不匹配中間必須有一個(gè)線程安全的數(shù)據(jù)通道。于是鎖、信號(hào)量、條件變量、消息隊(duì)列這些同步原語(yǔ)一個(gè)都不能少代碼里隨處可見CriticalSection、mutex、synchronized、lock關(guān)鍵字。更要命的還有兩點(diǎn)。第一實(shí)時(shí)性要求高。采集系統(tǒng)里的數(shù)據(jù)是有“保鮮期”的比如音頻 20 毫秒一幀、高頻信號(hào)每秒幾萬點(diǎn)、視頻流一秒鐘幾十幀。線程必須在極短的時(shí)間內(nèi)完成讀寫和交接開發(fā)者為了“快”經(jīng)常在鎖里面做本來不該做的事或者為了省一次拷貝把鎖的粒度拉得很大。鎖的粒度越大持鎖時(shí)間越長(zhǎng)其他線程等待的概率就越高互相鎖死的窗口就越大。第二線程數(shù)量多而且角色不均。采集線程、解析線程、界面刷新線程、日志落盤線程、網(wǎng)絡(luò)轉(zhuǎn)發(fā)線程各自持有不同的鎖。線程多了鎖的獲取順序稍微不一致循環(huán)等待的條件立刻出現(xiàn)。這不是理論推演而是我實(shí)際排查過的絕大多數(shù)案例的真實(shí)路徑。2. 實(shí)戰(zhàn)里死鎖最容易長(zhǎng)在哪些地方2.1 鎖順序不一致最經(jīng)典的 ABBA 死鎖拿 C 寫一段最典型的錯(cuò)誤示范基本是所有死鎖排障的起點(diǎn)。假設(shè)系統(tǒng)里有全局的幀緩沖區(qū)frame_buf和狀態(tài)表status_map兩者各有自己的鎖。線程 A 做數(shù)據(jù)解析習(xí)慣先鎖frame_buf再鎖status_map線程 B 做界面刷新不小心把順序?qū)懛戳讼孺istatus_map再鎖frame_buf。// 線程 A采集解析 void parse_frame(Frame* f) { lock(mutex_frame); // 處理幀數(shù)據(jù)... lock(mutex_status); // 更新狀態(tài)... unlock(mutex_status); unlock(mutex_frame); } // 線程 B界面刷新 void ui_refresh() { lock(mutex_status); // 這里順序反了 // 讀取狀態(tài)快照... lock(mutex_frame); // 等待 frame 鎖 // 復(fù)制幀數(shù)據(jù)... unlock(mutex_frame); unlock(mutex_status); }只要時(shí)序湊巧線程 A 拿到frame_buf鎖、正在等status_map鎖而線程 B 恰好拿著status_map鎖、正在等frame_buf鎖死鎖就成立了。兩邊都卡在鎖等待函數(shù)里不出來CPU 立刻被占滿。這個(gè)模式在單看每一段代碼的時(shí)候幾乎發(fā)現(xiàn)不了問題因?yàn)閮蓚€(gè)線程各自看上去都是“先拿一個(gè)、再用另一個(gè)”邏輯很順。只有把所有線程的加鎖路徑全部羅列出來、畫成一張圖才能看出交叉。這條經(jīng)驗(yàn)我后來一直用于代碼評(píng)審一個(gè)工程里所有涉及多把鎖的路徑必須按統(tǒng)一全局順序加鎖沒有例外。2.2 持鎖調(diào)用回調(diào)函數(shù)鎖里的定時(shí)炸彈比 ABBA 更隱蔽的是“在持鎖的狀態(tài)下調(diào)用了一個(gè)你不知道會(huì)干嘛的函數(shù)”。采集系統(tǒng)里特別常見采集線程在拿到緩沖區(qū)鎖之后為了節(jié)省一次遍歷直接在鎖里調(diào)用了數(shù)據(jù)回調(diào)callback讓上位機(jī)的用戶代碼來處理這一幀數(shù)據(jù)。用戶的回調(diào)里如果又訪問了別的鎖、調(diào)用了 UI 同步函數(shù)、或者干脆向采集線程發(fā)送了一個(gè)同步消息那死鎖就可能在幾十毫秒內(nèi)形成。我印象很深的一次故障就是這樣采集驅(qū)動(dòng)給上層拋事件的線程和上層業(yè)務(wù)處理線程共享一把鎖驅(qū)動(dòng)線程持鎖后調(diào)用回調(diào)回調(diào)里為了防止界面撕裂又調(diào)用了同步 UI 刷新函數(shù)而 UI 刷新線程正在等一下一個(gè)數(shù)據(jù)幀的資源。最后的結(jié)果是采集線程等 UI 線程UI 線程等采集線程系統(tǒng)整體凝固。這個(gè)問題的根源是“未知代碼在持鎖狀態(tài)下被允許任意執(zhí)行”。鎖保護(hù)的應(yīng)該是“對(duì)資源的訪問”而不是“對(duì)資源的訪問之外再串聯(lián)一堆業(yè)務(wù)動(dòng)作”。正確做法是把回調(diào)從鎖內(nèi)挪出去在鎖內(nèi)只拷貝必要數(shù)據(jù)、做好關(guān)鍵標(biāo)記出鎖之后再調(diào)用回調(diào)或者直接把回調(diào)投遞到獨(dú)立的事件隊(duì)列里讓接收線程自行處理。2.3 信號(hào)量和條件變量被誤用的同步原語(yǔ)鎖之外信號(hào)量Semaphore和條件變量Condition Variable也是死鎖的??投疫@種死鎖“長(zhǎng)得”跟經(jīng)典 ABBA 不一樣更像是一邊在等“永遠(yuǎn)等不來的通知”。典型翻車現(xiàn)場(chǎng)是信號(hào)量的計(jì)數(shù)被透支。比如生產(chǎn)者線程和消費(fèi)者線程之間用信號(hào)量做任務(wù)計(jì)數(shù)生產(chǎn)者每次入隊(duì)sem.post()消費(fèi)者每次出隊(duì)sem.wait()。看起來是標(biāo)準(zhǔn)的計(jì)數(shù)模型但如果某處異常路徑漏了post或者一個(gè)post被兩個(gè)wait同時(shí)消費(fèi)掉計(jì)數(shù)就會(huì)歸零所有消費(fèi)者線程全部阻塞在wait上而生產(chǎn)者因?yàn)榫彌_區(qū)滿了也阻塞在入隊(duì)鎖上。從外部看整個(gè)系統(tǒng)同樣表現(xiàn)為 CPU 100% 和卡死。條件變量則有一個(gè)更隱蔽的坑通知丟失。條件變量的正確用法是“先加鎖檢查條件條件不滿足就 wait 釋放鎖被通知后再重新檢查條件”。但很多初學(xué)者圖省事在沒持鎖的情況下直接調(diào)用 signal或者在 wait 返回之后不重新檢查條件。前者導(dǎo)致通知在其他線程 wait 之前就發(fā)出去了后者導(dǎo)致線程醒過來時(shí)條件依然不成立于是繼續(xù)阻塞造成“假死鎖”。對(duì)于這些同步原語(yǔ)我的建議是能少用就少用能用鎖解決的就別整信號(hào)量。信號(hào)量和條件變量適合做復(fù)雜的調(diào)度模型不適合做“我今天先簡(jiǎn)單用一下”的場(chǎng)景一旦用錯(cuò)排查成本會(huì)成倍上升。2.4 Delphi 多線程里的“自家坑”熱詞里單獨(dú)列了 Delphi 多線程說明這地方確實(shí)水深。Delphi 的老項(xiàng)目在工控和采集領(lǐng)域存量很大很多人手上還捧著多年前的代碼在維護(hù)死鎖問題尤其突出。Delphi 里最常見的死鎖組合是TThread.Synchronize配合臨界區(qū)。Synchronize會(huì)把代碼調(diào)度到主線程執(zhí)行如果主線程正在等待某個(gè)后臺(tái)線程釋放臨界區(qū)而后臺(tái)線程又在Synchronize里等待主線程來執(zhí)行同步過程那兩邊就徹底對(duì)上了。特別是主線程在Application.Run的消息循環(huán)里如果消息循環(huán)被一個(gè)耗時(shí)的鎖等待阻塞Synchronize永遠(yuǎn)不會(huì)被執(zhí)行后臺(tái)線程永遠(yuǎn)等不到結(jié)果。另外 Delphi 的TMonitor是可重入的很多人以為“鎖是同一個(gè)線程可以重復(fù)進(jìn)的”于是套了兩層TMonitor.Enter以為沒事結(jié)果第二層是在另一個(gè)線程的上下文里進(jìn)入的照樣死鎖。再加上 Delphi 里老的TCriticalSection沒有超時(shí)機(jī)制一旦鎖上就無限等連自愈的機(jī)會(huì)都沒有。關(guān)于 Delphi 的實(shí)操建議能不用Synchronize就別用優(yōu)先用TThread.Queue異步投遞所有鎖等待盡量放在線程內(nèi)部循環(huán)里不要放進(jìn)主線程消息路徑老代碼里大量while not Terminated的輪詢邏輯檢查一下輪詢循環(huán)里是否持鎖等待。3. CPU 100% 之后現(xiàn)場(chǎng)排查實(shí)錄3.1 先判斷是死鎖還是忙等Busy Wait遇到 CPU 100%第一件事別慌。死鎖導(dǎo)致的 100% 和忙等導(dǎo)致的 100%處理方法完全不同必須先分清楚。忙等是線程“假裝在工作”在鎖等待循環(huán)里沒有真正掛起而是反復(fù)嘗試獲取鎖、空轉(zhuǎn)消耗 CPU。死鎖更無語(yǔ)線程明明已經(jīng)放棄執(zhí)行、永久阻塞了為什么 CPU 還是 100%因?yàn)殡m然業(yè)務(wù)線程全堵死了但系統(tǒng)的某些清理線程、看門狗線程、或者采集硬件的中斷回調(diào)還在瘋狂重試任務(wù)管理器看到的是整個(gè)進(jìn)程的總 CPU 占用只要有一個(gè)線程在瘋轉(zhuǎn)CPU 就是滿的。判斷手段很直接用 Visual Studio、WinDbg、Delphi 的 IDE 調(diào)試器或者jstackJava分別抓一下各個(gè)線程的調(diào)用棧。如果能看到多個(gè)線程互相等待對(duì)方的鎖棧上有WaitForSingleObject、lock、synchronized等字樣基本可以鎖定死鎖如果看到某個(gè)線程在無限循環(huán)重試則是忙等或者“活鎖”。一個(gè)更快的現(xiàn)場(chǎng)判斷死鎖之后進(jìn)程往往是“完全靜止”的任務(wù)管理器里線程數(shù)量不變但所有線程狀態(tài)都是“不運(yùn)行”忙等則 CPU 占用率有波動(dòng)任務(wù)管理器里能看到個(gè)別線程狀態(tài)閃爍。3.2 抓線程??唇徊娴却ㄎ凰梨i最有效的手段就是抓取全線程調(diào)用棧。這一步無論什么語(yǔ)言都適用核心思路是“把每個(gè)線程在哪棵樹上吊著”全部拍下來。Windows 上可以用 WinDbg 附加到掛死的進(jìn)程執(zhí)行~* k命令打印所有線程棧然后在輸出里找“等待鎖 A同時(shí)持有鎖 B”這種成對(duì)出現(xiàn)的特征。Java 里直接jstack -l pidjstack會(huì)直接檢測(cè)死鎖輸出“Found one Java-level deadlock”的提示。C 在 Linux 上可以用gdb attach然后thread apply all bt再把所有線程棧里出現(xiàn)的鎖地址梳理一下看看鎖的持有者是否就是等待者。拿個(gè)具體例子說某回排查一個(gè)工業(yè)視覺采集程序抓完棧之后發(fā)現(xiàn)采集線程停在cv::waitKey的 GUI 調(diào)度器上而主線程停在相機(jī) SDK 的采集回調(diào)等待上兩個(gè)線程都握著對(duì)方需要的句柄不放。這類交叉只要把棧一對(duì)就清清楚楚不需要猜。抓棧這個(gè)動(dòng)作最好能做成自動(dòng)化的啟動(dòng)時(shí)就掛一個(gè)熱鍵或者遠(yuǎn)程指令通道卡死之后一鍵生成全棧快照。沒有這個(gè)機(jī)制的死鎖排查每次都要靠調(diào)試器手動(dòng)附加上去在現(xiàn)場(chǎng)環(huán)境里經(jīng)常來不及。3.3 二分法禁用模塊縮小懷疑范圍如果抓棧受限于現(xiàn)場(chǎng)環(huán)境或者抓出來的棧信息不夠全常見于生產(chǎn)環(huán)境不帶調(diào)試符號(hào)的情況那就用工程手段二分法。把系統(tǒng)里的可選功能模塊逐個(gè)關(guān)掉每關(guān)掉一批就嘗試復(fù)現(xiàn)或觀察卡死是否消失。比如先把日志模塊關(guān)掉試試再把界面刷新關(guān)掉試試再把某一路數(shù)據(jù)轉(zhuǎn)發(fā)關(guān)掉試試。每次只調(diào)整一個(gè)維度卡死不再出現(xiàn)那就說明嫌疑集中在這個(gè)模塊的代碼路徑上。這個(gè)方法看著笨但在沒有源碼級(jí)調(diào)試信息的現(xiàn)場(chǎng)特別管用。有一個(gè)注意事項(xiàng)實(shí)時(shí)采集系統(tǒng)的偶發(fā)死鎖往往不是穩(wěn)定復(fù)現(xiàn)的關(guān)掉模塊后“一兩天沒復(fù)現(xiàn)”并不代表真解決了。我的習(xí)慣是每個(gè)配置組合至少跑滿 24 小時(shí)并且記錄每次卡死時(shí)哪些模塊是開啟狀態(tài)用一張矩陣表把“模塊組合 vs 是否卡死”對(duì)照起來逐步逼近真兇。3.4 日志先行給系統(tǒng)裝一個(gè)看門狗哨兵很多長(zhǎng)期無法復(fù)現(xiàn)的死鎖最后都是靠日志揪出來的。日志的關(guān)鍵不是記業(yè)務(wù)數(shù)據(jù)而是記錄“線程在鎖上的等待超時(shí)記錄”。具體做法是在每個(gè)鎖的等待處包一層帶超時(shí)的封裝函數(shù)比如封裝TryEnterCriticalSectionWithTimeout超過比如 3 秒還沒有拿到鎖就主動(dòng)打印一條告警日志內(nèi)容包括當(dāng)前線程、等待的鎖地址、調(diào)用棧。這條日志不需要頻繁觸發(fā)但一旦觸發(fā)十有八九是死鎖的前兆。更進(jìn)一步可以設(shè)計(jì)一個(gè)獨(dú)立的“看門狗線程”每 1~2 秒去檢查各個(gè)工作線程的心跳標(biāo)記心跳超時(shí)就 dump 所有線程棧并寫入本地文件。這個(gè)方案我用了很多年幾乎每次都能在死鎖發(fā)生后拿到完整的“案發(fā)”現(xiàn)場(chǎng)定位效率提升了一個(gè)量級(jí)。3.5 無法復(fù)現(xiàn)的 Bug怎么破標(biāo)題里“最隱蔽”三個(gè)字對(duì)應(yīng)到現(xiàn)實(shí)就是死鎖不是天天出現(xiàn)可能在系統(tǒng)運(yùn)行幾天后的某個(gè)凌晨出現(xiàn)一次殺進(jìn)程重啟后一切復(fù)原然后好幾天不再犯。這種“幽靈死鎖”最折磨人。對(duì)付無法復(fù)現(xiàn)的問題核心思路是“下次出現(xiàn)時(shí)留下足夠信息”。沒有現(xiàn)場(chǎng)證據(jù)再怎么猜都只是猜測(cè)。所以基礎(chǔ)工作必須做在前面部署試試看前面說的看門狗心跳、鎖超時(shí)日志、全線程棧轉(zhuǎn)儲(chǔ)并且轉(zhuǎn)儲(chǔ)文件要自動(dòng)保留多份覆蓋舊文件而不是就保留最新一份。很多問題不是沒出現(xiàn)而是出現(xiàn)的時(shí)候現(xiàn)場(chǎng)早被覆蓋了。另外可以嘗試壓力測(cè)試復(fù)現(xiàn)把采集頻率調(diào)到最高、緩沖區(qū)調(diào)小、界面刷新加速線程間的競(jìng)爭(zhēng)概率會(huì)被放大幾十倍。死鎖是概率問題人為增大競(jìng)爭(zhēng)窗口、延長(zhǎng)運(yùn)行時(shí)間是提高復(fù)現(xiàn)概率最現(xiàn)實(shí)的手段。4. 怎么解怎么防從代碼習(xí)慣到架構(gòu)設(shè)計(jì)4.1 全局統(tǒng)一加鎖順序消除循環(huán)等待既然循環(huán)等待是四條件里唯一“能靠設(shè)計(jì)消除”的那第一道防線就是所有多鎖路徑必須按同一順序。給系統(tǒng)里所有鎖排一個(gè)全局編號(hào)任何時(shí)候都只能從小到大加鎖。還是用上面 A/B 的例子無論線程是誰永遠(yuǎn)先鎖frame_buf再鎖status_map不按這個(gè)順序加的代碼直接就是代碼評(píng)審的一票否決項(xiàng)。這里有個(gè)容易忽略的點(diǎn)同一個(gè)函數(shù)的加鎖順序容易統(tǒng)一跨函數(shù)調(diào)用時(shí)順序容易亂。所以不僅要靠人肉評(píng)審最好引入靜態(tài)檢查工具。比如 C 的clang靜態(tài)分析、Java 的 SpotBugs 死鎖檢測(cè)、Python 的 lock 順序檢查邏輯都可以自動(dòng)化跑一遍。4.2 縮小鎖粒度優(yōu)先無鎖設(shè)計(jì)鎖的粒度越大持鎖時(shí)間越長(zhǎng)沖突概率越高。實(shí)時(shí)采集系統(tǒng)里最應(yīng)該認(rèn)真考慮的是能不能不共用一把“大鎖”而是讓每個(gè)數(shù)據(jù)通道都擁有自己的小鎖甚至直接無鎖化。對(duì)于“一個(gè)生產(chǎn)者和一個(gè)消費(fèi)者”的最典型采集模型完全可以用無鎖環(huán)形隊(duì)列ring buffer來實(shí)現(xiàn)生產(chǎn)者在隊(duì)尾寫入消費(fèi)者在隊(duì)頭讀取只要維護(hù)好讀寫指針的原子更新C 的atomic、Java 的AtomicInteger、Delphi 里的TInterlocked根本不需要鎖。緩沖區(qū)滿了就讓生產(chǎn)者丟棄新數(shù)據(jù)或者覆蓋最舊數(shù)據(jù)一切以實(shí)時(shí)性為先。但這種無鎖結(jié)構(gòu)也有代價(jià)它只適合單生產(chǎn)單消費(fèi)模型多個(gè)生產(chǎn)者同時(shí)寫入時(shí)必須引入額外的原子操作或 CAS 遍歷復(fù)雜度直接上升。我的建議是系統(tǒng)核心路徑用無鎖隊(duì)列邊緣路徑比如日志、配置更新才用鎖不要為了無鎖而無鎖。4.3 給每個(gè)鎖加超時(shí)拒絕無限等待死鎖之所以致命很大程度上是因?yàn)殒i等待是無限期的。線程永遠(yuǎn)等下去系統(tǒng)就永遠(yuǎn)卡下去。如果把“無限等”改成“等不到就放棄”即便真的死鎖了線程也能通過超時(shí)回退來自我恢復(fù)至少能把現(xiàn)場(chǎng)暴露出來。Windows 臨界區(qū)自帶TryEnterCriticalSectionLinux pthread 可以用pthread_mutex_timedlockJava 的ReentrantLock.tryLock(timeout)Python 的acquire(timeout...)C# 的Monitor.TryEnter(lockObj, TimeSpan)——幾乎所有主流語(yǔ)言都提供了帶超時(shí)的鎖獲取接口。以“無超時(shí)的鎖等待”為標(biāo)準(zhǔn)寫法就是一個(gè)立竿見影的整改項(xiàng)。信號(hào)量同樣要帶超時(shí)。WaitForSingleObject(handle, 1000)比單純無限等待好太多等不到就打印日志、繼續(xù)下一次嘗試系統(tǒng)就算遇到短暫沖突也不至于徹底僵死。4.4 鎖內(nèi)絕不做耗時(shí)操作和不認(rèn)識(shí)的調(diào)用這條我視為鐵律鎖保護(hù)的是臨界資源的“讀和寫”鎖內(nèi)不要做數(shù)據(jù)庫(kù)操作、磁盤寫、網(wǎng)絡(luò)請(qǐng)求、UI 同步更不要調(diào)用任何外部注冊(cè)的回調(diào)函數(shù)。為什么因?yàn)殒i內(nèi)一旦調(diào)用了“你控制不了的代碼”你就無法保證那個(gè)代碼會(huì)不會(huì)回頭再拿同一把鎖或者其他線程的鎖?;卣{(diào)往往是死鎖的導(dǎo)火索因?yàn)樗峭獠看a注入到鎖保護(hù)區(qū)域里的一顆定時(shí)炸彈。如果確實(shí)需要在鎖內(nèi)做復(fù)雜處理比如從網(wǎng)絡(luò)收到了配置需要更新共享狀態(tài)那就先把數(shù)據(jù)從鎖內(nèi)拷貝出來在鎖外做處理再用一個(gè)獨(dú)立的鎖或原子提交去更新狀態(tài)。這個(gè)模式叫“臨界區(qū)內(nèi)只留必需品一切可能阻塞的操作全部外置”。4.5 引入看門狗和死鎖檢測(cè)機(jī)制架構(gòu)層面強(qiáng)烈建議給系統(tǒng)設(shè)置一個(gè)“自我診斷”能力??撮T狗線程剛才提過它負(fù)責(zé)定期檢查關(guān)鍵線程是否還在心跳范圍內(nèi)運(yùn)行一旦超時(shí)立即生成線程棧轉(zhuǎn)儲(chǔ)并且嘗試恢復(fù)比如讓出鎖資源、殺死并重建某個(gè)僵死線程。還有一個(gè)更輕量的檢測(cè)技巧用一個(gè)全局“鎖年齡”計(jì)數(shù)每次鎖被正常釋放時(shí)遞增。如果某把鎖超過一段時(shí)間沒被釋放就有很大概率是死鎖現(xiàn)場(chǎng)。這個(gè)方案實(shí)現(xiàn)成本低卻非常實(shí)用很多工業(yè)軟件就是這么干。4.6 用對(duì)人用好語(yǔ)言特性語(yǔ)言層面也有不少可以借力的地方。C 優(yōu)先用std::scoped_lock或std::lock一次獲取多把鎖避免人為排列順序。Java 的synchronized是可重入的但要注意接口回調(diào)里的鎖嵌套R(shí)eentrantLock有超時(shí)和中斷能力比 synchronized 適合復(fù)雜場(chǎng)景。Python 雖然有 GIL但不代表沒有死鎖threading.Lock在多個(gè)資源的鎖嵌套下照樣死鎖同樣需要遵循加鎖順序原則。Delphi 的TMonitor可以做超時(shí)等待但舊代碼習(xí)慣用TCriticalSection的話還是那句話想盡辦法包一層超時(shí)封裝。5. 常見死鎖場(chǎng)景速查與幾條個(gè)人經(jīng)驗(yàn)5.1 高頻死鎖場(chǎng)景速查表場(chǎng)景典型表現(xiàn)排查線索預(yù)防手段鎖順序不一致ABBA兩個(gè)以上線程堵死在互等棧上出現(xiàn)交叉的鎖等待全局統(tǒng)一鎖編號(hào)順序持鎖調(diào)用回調(diào)外部代碼在鎖內(nèi)又去拿其他鎖棧里能看到回調(diào)函數(shù)被鎖包裹回調(diào)移到鎖外執(zhí)行條件變量通知丟失線程永久阻塞在 wait檢查信號(hào)時(shí)序確認(rèn) wait 之前是否有通知發(fā)出回歸條件循環(huán)檢查持鎖 wait信號(hào)量計(jì)數(shù)透支消費(fèi)者線程全體阻塞計(jì)數(shù)為 0 但緩沖區(qū)仍有數(shù)據(jù)每次 post 與 wait 嚴(yán)格配對(duì)用日志統(tǒng)計(jì)計(jì)數(shù)變化Delphi 的Synchronize反向等待主線程卡死后臺(tái)線程卡死主線程棧阻塞在消息循環(huán)用 Queue 替代 Synchronize遞歸鎖誤用同一線程套兩層鎖在另一線程上下文持有棧上出現(xiàn)兩次同一鎖地址區(qū)分可重入鎖和不可重入鎖5.2 幾條直接可以抄作業(yè)的經(jīng)驗(yàn)第一所有鎖相關(guān)代碼必須放進(jìn)一個(gè)統(tǒng)一的封裝模塊不要散落在業(yè)務(wù)代碼里裸寫。哪怕只是在外面包一層超時(shí)函數(shù)后面排查的時(shí)候受益無窮。第二日志和心跳不能省。在實(shí)時(shí)采集系統(tǒng)里日志不是 debug 工具它是事后還原現(xiàn)場(chǎng)的唯一證據(jù)。你一定不希望死鎖發(fā)生之后只能靠“我記得當(dāng)時(shí)好像…”這句話來破案。第三代碼評(píng)審時(shí)固定問三個(gè)問題這個(gè)函數(shù)持鎖多久持鎖期間調(diào)用什么另一個(gè)線程同時(shí)會(huì)拿什么鎖這三個(gè)問題只要答不利索代碼就別合進(jìn)去。第四時(shí)不時(shí)給系統(tǒng)人為制造一下競(jìng)爭(zhēng)壓力。比如故意把采集緩沖區(qū)改小、提高刷新頻率讓線程碰撞的概率變大。死鎖這種概率性問題暴露得越早越好不要等到生產(chǎn)線現(xiàn)場(chǎng)才讓它現(xiàn)形。第五萬一真的在運(yùn)行現(xiàn)場(chǎng)碰到死鎖第一時(shí)間做的事不是亂點(diǎn)鼠標(biāo)而是立刻抓全線程?;蛘咿D(zhuǎn)儲(chǔ)文件然后再?zèng)Q定殺不殺進(jìn)程。手里沒有證據(jù)就重啟下次八成還會(huì)再踩同一個(gè)坑。我自己這些年折騰下來最深的一個(gè)體會(huì)是死鎖從來不是“改一行代碼就能解決”的問題它更像是系統(tǒng)設(shè)計(jì)階段的負(fù)債越晚還利息越高。與其等它爆發(fā)了再熬夜排查不如在設(shè)計(jì)初期就把鎖的用法、全局順序、超時(shí)機(jī)制、看門狗方案一并想清楚。多線程實(shí)時(shí)采集系統(tǒng)的核心目標(biāo)是“穩(wěn)”而“穩(wěn)”的起點(diǎn)就是讓死鎖這個(gè)幽靈從根上就沒有容身之處。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
婷婷五月丁香五月| 欧美午夜视频免费观看| 香蕉色网| 久久曰曰| 91偷拍欧美亚洲| 国产农村一一级特黄毛片| 美国日韩黄片| 欧美AB在线| 热的中文 热的有码 热的国产| 婷婷月色| 九九色图| 精品人人插人人操| 天天色综亚洲91污| 免费人成?大片在线播放| 欧美专区日本专区| 熟女91网站| 日本精品一区二区三| AV高清一区| caopeng97| 五月天婷婷欧美三区| 欧美日韩国内不卡| 欧美黄片欧美黄片xxx| 国产日韩无码一区二区三区久久区| 日本999精品| 久久久婷| 丁香九月激情啪| 性暴力欧美猛交在线直播| 久久久久久免费电影| 亚洲美欧999| 欧美性爱五月天| 免费国产视频| 国产精品一二三在线看| 人人色97| 乱伦日本色图AⅤ| 成人精品一区二区91毛片不卡| 国产无码精品成人| 啊啊啊好多水| 超碰欧美| 国产最新小视频在线播放下载| 天天碰操中国年青熟妇| 屌逼传媒| 青青草日逼视频| 夜夜一区二区| 97精品久久久久久久| 九九色图| 天天摸夜夜摸| 中文字幕人妻资源在线| 中文字幕精品一区二区精品| 97超碰色色| 久久久性| 97人人夜| 天天日夜干| 蜜乳av一区二区三区| 爱欲AV| 色九月婷婷| 99久久综合| 高树玛利亚无码流出| 91neishe| 久久久久深夜无码| 日本孕妇一区二区视频操逼免费看 | 男人天堂.AB| 久久99999| 久草久日| 国产精品亚洲无码| 天天插夜夜操| 高清无码在线播放网站| 欧美久热| 欧美在线中M| 久久久91福利姬| 男人的天堂久久狠| 丰满人妻被猛烈进入中| 五月婷婷综合在线| 国产精品乱码久久久久久| 狠狠操狠狠操操| 国产精品ⅴ无码大片在线看.| 日本成人A片免费看| 日本人妻伦在线中文字幕| 亚洲乱熟女一区二区三区大香蕉| 亚洲高清色综合| 久久久久久久78| 亚洲色欧| 亚洲色图欧美视频| 欧美少妇内射| 日本操逼aaaaa| 动漫爆乳3D奶水一区在线观看| 内射小黄片| 国产精品一区二区亚洲人成毛片 | 久久久禁| 久久国产乱子伦精品免费女人| 手机在线人成免费视频| 婷婷另类小说| 青青草色AV| 加勒比综合| 免费观看国产不卡av| 果冻国产精品麻豆成人av| 亚洲国产成人高清在线| 60秒免费小视频| 综合网亚洲1| 亚洲女毛多水多21P| 91亚洲不卡一区| 综合网欧| 午夜精品五区| 久久九九久精品国产尤物|国产精品爽黄69天堂A片潘金莲,国产亚洲精品第一综合 | 日本免费一区二区不卡| 在线免费观看日韩一区| 中文字暮97| 欧美亚洲首页| 哈哈操电影AV| 亚洲限制级| 99999亚洲| 亚洲最新a在线观看| 极品丝袜无码| 老司机天天操| 日夜干射色啊| 高潮的A片激情扒开一区| 99精品在线| 久草男人天堂| 亚洲中文字幕三级在线| 操久久久久| 猛交交| 久久这里只精品99re66图| 丁香五月性| 青青青操| 亚洲第一男人天堂| 小视频国产| 97色色网| 欧美高清16| 丁香婷婷大香蕉| 精品人妻夜夜草| jiujiujiujingpin| 久久久久久久久久va| 99婷婷| 人、人、摸,人、人、草| 91无摭挡| 成人一二三区| 超碰碰碰碰| 欧美色老汉| 国产极品粉嫩馒头一线天av| 人妻99p| 欧美色图亚州激情| 久久久久久人体| 91在线精品| 四虎影视永久在线观看精品免费网站 | 欧美极品女人的天堂| 屁股久久久久久久久| 五十路三区在线| 欧洲色| 啊v在线观看视频| 婷婷九月| 麻豆综合一区av| 久久黄黄| 国产多人在线观看视频| 色诱中文字幕| 精品亚洲一区在线观看| 午夜精品久久久久| 人人射人人操人人摸| 超碰在线日韩一区| 国产精品久久久久久久毛片1| 日韩美女高潮喷水视频| 8050午夜少妇无码| 人妻天天爽| 色婷婷亚洲婷婷| 婷婷色综合欧美日韩| 亚洲日韩精品在线播放| 家庭乱伦麻豆| 男人天堂 天天射| 五月丁香综合| 特级特黄一级毛片免费| 一级免费精品| 国产精品 午夜福利| AV污污污污| 青青草毛片| 黑人粗大V S日韩女优视频| 黄色二级片网站| 色婷婷五月综合| 黄页网站免费高清在线观看| 久久 国产 无码| 尤物视频偷拍免费| 精彩国产视频播放1区2区| 丰满人妻一区二区三区性色| 中文字幕欧美日本乱码一线二线| 成人婷婷丁香| 日韩国产不卡在线视频| 国产精品电影大全| 欧美成人A天堂片在线观看| 国产一级作爱毛片| 国产无马在线| 人妻丰满熟妇av无码区蜜桃| 牛牛AV人人夜夜澡人人爽| 开心激情婷婷| 欧美v亚洲v综合v国产v妖精| 超碰欧美97资源| 人妻密肉在线观看| 国产精品电影| 黄片aaaaa一区| 噜噜噜在线视频| 国产偷人伦激情在线观看| 欧美日韩亚洲五月天婷婷| 欧亚洲精品有视频| 欧美天天插| 婷婷五月天激情网| 五月婷婷激情| 96AV精品| 特级大荫道BBwBBwBBW| 婷婷色一区| av天堂影视中文在字幕在线中文| 91丨九色丨熟女高潮| 亚洲天堂,男人| 成人综合色网| 天天干天天日天天射黄色| 欧美激情性久久久久久| 午夜福利无毒不卡| 欧美日韩在线小说| 亚洲综合网91| 久操视频这里只有精品| 欧日韩一二三f区| 屁股久久久久久久| 校园春色亚洲色图| 国产精品久久久啊| 色色毛片| 91在线精品| 91日韩网站| 97伦综合| 综合夜夜| 日韩成人高清一区二区| 一区二区三区视频国产免费| 亚洲精品国产精品乱码不99| 91黑丝美女| 目产99999久久999| 无遮挡一级毛片视频免费的| 亚洲男人天堂视频| www.99中文字幕| 1.igao73.com 加入收藏 免费专区 国产精品 中文字幕 日韩精品 欧美精品 精彩 | 性暴力欧美猛交在线直播| 97免费视频在线观看| 黄色香蕉视频网站一区| 一本久道在线综合视频| 人人插人人摸人人| 九色 人妻 大香蕉| 欧美日韩精品青青| 一区不卡在线观看av| 精品久久視頻在线| 九久久精品| 9Ⅰ老熟女| 蜜乳Av成人片网站| 成人av动漫在线观看| 骚逼高潮久久精品| 9精品久久| 天天干嫩逼网| 色99色| 久操av在线| 国产精品黄色三级av| 国产精品操| 日日爱99| 亚洲成人性爱在线观看| 美女啊啊啊啊啊啊啊| 久久久精品中文字幕麻豆| 国产日本顶级一区二区三区| 妇女性内射冈站HDWWWCOM| 五月婷婷综合在线| 欧美情色贴图| 色综合1991| 国产精品成人无码a v毛片| 大香蕉520| 2019午夜福利视频| 精品少妇人妻av久久免费| 九九热超碰97亚洲最新香蕉| 九九九精品| 欧美一区91大爱| 少妇高潮一区二区三区在线| 妇女性内射冈站HDWWWCOM| 亚洲成a人在线观看久| 91狠婷| 久久精品操| 日韩中文字幕人妻视频| 第四色亚洲色图| 国产精品成人AV片免费看网站| 在线v中文字幕一区二区三区| 91美女在线视频| 欧美体内射精| 久久精品国产亚洲AV成人直播| 男人的天堂,欧美亚洲另类国产日韩,日本高清一区二区 | 裸体美女国产免费久久久网站| 亚洲 欧美 色图| 中文自拍欧美影视| 精品78| 你草精品在线视频| 中文字幕一二区二三区人妻专区| 天天影视射综合网| 91高清无码下载| 九九九九九九九九九九九九九九九女| 另类小说综合网| 国产乱码精品久久久久久| av强奸乱轮| 日韩八十路老熟女| www.色操逼| 久久精品店| 久久深夜无码| 99久re热视频精品98| 肉丝中文无码高清| 国产精品九9| 蜜乳AV一区| 91亚洲最新在线| 夜夜夜久久| 操美女高潮抽搐白浆| 热99这里有精品综合久久 | 国产一区二区在线播放,久久亚洲精品中文字幕第一区,亚洲精品在线中文字幕视频 | 国产精品日日摸天天碰| 国产又操| 日本操逼视频免费| 在线天堂999| 色情乱伦AV| 久草这里只有精品| 99在线啪| 歐美性天天| 亚洲日本成人动漫| av午夜影院在线播放| 噜噜噜噜久久久精品免费| 91 丝袜在线| 一起草精品人妻| 国产精品久久妻无码网站| 老女人老91妇女老热女| 男人天堂站| 五月天激情四射| 91精品亚洲内射孕妇| 亚洲国产午夜真人一级片中文字幕精品黄网站 | 717影院理论午夜伦八戒| 欧美 亚洲| 欧美中字不卡| 99999久久久久9国产精品| 在线不卡视频| 人人看人人摸人人色| 91亚洲人| 超碰97资源大奶| 狠狠操狠狠插| 精品久久99| 国产亚洲女v在线观看| 3P丝袜熟女 色综合| 欧美亚洲国产日本在线,久久精品国产| 欧美 亚洲 制服 精品| 亚欧国产无码精品在线| JuliaAnnXXX888| 无码九九| 懂色影视久久| 色综和网| 四虎 精品 WWW| 看日韩美女二区三区免费操逼视频| 精品国产91av一区二区三区| 18啪啪手机免费性爱| 无码不卡亚洲成?人片| 国内伊人久久久久久网站视频| 性欧美999| 9 1果冻精品视频| 欧美色图91| 天天影视色香欲综合网小说| 国产精品爱欲| 国产精品免费视频人成| 99天堂网| wwwcaobibi| 黑人精品XXX一区一二区| 男女国产精品| 翔田千里A片一区二区| 精品日日人妻| 婷婷五月天基地| 国产精品无码AV网站| 香蕉人人操tv| 蜜臀久久99精品久久久老,,| 欧美72网页| 国产精品3| 爱丝福利| www.亚洲成人一区| 亚洲精品国产熟女| 草草影院最新网址| 一级aaaaa欧美中文字幕录像片| 日韩性爱啪啪视频| 国产91 丝袜在线播放00-百度| 久久久久99精品成人片蜜臀| 偷拍盗拍亚洲色图图片| 亚洲成人激情小说视频| www.狠狠干.coom | 天天日B夜夜干B时时操B| 丁香五月婷婷基地| 亚洲熟女乱熟乱熟妇综合网二区| 99日视频在线免费| 久久人| A级国产欧美激情在线| 国产精品黄色三级av| 欧美少妇熟女| 欧美片第一页| 漂亮人妻被强中文字幕hd| 婷婷五月天激情四射| 国产女同在线观看视频| 激情综合网激情五月天| 99999精品视频| 9/A片| 国内精品久9| 视频在线观看免费一区二区三区| 91成人在线| 素人伊尹大香蕉免费下载视频| 久久av无码| 尹人大香蕉视频在线| 91色宗合| 99热婷婷| 少妇高潮一区二区三区在线| 国产97视频免费观看| 五月天九九日国产精品一区二区三区| 亚洲字幕一区二区| 欧美黑人极品高潮喷吹熟女黑人性暴力日韩在线欧美极品一区二区老师 | 久久久久亚洲三级电影| 国产农村一一级特黄毛片| 美女露胸露屁股| 性高潮久久久久久久久久久| 久久久久国产一区二| 在线五区| 三级特黄60分钟播放| 在线 制服丝袜中出 人妻| 老鸭窝成人| 国产精品青草综合久久| 欧在线一二区| 色眯眯av| 亚洲高清无码AAA久久久精品| 午夜综合在线| 强奸乱伦亚洲第一页| 久久久久久久久久久久97| 欧美福利视频啊啊啊啊| 98超碰日本| 久久久99久9| 蜜臀一区二区三区亚洲最新章节在线观看 - 高清蜜臀一区二区三区亚洲全集播放 | 99国产在线绯色一区| 久久婷婷电影网| 天天综合欧美综合| 国人欧美精品一区二区| 婷婷人妻激情| 婷婷性爱| 97超碰人人操人人操| 天天日B狠狠操| 一个色导综合| 欧美日韩中国x| 自拍偷拍国产欧美日韩韩| 久偷拍| 日韩黄色一区二区三区| 成人青青草原伊人| 97超碰碰碰| 中文字幕人成乱码熟女香港| 色欧美色交综合| 67194无码不卡| 久操91视频| 嫩草 我啊~嗯~在线| 婷婷五月天补不补| 五月天婷精品激情| 秋霞Av理论一级在线| 绯色AV粉色AV蜜臀AV| 高清无码 国产精品| 亚洲男人天堂网站| 色色综合97| 天天影视色香欲综合网小说| 97精品国产精品免费观看| 久久激情视频| 国产伊人精品在线| 九草在线大香蕉| 嗯啊抽插大香蕉网页| 97久久超碰| 久久超碰大香蕉| 亚欧美综合网| 国产第11页| 五月天婷婷综合网| 26uuu国产免费观看| 最新制服中文第一页| 鲁鲁色综合网| 久久亚洲av成人无码国产| 午夜男女爽爽大片免费观看| 208天天久久九九九| 91色爽欧美| 校园春色制服丝袜中文字亚洲| 亚洲古典另类欧美在线| 伊人网青青| 日本一区不卡| 操逼网站网站| 欧中美三级一区二区三区| 97超级欧美| 高凊专区人人操| 德国一二三不卡| 亚洲天堂另类美腿| 国产伦精品一区二区三区在线观| 东北老熟女| 黄色大片一区二区密桃丝袜| 日本激情免费大片| 另类天堂| baiduhicn.com。| 欧美黑人91| 97在线/亚洲| 中文字幕视频免费| 99久久久| 国内精品嫩模A∨私拍小视频| 亚洲国产精品成人综合| 草草影院最新网址| 亚洲蜜乳av| 欧美婷婷五月天| 日本高清电影欧美色图| 九九玖玖精品| 校园春色综合色| 91爱看| 色婷婷一区二区三区久久午夜| 91国产伊人大香蕉| 欧美综合天堂| 欧美人人操人人插| www.av在线观看| av资源在线观看少妇| 国产精品女同| 97免费免费视频网| 啊啊啊骚| 精品一区二区三区免费古装毛片香港三级日本三级人妇 | 久久夜色一区二区| 久久精品日韩专区免费观看| 天天日骚逼熟女| 97超碰精品图片| 午夜精品久久99蜜桃的功能章节| 亚洲人妻在线一区| 久久人妻办公室视频| 97爱爱爱综合| 亚洲色图第一页| 狠狠爱综合网| 亚洲AV无码国产精品久久久久 | 巨爆乳肉感一区二区三区竹菊影视| 亚洲最大91网| 亚洲诱惑| 亚州一区二区| 国产高清精品一区二区三区毛片| 婷婷丁香五月综合| 亚洲情色在线| 蜜臀99久久| av日韩在线观看电影| 日韩在线观看中文字幕视频| 久久综合久久综合人久久夜精品| 91高潮喷水美女| 国产粉嫩蜜臀av一区二区三区| 亚洲少妇中文字幕网址| 操美女人妻| 国产成人五月天丁香花| 久久永久无码人妻视频| av婷婷色婷婷色六月| 99在线免费公开视频| 亚洲av强奸乱伦| 99.色网| 国产视频第二页| 久久久久久久国产视频| 欧美中文字幕一区 | 日韩午夜精品一区二区三区电影| 黄色二级片网站| 懂色Av一区二区三区| 激情网色| 嗯嗯啊啊好疼| 亚州色综合| 国产在线激情视频| 欧美一二三区四五区| 中文字幕乱亚洲美女精品一区| 国产精品嫩草久久久久| 日本丝袜美腿人妻九九| 丰满搜索结果 -第18页- 久久高清无码 | 久久成人国产精品| 99国产精品在线观看| 99久久婷婷丁香| 五月丁香久久| 国产精品69久久久久久久| 日韩免费av片高清无码| 九月丁香| 99热在线只有精品| 91网九色蝌蚪操熟女| 欧美亚涩| 性性欧美| 亚洲综合激情五月久久| 日韩欧美视频青青| 超碰99在线| 精品九九国产无码| 亚洲国产日韩欧美熟妇在线| 欧美色图在线视频少妇| 秋霞免费AV| 男人的天堂日本东京热| 色屁屁影院www国产| 蜜桃臀 后入 一区 二区 三区 在线| 四虎影视欧美| 凹凸视频在线观看伊人| 日日日骚女人精品| www.91理论| 天天色踪合| 亚洲AV性爱电影| 四虎884a| 国产精品无码久久久久2025| 中文字幕AV片| A V视频日本| 日本一区二区电影网站| 免费中文综合精品| 艳美熟妇先锋一二三区| 国产在线观看一区二区三区| 亚洲第一页色| 国产精品直播在线观看直播| 丰满搜索结果 -第18页- 久久高清无码| 富女玩鸭子一级毛片| 男人亚洲91首页在线| 9丨久久九九九| 99熟女| 国产精品97视频| 九九RE视频在线精品| 极品AV网站在线观看| 久草尤物| 熟女自慰久久久| 91无遮挡| 中文字幕88av在线| 一区二区免费电影久久| 天天夜夜久久| 日人妻视频91| 91老司机精品| 香蕉99秘 精品一区丁香| 国产品精品自在在线午夜免费 | 神马久久久久眼| 国产无码久久高清| 亚洲精品久久久久久久久豆丁网| 91东北熟女| 91美女在线视频| 男女做爰猛烈动高潮A片免费应用| 人妻熟女字幕一区二区| 欧美人体性爱互联网第一页婷婷日本| 91啪9色| 三级特黄60分钟播放| 精品人妻一区二区三区视频| 国模吧 一区二区三区| 96麻豆精品一区二区三区| 国内精品久久国产,www香蕉久久五月丁香,亚洲欧美日韩精品永久在线,日本精品一 | AV无码久久久精品| 亚洲天堂电影网99999| 天天躁日日躁狠狠躁| 日韩二三区| 人人爱人人操人人性| 天堂麻豆天美| 午夜一区| 成年无码动漫av片无尽在线 | 老鸭窝成人免费毛片视频| 极品丝袜无码| 欧美激情性爱视频网站| 久9爱精品| 久久这里只精品99re66图| 草草电影院| 精品二区三四区五电影| 日本天天操| 亚洲天堂资源在线| 啊啊啊啊啊操我视频| 久久产精品一区二区三区电影| 欧美日韩美女精品久草一区二区三区 | 熟女精品一区二区在线观看| 志村玲子视频一区二区| 一本大道不卡一二三区| 色97欧美| 亚洲第91页 | 欧美夜夜骑视频| 色香综合天天影视综合| 又大又黄国产| 国产性爱在线视频一区二区| 97超碰大| 天美传媒av一区二区| 九月婷婷综合| 人人操人人摸avav| 啊啊啊水好多| 三上制服丝AV| 亚洲女毛多水多21P| 色综合一区二区三区| 亚洲欧美日韩国产丝袜自拍中文| 中文字幕大片三级狠狠干| 91成人高清在线观看| 99久久99九九99九九九| 色一射色一射| 亚洲国产97在线精品一区| 精品999日本| 99热最新| 欧美日韩另类在线播放| 91 偷| 精品久久久久,69国产成人精| 少妇无码av专区线| 国产品精品自在在线午夜免费| 超碰偷拍| 中文字幕亚洲欧美在线不卡| 婷婷五月色| 亚洲五码一区二区三区| 亚洲一二三四区| 亚洲91网站| 91粉芽高清在线一区二区| 欧美高清无码免费视频高清版| 4虎在线观看| 风月影院男女十八禁| 91亚洲黑人| 亚洲操逼无码| 亚洲最新中文字幕免费| 在线综合 亚洲 欧美中文字幕| 精品人妻一区二区三区不卡断| 大香蕉在线SuP| 热久日综合| 99久久这里只有精品| 免费簧片在线观看| 免费一级特黄特色大片在线观看看| 97免费视频在线观看| 99久久99九九99九九九| 国产AV线| 国产91丝袜在线播放蜜月| 免费伦费视频在线观看| 精品欧美乱码久| 9999久久久久| 成年人免费观看网站| www.夜夜操| 免费1级a做爰片观看| 蜜臀久久99精品久久久| 99性爱| 中文字幕欧美丝袜07资源| 精品国产少妇高潮视频| 亚洲av在线免费观看| 精品久久久久久无码| 国产资源中文字幕在线| 欧美一区二区| 九久9精品| 久久久不卡| 91色花堂| 九九九九97| 天天热精品| 亚洲成人一区二区精品| 探花视频免费观看国产专区| 国产91影院| 夜草欧美| 锕锕好爽 死我在线观看| 青青欧洲黑| 黄色二级片网站| 亚洲91极品| 欧美色图片91| 按摩中文字幕| 久久色激情一区二区三区| 抽查国产福利主播| 91是天天| 久久精品视频在线观看| 久九九九九九九热| 天美欧美国产| 久艹99| 91色欧美| 校园春色第一页| Aa东京男人的天堂| 91综合天天看| 亚洲色性| 一级性爱网| 99老司机精品视频在线观看| 插日本熟女视频| 久操操AV电影| 亚洲天堂中文字| 青草成人免费视频一COm| 乱伦图一区| 亚洲drav色图| 91精品少妇搡搡搡| 成人AV素股で擦久久| 中文字幕天天天天天| 2020中文字幕在线| 色婷婷成人综合| 久久久月天| 国产农村妇女精品1区二区| 国产精品一区二区 尿失禁| 乱色视频中文字幕| 亚洲熟妇图片| 99久久久无码| 69人妻精品丰满熟女区| 综合网亚洲1| 大白逼三四级| 91肉丝| 免费一级黄色录像影片| www九九热| 国产精品国产自产拍高清AV| 久久同城AV| 亚洲人综合19| 人人操人人操人人人操| 色yeye成人免费视频| 天天爱天天韩国日本牛牛牛牛| 人妻天天夜夜爽一区二区| 97精品国产手机| 少妇的嫩逼图片| 国产精品人人爽人人做可爱福利| 亚洲AV无码乱码在线观看性色| 日韩一级特黄av毛片| 91熟女熟妇视频网站| 色www精品视频在线观看| 亚洲a色| 操逼www.| 久久国产视频性吧| 日本大香蕉| 97伦乱| 97久久久久| 亚洲自拍小说| 婷婷综合伊人一区| 福利在线观看一区二区| 人妻一区二区三区| 玖玖爱伊人玖玖爱| 天天狂操夜夜狂日| 色综合av男人天堂| 久久精精区一区二区一蜜桃一区二区| yiren97| 日韩精品啪啪啪| 脫衣舞一区二区三区| 爱爱动态120秒| 青草影院内射高潮| 亚州熟女乱伦| 三级三级三级日本99| 久久熟女久| 91精品人妻偷情| 婷婷五月成人| 日韩久草| 精品在线蜜臀| 美国日韩黄色片| 欧美色图成人网一区二区 | 伊人一区二区三区| 91亚洲网站| 亚洲免费成人在线高清无码视频| 久久黄黄| 蜜桃臀AV在线| 亚洲成人久久一区二区| 亚洲图片在线| 91小视频| 色婷婷日韩精品一区二区三区| 啪一啪免费视频| 亚洲综合大片| 亚洲AV成人无码久久精品播放| 91强热人妻| 99re久久| 蜜臀av中文字幕| 国产亚洲精品久久久久小| 91欧美高清| 中文字幕福利视频一区二区三区在线观看| 玖玖资源综合在线视频| 少妇内射www在线观看视频| 97免费在线观看| 丁香五月激情啪啪| 91欧美少妇| 无码直播久久久| ,国产乱人伦精品一区二区三区| 日本精品九九九| 无码国产Av| 艳尻美人妻| 强奸乱伦AV一天堂网| 女人妻一区| 亚洲欧美天堂| 美女人妻色网站| 亚洲毛片基地专区| 亚洲精品一区中文字幕乱码| 欧美色网络| 美女刺激久久国产欧美| 久久啊啊啊| 久久精精区一区二区一蜜桃一区二区| 婷婷五月色| 欧美视频一| 国产乱子伦一区二区三区免看| 综合欧美日本三级| 国产精品视频内谢女人| 色盈盈影院| 久久精视频美日韩在线视频| 欧美激情黑人| 久热精品在线| 久久久九九网站| 日韩欧美中文字亚洲慕| 曰本熟女视频| 久久久精品无码亚免费| 91在线视频国产网站| 超碰无码五月97| 国产精品国产自产拍高清AV| 久操不卡视频| 国产精品第一区第一页| 亚洲中文字幕久久无码精品| 性色国产东北露脸精品视频| 欧日韩不卡视.频| 青娱乐福利99| 高清不卡 中文 人妻| 清清一区二区三区四区不卡视频| 亚洲春色一区二区三区| 91 丝袜在线| 性爱乱伦网址| 精品少妇人妻av久久免费| 韩国一级婬片A片无码天美| 人妻丝袜美腿中文字幕| 97九色人妻| 大香蕉乱级| 久久有码| 久久激情亚洲精品无码?V| 欧美色图亚洲色,麻豆| 伊人婷婷五月天| 日本ZZ高免费A级视频| 麻豆久久久一区二区| 无码二级三级| 91neishe| 国产视频一区二区三区在线免费观看 | AV色五月| 99色| 久久人妻| 亚洲诱惑| 色色婷| 伊人国产成人av网站| 狠狠躁天天躁日日躁| 无套内射人妻在线播放| av草草在线电影| 国产精品午夜高潮呻吟久久av| 日本熟妇自慰性高潮一区二区三区| 免费亚洲黄色视频在线观看| 蜜臀无码一区二区| 啊啊啊啊嗯嗯嗯用力好爽 | 超碰9 7女人| 美女尤物福利视频| 韩国免费播放一级毛片| 亚洲一区制服诱惑| 久久久久13| 日本熟女中文字幕一区| 91 偷| 制服诱惑亚洲一区二区三区在线观看| 亚洲成人网站在线观看| 国产精品久久久久久高清无码免费看| 99这里都是精品| 自拍盗摄一区| 日韩av乱伦| 久久av无码| 情色图区| 天美传媒在线一区| 综合五月天| 1人人看人人摸人人操| 欧美性色欧美| 乱理日韩中文| av一区二区三区 中文| 强奸乱伦 亚洲一区| 人妻少妇无码 | 国产天美传媒精品| 国产少妇肉丝在线观看| 2019久久久久久久久福利| 91视频综合在线| 大香蕉综合| 久久精品国产亚洲AV高清演员表| 欧美午夜熟妇黑人精品91| 少妇500双飞99| 天天爽天天干| 青娱乐国产精品| 国产美女销魂在线观看不卡| 夜夜欢天天干| 欧美日日人人天天| 75大香蕉| 亚州少妇| 免费啪啪啪网站18岁| 国产亚洲精品无码三区| 欧美色青| 一本大道久| av线电影| 人妻啊啊人妻啊| 国产欧美亚洲精品a第2页| 国产偷人伦激情在线观看| 日韩精品一区二区人人人| 欧美激情欧美精品| 欧美综合骚| 丁香五月自拍| 亚洲精品成人激情在线| 人人操人人操人人操人人操人人操人人人11.CM | 一级久久性爱视频| 超碰免费97| 99999久久精| 欧美高清性猛交| 亚洲精品一区二区三区新线路| 综合五月婷婷| 亚洲码专区| 波多野结衣之双飞调教在线播放| 熟女人妻精品一区二区视频| 日本ZZ高免费A级视频| 在线情色电影 91大 | 人妻少妇无码| 欧美色图99| 97草草| 老熟妇一区二区三区啪啪| 大香蕉中文aV在线| 熟妇熟女一区二三区| 嗯嗯嗯好爽| 国产成人在线观看综合| 太久视频| 色哟哟AⅤ| A级在线视频| 男人的天堂1024| 欧美高清91| 日日骚一区二区三区| 色97国产69香蕉| 国产精品一级二级在线| 人妻黑丝袜电影| 欧美亚洲se91| 国产丰满少妇久久久精品影院| 青青草国产亚洲精品久久| 精品免费一区二区三区在线亚洲人成| 国产按摩一区二区三区| 屌色在线97视频| 综合婷婷| 久久东京国产精品视频| 国产97色在线| 国产精品免费视频不卡| 精品少妇一区二区三区在线视频| 欧美做爰无码A片视频| 精品伊人久久久大香线蕉小说| 国产成人久久久精品免费AV| 色爱综合网| 婷婷五月天AV| 九九亚洲| 91亚洲青青草原精品1区| 亚洲国产剧情少妇激情| 成人老鸭窝人人在线视频| 超AV色女| 亚洲91网站| 蜜臀久久精品久久久久视频| 男人天堂最新手机版在线青青草| 亚洲第一男人天堂| 99少妇| 天天综合网网欲色| 欧美综合亚洲综合| 91P0RNY大屁股人妻| AV在线性爱| 日韩久久.一级黄色片| 婷婷五月综合在线| 综合五月婷婷| 久热色情精品| 国产精品制服丝袜中文字幕日韩一区二区三区| 少妇天堂网络| 另类视频在线| 91国产美女丝袜足交精品视频| 97干com| 久久綜合很很很| 无卡一区=区| 欧美日韩国产色五月综合在线| 日本三级精品| 操逼网站网站| 黄色AAAAA欧美| 九九探花视频在线观看| 人人操AV| 色婷婷成人综合| 99国内熟女露脸视频| 精品免费囯产一区二区三区 | 超碰 另类 欧美| 十八禁电影伊人网| 狠狠爱夜夜| 俺去啦俺来也久久综合| 亚洲欧洲综合av在线| 成人综合久久精品色婷婷| 蜜桃久久一区二区三区| http://qxhbdz.com| 热的中文 热的有码 热的国产| 国产91美女视频| a片 xxxx受爽视频| 99久久久er直播网址| 91 刺激在线| 你草精品在线视频| 国产sv美女内射| 国产精品午夜福利亚洲综合网| 日人妻视频91| 亚洲综合婷婷| 欧美18禁91| 中文字幕精品亚洲熟女| 久久久久白虎| 国产精品黄色三级av| 麻豆人妻精品一区二区| 18一区二区三区| 97欧美色综合| 日本一道在线播放高清| 日本一区二区三区四区免费观看| 炮色五月| 狠狠干2020| 人妻少妇久久中文字幕一区二区 麻豆 | 日噜夜夜夜夜夜夜夜夜夜夜爽爽爽爽爽爽爽爽爽爽爽爽 | 91网站18| 青娱乐久久艹| 午夜久久一区二区无码中出| 亚洲国产亚洲天堂| 中文乱码字字幕在线第5页| 亚洲欧洲日韩天堂av| 婷婷五月天激情网| 中文字幕人乱码中文字的预防方法 | 久久久久密臀视频| 成人国产视频在线观看| 久久婷婷综合国际产色怕| 一区,二区,三区网站| 中文字幕久久亚州无码| 日韩激情电影中文字幕| 欧美日韩香蕉| www.一本大99| 亚州欧美色图| 欧美精品自慰系列寂寞少妇| 97色色色综合网站| 蜜臀99精品国产高清在线观看| 中文字幕在线观看永久| 91狠狠综合久久久| 男人天堂网手机版婷婷| 国产亚洲深夜激情| 色色无码| 亚洲综合草草| WWW啪啪的com| 91美腿丝袜在线观看| 青青草国产一区二区三区| 欧美日韩黄片精品在线| 91人人爽人人爽人人人,gav福利视频导航,日韩欧美亚洲国产字幕四区 | 少妇三p| 欧美日韩中文视频播放| 操逼啊啊啊91| 久草新免费| 97超碰超碰| 人人射人人操人人摸| 欧美亚洲影视| 少妇综合网| 玖玖在线视频| 久久精品综合| 国产高清在线观看欧美| 美女大乳久久久久久久女人18| 欧美丰满少妇交换91欧美精品| 午夜福利av电影在线| 日本丝袜美腿人妻九九| 蜜桃香蕉久草精品在线| 日本国产欧美高清在线| 欧美日韩亚洲五月天婷婷| 96久久久久| 国产精品青草综合久久| 超碰天天操你比| 亚洲成人ab| 国产懂色精品国产av| 日韩 欧美 国产 麻豆| 欧洲特黄毛片免费看欧洲毛片| 大香蕉手机在线视频| 亚洲天天更新| 2024人人操人人摸| 91N综合网| 性一交一乱一交A片久久四色| 丝袜无码a片| 操啊国产| 天天做天天爱天天爽AV| 免费视频观看60秒| 色婷婷六月| 熟妇人妻精品一区二区| 精品一二三区久久AAA片| 色偷偷2020免费视频播放| 入口操逼网站| 久久久久网站-538在线视频-欧美永久乱码| 色色网91| 亚熟hd视频在线| 18禁止看精品中文字幕| 91久久18禁| 天天弄天天操| 啊啊啊啊啊啊啊啊啊啊在线观看| 亚瑟国产精品久久无码| 亚州久久9| 久久久久九九九| 日韩有码回春沙龙第一页| 搡老熟女老女人老熟妇免费视频| 玖玖爱视频网站| 亚洲天堂区| 超碰色图| 精品一区二区啪啪啪| 欧美黑人极品高潮喷吹熟女黑人性暴力日韩在线欧美极品一区二区老师黑人潮喷一 | 久久伊人青青草| 激情黄色片在线观看| 亚洲天堂第一页| 国产精品分类在线观看| 久久久网一区| 亚洲成a人在线观看久| a人片中文字幕一区二区| 欧美激情中文字幕另类小说| 97人妻人人躁人人玩人人|