色五月色开心色婷婷色丁香,五月婷婷丁香花综合网,婷婷丁香五月激情综合在线,五月婷婷六月丁香动漫,婷婷丁香五月激情综合在线,丁香花中文字幕在线观看,播五月色五月开心五月网,开心激情综合网,狠狠色丁香婷婷综合最新地址,丁香视频在线观看,狠狠做六月爱婷婷综合av,久久激情五月丁香伊人

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營的一線實(shí)戰(zhàn)洞察。

C#物聯(lián)網(wǎng)平臺(tái)服務(wù)器框架源碼解析:從設(shè)備接入到心跳補(bǔ)償

C#物聯(lián)網(wǎng)平臺(tái)服務(wù)器框架源碼解析:從設(shè)備接入到心跳補(bǔ)償 做C#物聯(lián)網(wǎng)平臺(tái)服務(wù)器框架源碼這件事圈子里一直有爭議。很多人覺得C#做后端不夠“極客”物聯(lián)網(wǎng)就該上Java、Go或者干脆用Node.js。但真到一線做設(shè)備接入、做上位機(jī)聯(lián)動(dòng)、做工廠數(shù)據(jù)采集的時(shí)候你會(huì)發(fā)現(xiàn)C#的生態(tài)遠(yuǎn)比想象中能打WinForms/WPF做上位機(jī)界面順手Socket、Task、Channel這些原生能力做高并發(fā)接入也不虛再加上System.Text.Json、OPC UA、MQTT庫齊全一套語言能把設(shè)備端、網(wǎng)關(guān)端、服務(wù)端全串起來。這篇文章不聊空泛的架構(gòu)理念而是從一套實(shí)際可跑的C#物聯(lián)網(wǎng)平臺(tái)服務(wù)器框架源碼切入拆解設(shè)備接入層、會(huì)話管理、消息路由、指令下發(fā)、心跳補(bǔ)償這些核心模塊是怎么設(shè)計(jì)的每個(gè)關(guān)鍵位置為什么要這么寫踩過哪些坑。適合正在用C#做上位機(jī)、做設(shè)備管理平臺(tái)、或者想從零搭一套IoT服務(wù)端的開發(fā)者參考。1. 為什么用C#構(gòu)建物聯(lián)網(wǎng)服務(wù)器框架1.1 C#在這一賽道上的真實(shí)位置先糾正一個(gè)偏見。很多人一提C#就想到Windows Only想到桌面軟件。但.NET Core/ .NET 5以后C#早已是跨平臺(tái)的一等公民跑Linux服務(wù)器、跑Docker容器、跑ARM邊緣網(wǎng)關(guān)都沒問題。物聯(lián)網(wǎng)場景里服務(wù)器端最核心的訴求無非三件事大量設(shè)備長連接接入、頻繁的小報(bào)文收發(fā)、穩(wěn)定的7x24運(yùn)行。C#的異步編程模型正好是為這種IO密集型場景準(zhǔn)備的。另外有一個(gè)現(xiàn)實(shí)因素是團(tuán)隊(duì)技術(shù)棧。大量做工業(yè)物聯(lián)網(wǎng)、設(shè)備數(shù)據(jù)采集的團(tuán)隊(duì)原本就是用C#寫上位機(jī)、寫PLC通訊、寫MES對(duì)接的。如果服務(wù)器端換成另一門語言意味著團(tuán)隊(duì)要維護(hù)兩套技術(shù)棧。而用C#寫IoT服務(wù)器框架上位機(jī)、采集網(wǎng)關(guān)、服務(wù)端可以共享模型類、協(xié)議庫、工具類這個(gè)協(xié)作效率優(yōu)勢是很多技術(shù)選型文章不會(huì)告訴你的。我之前接過一個(gè)斷路器生產(chǎn)線的數(shù)據(jù)采集項(xiàng)目設(shè)備端是PLC加自定義TCP協(xié)議上位機(jī)用WinForms服務(wù)端要同時(shí)扛幾百臺(tái)設(shè)備的數(shù)據(jù)上報(bào)。當(dāng)時(shí)評(píng)估過用Java重寫后來還是決定用C#統(tǒng)一做。實(shí)際跑下來一臺(tái)4核8G的云主機(jī)輕松扛住了2000長連接CPU占用率穩(wěn)定在30%左右完全夠用。這說明C#在物聯(lián)網(wǎng)接入這個(gè)層面性能根本不構(gòu)成瓶頸反而是開發(fā)效率幫了大忙。1.2 源碼拆解前的整體架構(gòu)畫像我拆過不少開源的C#物聯(lián)網(wǎng)框架比如ThingsBoard的C#版網(wǎng)關(guān)、MQTTnet的源碼、一些工業(yè)網(wǎng)關(guān)項(xiàng)目發(fā)現(xiàn)它們雖然業(yè)務(wù)不同但骨架高度相似。一個(gè)成熟的C# IoT服務(wù)器框架通??梢詸M向切成四層設(shè)備接入層負(fù)責(zé)建立和維持TCP/SSL連接處理粘包半包完成設(shè)備認(rèn)證。常見實(shí)現(xiàn)是TcpListener加異步Socket或者基于MQTTnet封裝。會(huì)話管理層維護(hù)設(shè)備在線狀態(tài)、會(huì)話過期時(shí)間、心跳超時(shí)計(jì)時(shí)給每條連接綁定設(shè)備ID和業(yè)務(wù)ID。消息路由與業(yè)務(wù)處理層把設(shè)備上報(bào)的數(shù)據(jù)解析成統(tǒng)一報(bào)文按設(shè)備類型路由到不同的處理器同時(shí)承載指令下發(fā)邏輯。數(shù)據(jù)持久化與擴(kuò)展接口層把標(biāo)準(zhǔn)化的物模型數(shù)據(jù)寫入時(shí)序庫/關(guān)系庫對(duì)外提供查詢API以及連接消息隊(duì)列做異步解耦。這四層里面最容易被寫砸的是第一層和第二層。很多新手項(xiàng)目上來就在Receive回調(diào)里直接處理業(yè)務(wù)邏輯結(jié)果一個(gè)設(shè)備的數(shù)據(jù)解析卡頓拖垮整個(gè)接入線程。源碼拆解的價(jià)值就在這里看成熟項(xiàng)目怎么通過Channel或BlockingCollection做緩沖怎么用SemaphoreSlim控并發(fā)怎么用CancellationToken做優(yōu)雅停機(jī)。這些細(xì)節(jié)才是框架的魂。2. 框架源碼的核心模塊拆解2.1 設(shè)備接入層從TCPListener到異步Socket絕大多數(shù)自定義協(xié)議的設(shè)備接入起步都是TcpListener。源碼里典型的寫法是private readonly Socket _listenSocket new Socket(AddressFamily.InterNetwork, SocketType.Stream, ProtocolType.Tcp); public void Start(int port) { _listenSocket.Bind(new IPEndPoint(IPAddress.Any, port)); _listenSocket.Listen(1024); _acceptLoop Task.Run(AcceptLoopAsync); } private async Task AcceptLoopAsync() { while (!_cancellationToken.IsCancellationRequested) { var clientSocket await _listenSocket.AcceptAsync().ConfigureAwait(false); _ Task.Run(() HandleClientAsync(clientSocket, _cancellationToken)); } }這里有個(gè)關(guān)鍵設(shè)計(jì)AcceptAsync和HandleClientAsync全部用異步并且每個(gè)客戶端連接獨(dú)立跑一個(gè)邏輯任務(wù)互不阻塞。很多人問為什么不用BeginAccept那套舊APM模式因?yàn)閍wait能讓代碼按同步順序?qū)懙讓邮钱惒降目勺x性和可維護(hù)性好得多。AcceptLoopAsync里的while循環(huán)配合CancellationToken在服務(wù)重啟時(shí)可以優(yōu)雅退出。還有一個(gè)細(xì)節(jié)值得注意Accept循環(huán)里沒有異常捕捉的話一旦某個(gè)連接拋出SocketException整個(gè)Accept任務(wù)就死了之后所有設(shè)備都連不上。所以我看過的幾個(gè)成熟框架都會(huì)在循環(huán)體里套一個(gè)try-catch并且區(qū)分可恢復(fù)異常和致命異常。設(shè)備接入層的穩(wěn)定性往往不是靠多高深的算法而是靠這些防御性代碼堆出來的。2.2 會(huì)話管理與設(shè)備注冊(cè)中心會(huì)話管理是物聯(lián)網(wǎng)服務(wù)器區(qū)別于普通Web API的核心模塊。HTTP是無狀態(tài)的但設(shè)備長連接是強(qiáng)狀態(tài)的??蚣茉创a里通常會(huì)維護(hù)幾個(gè)核心字典public class DeviceSession { public string DeviceId { get; set; } public Socket ClientSocket { get; set; } public DateTime LastActiveTime { get; set; } public DateTime ConnectTime { get; set; } public string RemoteEndPoint { get; set; } public CancellationTokenSource SessionCts { get; set; } } public static class SessionManager { private static readonly ConcurrentDictionarystring, DeviceSession _sessions new(); public static bool AddOrUpdate(string deviceId, DeviceSession session) _sessions.TryAdd(deviceId, session); public static bool Remove(string deviceId) _sessions.TryRemove(deviceId, out _); public static DeviceSession Get(string deviceId) _sessions.TryGetValue(deviceId, out var s) ? s : null; }選ConcurrentDictionary而不是普通Dictionary是必須的因?yàn)樵O(shè)備連接、心跳更新、主動(dòng)斷開可能發(fā)生在不同線程。這里我想強(qiáng)調(diào)一個(gè)容易被忽略的點(diǎn)設(shè)備ID是什么時(shí)候確定的很多設(shè)備是“先連接、再上報(bào)設(shè)備ID”。那就需要在設(shè)備上報(bào)ID之前先給這個(gè)連接一個(gè)臨時(shí)會(huì)話標(biāo)識(shí)等收到認(rèn)證報(bào)文后再把臨時(shí)會(huì)話升級(jí)為正式會(huì)話。如果一上來就用遠(yuǎn)端IP做KeyNAT下多個(gè)設(shè)備共用出口IP直接全亂套。另外會(huì)話字典必須有過期清理機(jī)制。物聯(lián)網(wǎng)設(shè)備經(jīng)常是斷電、斷網(wǎng)不會(huì)禮貌地發(fā)一個(gè)斷開報(bào)文??蚣芾锿ǔC?0秒掃描一次活躍時(shí)間超過閾值就強(qiáng)制踢掉連接并清理資源。這個(gè)機(jī)制在下一節(jié)心跳里細(xì)說。2.3 消息路由與指令下發(fā)機(jī)制設(shè)備上報(bào)的數(shù)據(jù)不能都寫死在接入層里處理。成熟框架的做法是抽象出統(tǒng)一的DeviceMessage塞進(jìn)一個(gè)消息管道由業(yè)務(wù)層去訂閱和處理。我比較推薦用ChannelT做生產(chǎn)消費(fèi)模型因?yàn)樗?NET里是官方推薦的高性能異步隊(duì)列。private readonly ChannelDeviceMessage _messageChannel Channel.CreateUnboundedDeviceMessage(); public async Task PublishAsync(DeviceMessage message) { await _messageChannel.Writer.WriteAsync(message); } public async Task StartProcessingAsync() { await foreach (var message in _messageChannel.Reader.ReadAllAsync(_cancellationToken)) { await _router.RouteAsync(message); } }這個(gè)設(shè)計(jì)好在哪接入層只負(fù)責(zé)拆包、組包、寫入Channel就算業(yè)務(wù)處理慢也不會(huì)阻塞Socket接收。而指令下發(fā)則是反向的業(yè)務(wù)層生成一條指令通過會(huì)話管理器找到對(duì)應(yīng)的DeviceSession往它的Socket發(fā)送緩沖區(qū)寫指令報(bào)文。這里注意加鎖同一個(gè)Socket不能同時(shí)被多個(gè)線程寫否則報(bào)文會(huì)交叉錯(cuò)亂。實(shí)測中直接用SemaphoreSlim對(duì)每個(gè)會(huì)話的發(fā)送做串行化就夠用沒必要引入復(fù)雜的鎖機(jī)制。2.4 心跳檢測與離線補(bǔ)償心跳是IoT服務(wù)端最容易翻車的地方。我見過不少人把心跳做成“每次收到任何數(shù)據(jù)就刷新LastActiveTime”這個(gè)思路沒大問題但要注意區(qū)分“設(shè)備正常上報(bào)業(yè)務(wù)數(shù)據(jù)”和“設(shè)備還活著但無業(yè)務(wù)數(shù)據(jù)”。有些NB-IoT設(shè)備為了省電平時(shí)完全靜默只有心跳。那服務(wù)端就要定義一種心跳報(bào)文設(shè)備每隔N秒發(fā)一次。源碼里心跳任務(wù)通常是一個(gè)獨(dú)立的Timer循環(huán)比如每10秒掃一次所有會(huì)話檢查LastActiveTime是否超過30秒。超時(shí)的話先發(fā)一次心跳探測報(bào)文再等5秒沒回應(yīng)就判定離線。這樣的兩段式設(shè)計(jì)比一次性踢掉要人性化至少給弱網(wǎng)環(huán)境下的設(shè)備一個(gè)機(jī)會(huì)。離線補(bǔ)償這塊很多框架只做到了“記錄離線時(shí)間”沒做“離線期間的數(shù)據(jù)補(bǔ)償”。如果是車間設(shè)備網(wǎng)絡(luò)閃斷幾十秒PLC里的數(shù)據(jù)積累了幾十條重連后應(yīng)該支持設(shè)備主動(dòng)補(bǔ)發(fā)。服務(wù)端要做的是在會(huì)話恢復(fù)時(shí)檢查該設(shè)備是否有未下發(fā)的指令或者斷點(diǎn)續(xù)傳的批次號(hào)。這部分在工程上復(fù)雜度不低源碼里常見的做法是引入一個(gè)PendingCommandStore把離線期間的指令存起來等設(shè)備重連認(rèn)證完畢后自動(dòng)重發(fā)。3. 關(guān)鍵實(shí)現(xiàn)細(xì)節(jié)與避坑指南3.1 協(xié)議設(shè)計(jì)與數(shù)據(jù)封包寫接入層之前先把協(xié)議定好不然后面重構(gòu)到哭。物聯(lián)網(wǎng)設(shè)備報(bào)文常用的有幾種純文本JSON調(diào)試方便但浪費(fèi)流量、二進(jìn)制頭可變長體工業(yè)現(xiàn)場主流、MQTT標(biāo)準(zhǔn)報(bào)文適合走網(wǎng)關(guān)的場景。我推薦自定義二進(jìn)制協(xié)議時(shí)至少包含這幾個(gè)字段幀頭魔數(shù)、報(bào)文長度、命令字、設(shè)備ID、數(shù)據(jù)區(qū)、校驗(yàn)位、幀尾。報(bào)文長度是為了解決分包粘包命令字用于路由校驗(yàn)位建議用CRC16而不是簡單的累加和防止工控環(huán)境下的電磁干擾導(dǎo)致數(shù)據(jù)錯(cuò)亂。有一個(gè)很多源碼示例都不會(huì)教的點(diǎn)幀頭不要用0xFF這種過于簡單的字節(jié)。因?yàn)槿绻麛?shù)據(jù)區(qū)里也出現(xiàn)連續(xù)多個(gè)0xFF解析器容易誤判幀頭。更穩(wěn)妥的是用兩到三個(gè)字節(jié)的固定魔數(shù)組合比如0xAA 0x55加版本號(hào)解析時(shí)先做狀態(tài)機(jī)匹配再做長度校驗(yàn)。3.2 半包粘包的解決方案這是TCP編程永恒的經(jīng)典問題。很多C#新手在Receive回調(diào)里拿到的byte[]以為就是完整的一幀結(jié)果數(shù)據(jù)一多就亂碼。解決思路其實(shí)就一句用一個(gè)內(nèi)存緩沖區(qū)累積收到的字節(jié)每次從緩沖區(qū)里嘗試解析出完整幀。源碼里常見的是繼承Buffer類維護(hù)一個(gè)Listbyte或MemoryStreampublic class ReceiveBuffer { private readonly Listbyte _buffer new(); private readonly object _lock new(); public void Append(byte[] data) { lock (_lock) { _buffer.AddRange(data); } } public Listbyte[] ExtractFrames(byte header1, byte header2, int minLength, byte tail) { var frames new Listbyte[](); lock (_lock) { while (TryExtractOneFrame(header1, header2, minLength, tail, out var frame)) { frames.Add(frame); } } return frames; } }提取單幀的邏輯要循環(huán)處理一次可能從緩沖區(qū)里解出多幀。每次提取成功后要從緩沖區(qū)頭部移除相應(yīng)字節(jié)。如果緩沖區(qū)里數(shù)據(jù)不夠一幀就等著下一包到來再拼。用lock是因?yàn)镽eceive回調(diào)和定時(shí)清理可能在多線程下同時(shí)操作緩沖區(qū)。這個(gè)模塊是整個(gè)接入層最容易出bug的地方值得多花時(shí)間寫單元測試。3.3 線程模型Task、async/await與線程安全現(xiàn)代C#寫高并發(fā)服務(wù)端基本離不開Task和async/await。但很多人理解有偏差以為Task.Run就是異步。實(shí)際上異步的核心是不占用線程等待IO。比如clientSocket.ReceiveAsync它發(fā)起系統(tǒng)調(diào)用后立刻返回一個(gè)Task線程就釋放了等到內(nèi)核緩沖有數(shù)據(jù)時(shí)線程池再調(diào)度continuation繼續(xù)執(zhí)行。這也就是為什么異步Socket能支撐成千上萬連接的原因——不是開了上萬線程而是大部分線程在等待IO時(shí)都“釋放”了。線程安全方面最容易出問題的是事件回調(diào)。比如設(shè)備狀態(tài)變化事件可能在Socket接收線程、心跳定時(shí)器線程、業(yè)務(wù)處理線程同時(shí)觸發(fā)。如果直接在事件里操作UI控件、寫數(shù)據(jù)庫幾乎是必然炸。解決思路是把事件統(tǒng)一投遞到同步上下文或者用Channel把所有事件集中起來由單線程消費(fèi)者處理。我自己更傾向后者因?yàn)榉?wù)器環(huán)境往往沒有SynchronizationContext可用Channel模型更通用。3.4 委托事件在源碼解耦中的運(yùn)用C#里的委托和事件在物聯(lián)網(wǎng)框架里最大的價(jià)值是讓框架層與業(yè)務(wù)層解耦。比如框架定義了一個(gè)DeviceConnectedHandler委托業(yè)務(wù)層自己去訂閱設(shè)備上線事件public delegate Task DeviceConnectedHandler(string deviceId, DeviceSession session); public event DeviceConnectedHandler? DeviceConnected; public async Task RaiseDeviceConnectedAsync(string deviceId, DeviceSession session) { if (DeviceConnected ! null) { await DeviceConnected.Invoke(deviceId, session); } }用async void去處理事件是最忌諱的異常會(huì)讓進(jìn)程直接崩。所以事件處理器統(tǒng)一用FuncTask委托異常在框架層統(tǒng)一捕獲記錄。另外還要小心事件訂閱導(dǎo)致的內(nèi)存泄漏——業(yè)務(wù)層訂閱了事件卻不取消框架對(duì)象被業(yè)務(wù)對(duì)象引用GC無法回收。我建議框架內(nèi)部用WeakEvent模式或者至少在業(yè)務(wù)層生命周期結(jié)束時(shí)顯式Unsubscribe。4. 從零搭建一個(gè)最小可運(yùn)行框架4.1 準(zhǔn)備工程結(jié)構(gòu)光看源碼不落地等于白看我建議你按下面的結(jié)構(gòu)自己建一個(gè)Demo一行行敲一遍比復(fù)制粘貼印象深得多IotServer.Core核心類庫放會(huì)話管理、消息路由、協(xié)議解析。IotServer.Protocols協(xié)議實(shí)現(xiàn)默認(rèn)先做自定義二進(jìn)制協(xié)議。IotServer.DeviceSimulator模擬設(shè)備端用于本地聯(lián)調(diào)和壓測。IotServer.ServerHost控制臺(tái)宿主程序負(fù)責(zé)啟動(dòng)監(jiān)聽和日志。這個(gè)結(jié)構(gòu)拆出了模擬器非常關(guān)鍵。調(diào)試設(shè)備接入時(shí)候沒有真機(jī)也能模擬幾千個(gè)連接壓測框架。我自己調(diào)試時(shí)Simulator會(huì)用異步并發(fā)開N個(gè)Socket連接服務(wù)端每個(gè)客戶端隨機(jī)時(shí)間上報(bào)報(bào)文同時(shí)校驗(yàn)服務(wù)端是否如實(shí)返回ACK這個(gè)聯(lián)調(diào)模式可以覆蓋掉大量邊界場景。4.2 服務(wù)端核心代碼實(shí)戰(zhàn)下面給一個(gè)最精簡但能跑通全流程的接入層核心代碼注掉了解析細(xì)節(jié)保留結(jié)構(gòu)public class IotServer : IDisposable { private readonly Socket _listenSocket; private readonly SessionManager _sessionManager; private readonly ChannelDeviceMessage _messageChannel; private readonly CancellationTokenSource _cts new(); private readonly ReceiveBuffer _receiveBuffer new(); public IotServer(int port) { _listenSocket new Socket(AddressFamily.InterNetwork, SocketType.Stream, ProtocolType.Tcp); _listenSocket.Bind(new IPEndPoint(IPAddress.Any, port)); _listenSocket.Listen(1024); _sessionManager new SessionManager(); _messageChannel Channel.CreateUnboundedDeviceMessage(); } public async Task StartAsync() { _ Task.Run(AcceptLoopAsync); _ Task.Run(ProcessMessageLoopAsync); _ Task.Run(HeartbeatCheckLoopAsync); } private async Task AcceptLoopAsync() { while (!_cts.IsCancellationRequested) { try { var socket await _listenSocket.AcceptAsync(); _ HandleClientAsync(socket); } catch (Exception ex) when (!(ex is ObjectDisposedException)) { // 記錄異常繼續(xù)接收新連接 } } } private async Task HandleClientAsync(Socket socket) { var session new DeviceSession { ClientSocket socket, ConnectTime DateTime.Now, LastActiveTime DateTime.Now }; var buffer new byte[4096]; while (!_cts.IsCancellationRequested) { try { int received await socket.ReceiveAsync(buffer, SocketFlags.None); if (received 0) { _sessionManager.Remove(session.DeviceId); socket.Close(); return; } session.LastActiveTime DateTime.Now; _receiveBuffer.Append(buffer.AsSpan(0, received).ToArray()); foreach (var frame in _receiveBuffer.ExtractFrames()) { var message ProtocolParser.Parse(frame); if (message null) continue; if (message.Type MessageType.Heartbeat) { session.LastActiveTime DateTime.Now; } await _messageChannel.Writer.WriteAsync(message); } } catch (SocketException) { _sessionManager.Remove(session.DeviceId); socket.Close(); return; } } } private async Task ProcessMessageLoopAsync() { await foreach (var message in _messageChannel.Reader.ReadAllAsync(_cts.Token)) { // 這里分發(fā)到具體業(yè)務(wù)處理器 Console.WriteLine($收到設(shè)備 {message.DeviceId} 數(shù)據(jù): {BitConverter.ToString(message.Payload)}); } } private async Task HeartbeatCheckLoopAsync() { using var timer new PeriodicTimer(TimeSpan.FromSeconds(10)); while (await timer.WaitForNextTickAsync(_cts.Token)) { var expired _sessionManager.GetExpiredSessions(TimeSpan.FromSeconds(30)); foreach (var session in expired) { _sessionManager.Remove(session.DeviceId); session.ClientSocket.Close(); } } } }PeriodicTimer是.NET 6以后比較好用的定時(shí)器比Thread.Sleep循環(huán)優(yōu)雅也比System.Threading.Timer回調(diào)更容易配合async。心跳檢查用一個(gè)GetExpiredSessions批量撈出超時(shí)會(huì)話然后統(tǒng)一清理避免了在遍歷字典時(shí)直接刪除導(dǎo)致的并發(fā)修改問題。4.3 協(xié)議解析器的幾個(gè)關(guān)鍵校驗(yàn)協(xié)議解析器不是簡單地把字節(jié)按偏移量切出來一定要做三層校驗(yàn)。第一層校驗(yàn)幀頭幀尾防止字段錯(cuò)位。第二層校驗(yàn)長度字段防止長度被污染導(dǎo)致申請(qǐng)超大緩沖區(qū)。第三層校驗(yàn)CRC保證數(shù)據(jù)區(qū)完整無誤。只有三層全過才把這個(gè)報(bào)文交給業(yè)務(wù)層去處理。解析失敗時(shí)不要直接斷開連接。很多設(shè)備程序有bug偶發(fā)發(fā)一幀畸形數(shù)據(jù)服務(wù)端直接斷開會(huì)讓設(shè)備進(jìn)入反復(fù)重連的死循環(huán)。正確做法是記錄錯(cuò)誤計(jì)數(shù)連續(xù)錯(cuò)滿一定次數(shù)比如10次再踢掉防止惡意或故障設(shè)備刷無效報(bào)文打爆日志系統(tǒng)。4.4 壓測與性能調(diào)整實(shí)測記錄框架寫完我用Simulator開500個(gè)并發(fā)連接每個(gè)連接每2秒上報(bào)一幀128字節(jié)報(bào)文跑了30分鐘服務(wù)端是Win11筆記本上的4核8G環(huán)境。Gc每秒約15次但Gen2回收極少CPU占用在20%左右所有連接存活率100%消息隊(duì)列未出現(xiàn)積壓。這說明簡單的Channel模型足夠應(yīng)對(duì)常規(guī)規(guī)模。如果設(shè)備量級(jí)到1萬以上有幾個(gè)調(diào)整方向一是把Socket.ReceiveAsync換成SocketTaskExtensions.ReceiveAsync并配合SocketAsyncEventArgs池化二是把單Channel改成按設(shè)備哈希分區(qū)到多個(gè)Channel每個(gè)Channel一個(gè)消費(fèi)者避免單消費(fèi)者吞吐受限三是數(shù)據(jù)持久化走批量寫入比如每5秒刷一次庫而不是每幀一條insert。這些在源碼里都能看到對(duì)應(yīng)的優(yōu)化痕跡。5. 常見問題與排查技巧實(shí)錄5.1 設(shè)備連接后很快被服務(wù)端踢掉遇到這個(gè)問題第一反應(yīng)查心跳。很多設(shè)備連上后不發(fā)任何數(shù)據(jù)而服務(wù)端默認(rèn)30秒內(nèi)沒有活躍就當(dāng)作超時(shí)踢掉。排查時(shí)先看服務(wù)端日志有沒有Session expired然后抓包確認(rèn)設(shè)備是否真的在發(fā)心跳。有一種情況很有迷惑性設(shè)備的心跳報(bào)文格式錯(cuò)了服務(wù)端協(xié)議解析失敗解析器一直丟包于是活躍時(shí)間不更新照樣被踢。這種就要把解析失敗日志打出來看幀頭校驗(yàn)和CRC校驗(yàn)?zāi)囊徊綊斓?。另一個(gè)隱藏坑是設(shè)備連接用的是WIFI信號(hào)不穩(wěn)定TCP層已經(jīng)斷開但服務(wù)端沒收到FIN包這種只能靠心跳超時(shí)機(jī)制兜底。建議把心跳間隔設(shè)成設(shè)備上報(bào)間隔的一半并且至少容忍三個(gè)周期超時(shí)才踢。5.2 CPU飆高與100%占用排查服務(wù)端CPU飆高常見的原因有三類。一是死循環(huán)比如while循環(huán)里沒有正確的等待異常時(shí)不斷空轉(zhuǎn)重試。二是鎖競爭lock或SemaphoreSlim被高并發(fā)爭搶導(dǎo)致線程上下文切換飆升。三是消息隊(duì)列消費(fèi)者吞吐不足生產(chǎn)者太快隊(duì)列無限膨脹內(nèi)存和CPU雙高。排查工具方面Windows上用dotnet-dump抓dump配合dotnet-stack看線程棧是正道。Linux上可以用dotnet-counters先看線程池隊(duì)列長度和鎖競爭計(jì)數(shù)再?zèng)Q定要不要抓dump。不要靠猜實(shí)測里“Sleep 10ms防止CPU高”這類土辦法只能掩蓋問題不能解決問題。5.3 數(shù)據(jù)亂碼與字節(jié)序誤解做工業(yè)設(shè)備對(duì)接時(shí)數(shù)據(jù)亂碼多半不是編碼問題而是字節(jié)序問題。PLC傳上來的Int32可能是大端也可能是小端取決于設(shè)備廠商。C#里BitConverter.ToInt32默認(rèn)按系統(tǒng)字節(jié)序x86/x64都是小端。如果你在x86上解析大端數(shù)據(jù)需要先Array.Reverse前4字節(jié)或者用BinaryPrimitives.ReverseEndianness。還有一個(gè)常見坑是C#的char是UTF-16的2字節(jié)而設(shè)備傳過來的ASCII是1字節(jié)。直接把byte轉(zhuǎn)char會(huì)得到奇怪的字符。正確做法是Encoding.ASCII.GetString(data, index, length)。源碼里所有字符串字段解析都應(yīng)該顯式聲明編碼格式絕對(duì)不要依賴系統(tǒng)默認(rèn)編碼。5.4 內(nèi)存泄漏與句柄泄漏IoT服務(wù)器跑幾個(gè)月不重啟內(nèi)存緩慢上漲這種問題一般出在兩類地方。一是事件訂閱沒取消前面提到過。二是字節(jié)數(shù)組被長期引用比如ReceiveBuffer里的Listbyte無限增長說明提取幀的邏輯有bug某種報(bào)文永遠(yuǎn)湊不齊一幀導(dǎo)致緩沖區(qū)越來越大。Socket句柄泄漏往往表現(xiàn)為“設(shè)備連不上還報(bào)Address already in use”。排查時(shí)用netstat看TIME_WAIT狀態(tài)是否堆積如果連接正常斷開但TIME_WAIT很多可以在Socket設(shè)置SetSocketOption(SocketOptionLevel.Socket, SocketOptionName.ReuseAddress, true)。但注意這個(gè)選項(xiàng)要在Bind之前設(shè)置才生效。6. 與上位機(jī)、PLC聯(lián)動(dòng)場景的擴(kuò)展6.1 C#連接西門子OPC與底層設(shè)備很多時(shí)候物聯(lián)網(wǎng)平臺(tái)不只是跟自己的設(shè)備通訊還要對(duì)接工廠里的PLC。工業(yè)現(xiàn)場最常見的對(duì)接方式就是OPC尤其是西門子PLCOPC UA是繞不開的。C#生態(tài)里有兩個(gè)常用方案一個(gè)是開源的OPCFoundation.NetStandard.Opc.Ua一個(gè)是S7netplus直接用S7協(xié)議讀西門子PLC數(shù)據(jù)。我在實(shí)際項(xiàng)目中是這樣分工的服務(wù)端框架保持純粹的設(shè)備接入和數(shù)據(jù)處理通過一個(gè)獨(dú)立的設(shè)備網(wǎng)關(guān)進(jìn)程去對(duì)接PLC。網(wǎng)關(guān)進(jìn)程負(fù)責(zé)OPC連接、輪詢、斷線重連然后把數(shù)據(jù)翻譯成統(tǒng)一的物模型報(bào)文再上報(bào)給服務(wù)端。這樣即使PLC型號(hào)從S7-200換到S7-1500或者從OPC DA切到OPC UA改動(dòng)只限定在網(wǎng)關(guān)進(jìn)程服務(wù)端和上層的可視化不用動(dòng)。這里提醒一句OPC DA是基于COM/DCOM的部署時(shí)權(quán)限模型很折磨人建議新項(xiàng)目直接走OPC UA。而且OPC UA分Client和Server兩種角色你的網(wǎng)關(guān)可能是Client去讀PLC的Server也可能是Server透傳數(shù)據(jù)給上層組態(tài)軟件別搞混了。6.2 對(duì)接第三方物聯(lián)網(wǎng)平臺(tái)SDK有些項(xiàng)目不做全部自研而是對(duì)接已有云平臺(tái)比如阿里云物聯(lián)網(wǎng)平臺(tái)。這類平臺(tái)一般提供Android SDK、Java SDK、C# SDK或HTTP API。C#對(duì)接時(shí)最核心的是把設(shè)備認(rèn)證的productKey、deviceName、deviceSecret管理好以及理解平臺(tái)側(cè)的Topic和物模型規(guī)范。實(shí)際過程中容易踩的坑是SDK版本碎片化。有些云平臺(tái)的C# SDK停止維護(hù)很久依賴的底層HTTP庫和JSON庫版本很老和你的框架沖突。解決辦法是單獨(dú)開一個(gè)IotPlatformAdapter項(xiàng)目把所有平臺(tái)SDK依賴隔離在適配層上層只暴露統(tǒng)一的SendTelemetry和HandleCommand接口。這樣哪天換平臺(tái)只要替換適配層的實(shí)現(xiàn)類。這也是我在多個(gè)項(xiàng)目里反復(fù)驗(yàn)證過的穩(wěn)定方案。6.3 從框架到產(chǎn)品化要補(bǔ)齊的幾個(gè)東西一個(gè)能跑通Demo的框架距離一個(gè)能上線運(yùn)行的產(chǎn)品中間還差不少東西。第一是認(rèn)證授權(quán)設(shè)備接入不能裸奔至少要支持每臺(tái)設(shè)備獨(dú)立Token或者證書認(rèn)證防止別人偽造設(shè)備上報(bào)假數(shù)據(jù)。第二是配置中心端口、心跳閾值、日志級(jí)別、數(shù)據(jù)庫連接串都要能遠(yuǎn)程調(diào)整不能每次改配置都重新編譯部署。第三是監(jiān)控告警服務(wù)端自身的CPU、內(nèi)存、在線設(shè)備數(shù)、消息積壓數(shù)必須要有指標(biāo)暴露很多框架會(huì)用Prometheus格式的/metrics接口C#里可以接prometheus-net庫。另一個(gè)很容易被忽視的是固件OTA升級(jí)。物聯(lián)網(wǎng)設(shè)備要支持遠(yuǎn)程升級(jí)服務(wù)端就得做升級(jí)包管理、設(shè)備版本控制、斷點(diǎn)續(xù)傳、灰度發(fā)布。這個(gè)模塊跟設(shè)備接入層完全兩個(gè)復(fù)雜度等級(jí)。如果業(yè)務(wù)有這個(gè)需求建議單獨(dú)立項(xiàng)不要塞在原來的服務(wù)器框架里硬改。7. 最后分享幾個(gè)我踩過幾輪才摸透的經(jīng)驗(yàn)先說說日志。IoT服務(wù)端日志一定要按設(shè)備ID打索引不然線上定位問題像大海撈針。我常用的格式是[時(shí)間][設(shè)備ID][會(huì)話Key][事件]哪怕是低級(jí)別日志也帶上設(shè)備ID方便grep單臺(tái)設(shè)備的全生命周期。前期怕日志量大而省略設(shè)備ID的做法后面基本都用昂貴的排查時(shí)間還回來了。再有就是所有時(shí)間字段統(tǒng)一用UTC存儲(chǔ)顯示層再轉(zhuǎn)本地時(shí)區(qū)。物聯(lián)網(wǎng)設(shè)備可能分布在全國甚至全球各地如果服務(wù)端按服務(wù)器本地時(shí)間落庫夏令時(shí)和時(shí)區(qū)一變化數(shù)據(jù)排序和分析全是坑。我踩過最慘的一次是設(shè)備上報(bào)時(shí)間用了字符串格式且不帶時(shí)區(qū)后來做數(shù)據(jù)回放時(shí)發(fā)現(xiàn)時(shí)間線錯(cuò)亂被迫寫了數(shù)據(jù)修復(fù)腳本洗了幾百萬條記錄。最后是關(guān)于框架迭代節(jié)奏的建議。很多新手拿到源碼就想把每個(gè)模塊都優(yōu)化到完美實(shí)際上接入層、會(huì)話層穩(wěn)定后優(yōu)先做業(yè)務(wù)可配置化而不是繼續(xù)挖性能。大多數(shù)IoT項(xiàng)目卡住不在并發(fā)性能而在業(yè)務(wù)需求一天三變??蚣芰粝伦銐虻臄U(kuò)展點(diǎn)和接口抽象比什么都重要。等真的出現(xiàn)性能瓶頸了再回頭優(yōu)化那時(shí)候需求穩(wěn)定了你才知道該往哪個(gè)方向調(diào)。這個(gè)框架源碼我用到現(xiàn)在最大的感觸是物聯(lián)網(wǎng)開發(fā)沒有銀彈所謂高效就是把那些反復(fù)出現(xiàn)的東西沉淀成可靠的庫。C#在這條路上確實(shí)是一條值得走下去的路。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
色在线综合| 人妻丝袜无 码视频专区| 日本性感人妻91| 成人网站 免费观看| 男人天堂久久精品| 男人的天堂1024| 精品国产Av无码久久久亚洲| 久久久久免费少妇| 97免费在线观看| av网站免费线看| 韩国一级做A片免费的| 大香蕉伊人在线成人AV在线观看| 色综合天天爱去电影网| 亚洲精品亚洲人成人网| av日韩中文字幕| 久久久精品电影| 激情五月天网| 麻豆性爱视频在线播放| 翔田千里无码一区| 五月天丁香欧洲日韩| 国产情色在线| 天天操夜夜操狠很操| 精品.99999| 天天操天天7| 在线观看成人性爱免费小视频| 偷拍 精品另类 凸凹了四区| 久久9精品| 97精品熟女少妇一区| 亚洲18禁| 中文字幕一区二区免费在线| 日日A∨| 超碰美女97| 免费啪啪啪网站18岁| 日韩精品作爱导航| 久久性视频| 亚洲少妇自拍中文字幕懂色| 九九热精品| 亚洲国产精品久久久久婷婷老年 | 国产高清无码一区二区三区四区皇冠| 蜜臀99久久精品| 最新三级网址| 五十路成人在线视频二区三区| 国产91乱伦| 都市激情人妻一区二区青青操视频| 性色AV蜜色av色欲av| 婷婷四五区| 男人天堂网站| 日韩AV一区二区三区三州三州| 欧美日韩中文视频播放| 东京热熟女亚洲视频网站| 亚洲精品国产无码高清| 欧美色蜜桃97| 白丝1区2区3区| 欧美传媒| 天天操熟妇| 两女互慰AV高潮喷水在线观看| 91亚州欧美| 影音先锋少妇| 日本免费二区三区| 天天爽夜夜欢视| 欧洲成人性爱视频| 久久精品超碰| 一级黄碟| 狠插 制服 自拍| 青娱乐国产精品| 超碰这里有精品| 99热综合| 人、人、摸,人、人、草| 97超碰超| 91精品国久久久久久无码| 操高情无码| 天天久久久久久| 天天综合网一91网| 日本在线不卡一二区| 人妻铁牛TV| 欧美日韩青操| 亚洲少妇色| 人人操肉肉| 日韩97在线| 超碰97色色| 动漫爆乳3D奶水一区在线观看| 一区二区影视| 91大香蕉伊人| 极品AV网站在线观看| 青青草天天亲夜夜操网| 强奸乱伦av电影| 啊啊啊啊操死我| 新怡红院| 久久久青草青青国产亚洲免观精品高清完整版_97久久综合区小说区图片区,国精品 | 国产成人91一区二区三区| 品亲网欧美品亲网| 黑丝少妇| 伊人久久大香大香线蕉中文| 亚洲蜜乳av| 欧美激情激情xxxx欧美专区| 校园春色综合香蕉| 亚洲少妇激情视频| 国产精品第二页| 99re3这里只有精品| 九九RE视频在线精品| 日日操丁香五月天| 综合操逼| 久草免费福利在线播放| 色色色欧美| 2017人人操,人人摸| 日婷婷| 成人精品在线免费视频| 日韩精品-原创伙伴| 久久久噜噜噜久久人妻| 亚洲春色欧美| 精品女同一区二区三区| 九九九国产| 日韩欧视频| 国产一区二区在线看| 啊啊啊在线看| 十八禁黄色| 一本色道熟妇| av网站免费看| 另类小说综合网| 久久受www免费人成| 成人无码电影在线观看网| 午夜福利1区2区3区| 久9re热视频这里只有精品| 强奸抽插av| 欧美一区二区三区四区综合| 欧美大香蕉同搞| 免费啪啪av| 免费一级a毛片久久久久久鸭绿欲| 91性高朝久久久久久久久| 伊人热综合| 边做饭边操逼逼| 老司机深夜18禁污污网站| 思思视频免费看网站| 亚洲精品成人动漫在线| 亚洲一区二区精品福利| 久久99网站| 精品久久青青草| 久久精品视频28| 青青草国产盗摄一二三区| 囯产精品强| 69久久| 精品熟女呻吟久久91| 久久双插| 亚洲一区二区中文字幕| 婷婷香蕉欧美在线一区二区三区| 91挑色欧美| 欧美瑟综合| 欲香欲色| 婷婷深爱五月| 人妻一区久久二区三区色播| 91综合天天看| 青青青国产手线观看视频2| 淫荡熟女乱伦网| 亚洲国产日韩欧美熟妇在线| 国产性刺激| 搡老女人老91妇女熟女| 国产强奸乱伦第1页| 亚洲欧美日韩二区视频| 人人摸人人干| 天天情欲宗合网| 欧美裸体美女日麻屄| 亚洲日韩美国人妻| 国产女上位好爽在线| 天天操人人操骚逼网站| 日本中文字幕不卡视频 | 极品少妇久久久| 91伊人久| 无码免费一区二区三区啪啪| 亚洲极品| 二男一女成人A片| 日韩天天综合| 女人被男人桶爽视频网站| 老熟女91| 资源新线在线天堂| 色97欧美| 人人艹亚洲| 久久免费老司机精品| 射丝袜大香蕉| 亚洲一级性爱视频免费看| 97中文超碰| 抽插一区二区视频| 性爱乱伦一区| 欧美在线|亚洲| 1级黄色夫妻对换性交免费看| 亚洲AV永久无码一区仙野| 午夜欧美神马久久久久| 性色AV蜜色av色欲av| 久99| 人妻蜜桃臀| 天堂а√在线最新版在线| 国产成人资源| 亚洲欧美综合| 欧美性色综合网| 久久久久久久97| 99热精品在线播放| 黄页av| 精品少妇一区二区三区免费观看| 亚洲情色无码一区二区三区| 色综合色| 999久久久九九九九| 大香蕉520| 男人天堂无码| 亚洲丝袜色| 澳门色噜噜色噜噜色噜噜色噜噜色噜噜| 99精品久久久久久久婷婷| 亚洲精品美女操逼| 强奸乱伦AV网站| 国产精品suv一区| 久久草草亚洲蜜桃臀| 久久久久久久久久久久久久久乱码| 91A欧美电影网站| 91欧美丝袜| 国产理论视频在线播放| 亚洲情色综合网| 1769一区二区| 超碰99re| 屌妞视频久久久久久久久久久久| 亚欧成人中文字幕一区| 欧美少妇高潮视频| 日韩另类色图| 中英熟女操女| 蘋果手機免費看成人Av| 国产尹人在线视频免费| AV女优男人的天堂| 伊人丝袜美腿高跟在线观看高清| 乱伦a片视频| 国产精品午夜福利视频| 情侣开房子拍 日韩无码 女的很漂亮| 黄色免费一级在线毛片| 国产精品久久久久久久免牛肉蒲团| 中文字幕一区二区在线日韩精品| 加勒比aⅴ| 免费看污网站| 狠狠色狠狠色狠狠五月| 久久高潮妇女视频| 大香蕉综合在线| 免费毛片在线播放| 久久中文字幕一区不卡| 中文字幕色AV| 欧美操逼视频二区| 2018色综合天天操| av一区二区三区四区| 人伦四五区| 午夜呻吟欧美| 久久婷婷五月天| 男人女人18禁片免费看网站| 中文字幕第7页| 美女黄页| 欧美视频中文字幕区| 韩国三级色呦呦| 日韩少妇在线视频| 亚洲色人妻综合| 黄片aaaaa一区| 色噜噜国产精品视频一区二区| 人妻在线大香蕉| 青青操青娱乐| 久久婷婷综合国际产色怕| 91视频综合网| 日韩天天综合| 一本大道久| 久久夜嗨| 欧美性爱一内片一区二区三区| 国产精品久久久久无码AV会牛| 亚洲超碰97| 国产乱不卡| 亚洲第一色页夜| 天天综合精品| 亚洲操逼网| 欧美人妻久久精品二区三区| 6080YYY午夜理论片在线观看| 激情欧美97| 俺去啦自拍| 青青草在线视频欧美| 情色日播放AV| 97精品国产97久久久久久| 亚洲系列第一页| 五十路熟女人妻一区二区在线观看| 日本精品性生活久久久| 91久久久视| 狼人综合婷婷激情四射| 亚洲aw毛茸茸在线| 亚洲精品视频二区| 天堂岛av| 99色色| 亚洲操人| 爱我干综合| 欧美国产伊人久久久久| 综合影视国产无码| 欧美一区二区三区另类精品| 欧美综合国产精品久久丁香| 综合欧美激情网| 无码直播久久久| 日韩成人私密一级精品av| 国产精品久久泡妞网站| 欧美日韩亚洲天堂| 屁股久久久久久久| 日韩 国产 欧美自拍| 99热在线观看| 韩国一级AAA| 免费看A片毛毛片在线播| 国产成年精品高清在线观看91| 国产精品人妻无码久久久老鸭窝 | 操我啊啊啊啊啊| 欧美专区第一页| 日本一区二区电影网站| 开心六月色| 亚洲欧美性生活| 九九夜精品九九在线| 啊啊啊不要啊啊受不了了视频在线 | 色区久久| 欧美图片偷拍| 鸥美精品一区二区久久婷婷| 亚洲综合夜色| 国产乱子伦久久精品综合一区二区三| 日产操逼| 精品一区二区成人| 九九九九久久久| 69AV女优男人的天堂| 黑丝日韩av丝袜av| 中出20p| 变态综合色| 91免费看一区二区三区| 国产白嫩漂亮KTV在线| 亚洲欧美日韩精品久| 亚洲天堂 视频你懂的| www.夜夜操| 99精品丰满人妻无| 麻豆人妻偷人精品无码视频| 亚洲无码一区成人免费午夜| 亚洲啪啪综合?v一区综合精品区| 国产精品成人无码a v毛片| 亚洲黄色网址视频| 玖玖综合.com| 乱操9999| 亚欧成人综合影院| 91麻豆天美国产欧美日| 大香交| 2024黄色视频| 九九性爱网| 久久综合久久综合人久久夜精品| 加勒比久久av| 午夜激情成人在线观看| 婷婷色色网| 试看福利| 国产真实子伦对白| 破苞ⅩXXX性无码动漫无码| 欧美日不卡| 啊啊啊啊在线播放| 亚洲欧洲av影音| 精品久久人妻成人网| 欧美最婬乱婬爆婬性视频| 后入福利视频| 热无码中文亚洲H一道本一区二区| 91精品伊人久久久大香线蕉91| 婷婷日韩一区二区三区中文字幕在线| 97在线资源| 天天视频黄| 久久九九综合| 蜜桃网熟妇| 日本爽爽爽爽爽爽免费视频| 丁香五月社区| 这里只有精品97| 婷婷丁香九月| 第二页中文字幕| 啊啊啊啊好疼| 亚洲精品人妻吞精av| 日韩三级在线观看mp4| 蜜臀99久久国产| 精品亚洲黄色片 国产精品导航一区二区| 东京日日夜夜| 农村少妇久久久久久久| 亚洲经典啪啪| 噜噜噜亚洲精| 破苞ⅩXXX性无码动漫无码| 精彩国产视频播放1区2区| 色综合91好| 亚洲AV成人在线| 国产成人精品午夜福利| 人妻中文字幕精品无码| 欧美色日本| 私人尤物在线精品不卡| 无码91| 久久久999| 中文高清一区二区的| 日日骚一区二区三区| 国语对白在线播放视频| 中文久久96| 亚洲va有码在线天堂| 婷婷情色五月天| 色在线视频导航| 后入 亚洲 美女 射| 国产精品福利视频| 夜夜狼人妻| 国产午夜在线观看| 欧美丝袜激情| 亚洲中文一区二区三区| 大香蕉日亚洲日本亚大 | 久久精品黄色| 蜜色网色哟哟| 74成人在线| 亚洲日产专区婷婷| 午夜国产成人福利视频| 91美| 青青青国产| 91免费看一区二区三区| 天操老女人| 日韩丰满熟妇| 韩日欧亚a级| 国产精品一区人妻精品阁在线| 国产精品久久久久久久久久久久久久吹 | 天天92av| 超碰中文字幕人妻草一区| 秋霞操逼片| 人妻丝袜肏逼| 婷婷五月天影院| 丰满人妻一区二区三区四区| 亚洲中文电影| 成人网址在线观看| 成人精品在线免费视频| 国产丸一视频| 色欧美天天| 亚洲日韩精品久久久久一区壹牛 | 大香蕉一人在线| 色婷婷激一区二区三区| 男人的天堂va在线| 午夜后入| 五月天激情综合网| 福利视频一区二区微拍| 欧美AB在线| 国产又大又粗又色生活片亚洲国产精品成人久久久综合免费 | AAAA欧美日韩| 欧美,亚洲,日韩,v,天堂,手机在线观看 | 日韩本不卡视频在线观看 | 日本福利社| 蜜乳视频网站| 四虎免费在线播放| 亚洲丝袜B诱惑| 日本污ww视频网站| 精品人妻1区| 亚洲欧美激情小说| 大香蕉欧美国产日韩高潮| 丁香五月天堂网| 超碰国产精品无码| 国产传媒一区二区三区| 亚洲 欧美 综合 91| 久久思思热| 欧美日韩国产中文精品字幕自在自线| 亚洲成a人v欧美综合天堂下载| 亚av顶级裸体一区二区三区四区五区| 欧美色三级片91| 天天日B夜夜干B时时操B| 大香蕉男女超碰精品在线| 一区二区三区高清天码| 精品无码久久久久久久杏吧| 国产激情在线| 91欧美少妇| 曰本91情色| 国产精品2020| 日韩亚洲美州欧洲综三区一品在线| www..com操老师| 日韩欧美性爱电影在线观看| 成人国产二区三区在线,男女精品。| 国产丰满少妇久久久精品影院| 99无码视频| 日韩人妻中文视频| 熟女五十路一区二区三| 色综合一本| 久久久久久久久久9| 久久亚洲日韩国产欧| 色娱乐色呦呦夜夜夜夜av| 伊人97色天使| 亚洲图片 91| 99精品网| 天天射影院| 日韩999| 国产成人精品日本视频| α√在线| 亚欧性爱ab| 看黄片视频免费| 欧美日韩国产黄色片| 国产超碰AV在线精品| 午夜性生活av免费在线看| 亚州性色| 性色aV一区二区三区噜噜| 亚洲情色 自拍| 久久超碰天天| 99re黄| 国产综合久| AV有码在线| 日夜精品| 亚洲阿v天堂在线| 蜜臀99久久| 色哟哟 日韩精品| 国产高清自拍视频| 日韩性爱1级片视频| 老外又粗又长一晚做五次| 操逼无码操逼| 成人aⅴ一区二区三区| 搡老女人老妇女AAA一VU麻豆| 又大又长又粗又爽又黄| 人妻乱仑一区二区三区| 超碰在线人妻| 强奸少妇AV导航网| 秋霞一区二区三区四区五区六区七区| 加勒比少妇AV婷婷六月天超碰超碰| 色网综合网| 久久久久成人亚洲国产| 欧美性爱五月天| 91久青| 久久久久ab| 欧美第二页午夜| 后入合集| 日韩免费在线观看不卡| 日韩欧美一级特黄大片| www.超碰| 色哟哟1区2区| 啊啊啊啊好多水| 亚洲一区中文精品| 乱伦系列一区二区| 按摩中文字幕| 国产久久久久影院老熟女| 欧美久久人体| 91精品人妻偷情| 另类 日韩 熟女| 亚洲天堂区| 亚州 综合 色图| 大色网久久| 亚洲欧洲成人在线电影| 亚洲日韩国产欧美综合v| 欧美1727免费观看视频| 欧美 亚洲 综合 制服 另类| 久久久久白虎| 性久久| 亚洲综合色男人网| 少妇精品久久久| 美女性91| α√在线| 蜜臀AV成人精品蜜臀| 中文字幕乱妇免费视频| 免费伦费视频在线观看| 九色 人妻 大香蕉| 丰满熟女人妻一区二区三五十一路| 97啪啪| 麻豆啪啪啪视频| 精品人妻一区二区三区-国产| 操死我了啊啊啊| 大学生美女口爆| 久久草在线综合视频| 91丝袜美腿网站| 日韩内| 无码操逼网| 亚洲熟女乱色| 高清无码人妻久久久一区二区三区aⅴ| 国产女人和拘做爰视频| 久久久99久9| 亚洲一区二区中文字幕| 一区二区三区四区免费视频| 日韩精品99久久久久久中文字幕 | 黄色十八禁网站| 人妻在线中出视频| 日少妇亚洲版| 国产白丝在线| 日韩综合97P| 五月天欧美色图| 欧洲一区二区三区四区在线观看| 欧美综合777| 91超碰丝袜制服| 67914在线兔费成人视频| 极品美女嘿咻| 91精品人妻一区二区三区蜜桃| 久久老熟女| 久久精品熟妇丰满人妻99| 老熟女91| se01国产在线视频| 911粉嫩人妻| 超碰久热| 人妻天天爽夜夜爽爽| 爱干爱射网啊啊啊| 久久久男人的天堂| 激情婷婷黑人91| 国产乱子伦久久精品综合一区二区三| 九九九九热| 午夜福利激情在线视频| 久久无码电影| 天堂精品在线| 91精品国久久久久久无码| 久久久精品久久| 麻豆成人AV| 青青操网| 欧美 亚洲 偷拍自拍| 精品久久久久久亚洲| 国产精品制服丝袜中文字幕日韩一区二区三区 | 亚洲91色在线| 超碰 国产熟女精品一区| 97视频在线观看免费高清| 天天干人人看综合| 在线看片国产精品每日更新| 深爱激情五月天| 嗯嗯啊啊好疼| 美女久久久久久久久久久| 久久 国产 无码| 午夜高清成人在线视频| 日本97久久久精品| 欧美综合色,www| 人妻一二三区| 亚洲午夜免费狠狠干| 伊人aaa| 干超碰碰熟女| 欧美十八禁网站| 青青11操操操操操操操操| 久久亚洲天堂| 高清无码久操视频| 五月丁香六月| 韩国毛片一区二区三区| 久操91视频| 99热99在线| 日韩欧美偷拍美女视频| 欧美999| 天天爽人人综合免费7799| 欧美 熟女 日韩| 国产精品白丝| 五月婷婷激情综合| 啊啊啊在线看| 乱伦图av| 青草香蕉网| 极品销魂美女一区二区| 97人人操人人干| 久久伦理视频久久大香蕉视频| 国产精品高潮久久久无码| 激情小说五月天| 嫩草黄页| 日本视频一区二区三区| 中文字幕少妇色 | 黄色小说亚洲| 欧美精品三区| 日韩偷拍色图| 91亚洲情色| 色五月大香蕉| 99精品九九九九九九| 日韩不卡a级视频专区| 天天操美美| 逼操网站| 夜夜免费视频| 另类 日韩 熟女| 91九九九吃| 婷婷午夜成人色中色| AV在线资源| 99这里只有精品国产| 超碰99热| 亚洲欧洲综合视频在线| 五十路熟女在线不卡观看一区二区| 国产一国产一级毛片古装| 成人精品一区二区91毛片不卡| 插老姨肥穴| 日韩在线欧美精品一区二区| 午夜精品久久久99| 尹人免费观看视频在线| 青青青青草av在线观看| 亚州色图欧美色图| 日韩一级二级在线| 五月天精品| 嗯啊抽插大香蕉网页| 亚洲999综合| 国产强奸超碰AV| 亚洲国产97在线精品一区| 第一高清av中文字幕| 日产精品久久久一区二区| 久久人人看| 亚洲熟女综合一区二区| 99re3这里只有精品| 国产精品盗摄 偷窥盗摄| 欧美精品偷拍| 99久久精品国产高潮| 韩日欧亚a级| 女人天堂AV五区在线| 极品销魂美女一区二区 | 蜜桃中文字日产乱幕4区| 伊人网青青| 丝袜高跟澳门91视频| 久操婷婷| 亚洲乱色熟女一区| 黄站在线免费观看| 亚洲日韩AV视色| 亚洲AV秘无码一区..| 国产精品久久久久999| 久久99网站| 免费视频在线一区二区不卡| 嫩草黄页| 蜜臀久久99精品久久久久久久久| 五月天色色色| 久久97| 亚洲日韩XXX| 欧美躁死她一区二区| 激情五月综合开心五月| 免费男人的天堂| 久久综合精品一区二区三区| 操逼操网| 日韩无码视频黄色| 大香交| 天堂精品小草| 发朗少妇买婬全视频中文| 午夜超爽| 免费试看60秒| 91在线一起| 磁力99AV| 久超碰在| 色区久久| 萌白酱自拍视频| 日韩操啪| 亚洲 欧美综合| 91nbbbbbb| 极品丝袜无码| wwwss在线观看| 午夜AV人气不卡| 97免费在线视频| 一本大道青青| 天美传媒av在线| 亚射在线| 欧美三级一级| 亚洲欧美精品91| 韩国一级做A片免费的| 狠狠操夜夜| 乱伦熟妇一区二区| 麻豆成人影音在线| 久操视频这里只有精品| 成人一级二级| 96久久久精品| 久久久久网站-538在线视频-欧美永久乱码 | 厕所偷拍在线| 国产欧美日韩女同性恋ww喷水精品 | 亚洲日产专区| 久久伊人大香蕉| 高清国产av无码| 国精精品无码一二三区水多多| 国产欧美日本亚洲精品| 日韩无码人妻| 久久久新亚洲AV| 男人的天堂2018| 久久久久久999| 久久久久久久| 天天射日日干| 色姑娘综合网| 欧美97| 秋霞网无码| 中文乱码字字幕在线第5页| 91人人| 亚洲天天综合| 亚洲天堂欧美| 欧美黑人极品高潮喷吹熟女黑人性暴力日韩在线欧美极品一区二区老师黑人潮喷一 | 欧美性第1页| 国产在线激情| JuliaAnn丝袜熟女系列| 色欧洲| 超碰午夜| 国产无码精品高清| 逼逼逼逼操操操操操操操操操午夜剧场| 一区不卡在线观看av| 日韩av免费一级电影| 久久久久久亚洲中文| 夜夜天天噜狠狠爱2021| 囯产操逼片| 国内三级自拍小视频在线观看| 亚洲图片偷拍视频区| 99在线精品观看99| 国产精品免费美女视频| 91人人爽人人爽| 猛猛干| 五月天色图| 九99久久| 无码聚合| 啊嗯嗯啊好大好爽| 无套内射人妻在线播放| 蜜桃久久久久久久久久久久| 午夜亚洲WWW湿好大| 久久久噜噜噜久久久| 国产400孕妇孕交群| 蜜臀久久99精品久久久老,,| 中文字幕乱妇免费视频| 操逼日韩无码| 久久东京热成人| 精品久久久亚洲AV成人网站| 久久天堂网| 欧美丰满熟妇XXXX性ppX人交| 天堂综合| 视频分类 国内精品| 亚洲精品黑丝| 精品亚洲国产成人AV制服丝袜| 久久久91福利姬| 亚洲古典另类欧美在线| 色哟哟av| 久久久久9| 亚洲天堂加勒比| 性爱动态120秒| 天天澡天天爽日日AV| 精品久一区免费| 97超碰磁| 国产又黄又爽又刺激久久久久久| 乱伦一区二区三区‘| 日本色婷婷| 男人的天堂日本东京热| 偷拍五区| 91精品大奶人妻| 久久久日本电影| 蜜臀久久99精品久久久久久久久| 日韩无码专区| www.四虎在线| 欧美亚洲中文字幕| 人人操人人摸人人看人人干| 久久久久国产亚洲一区欧美色图日韩| 中文一区二区| 午夜乱轮操逼视频免费看| 久久丁香| 极品美女嘿咻| 国产精品岛国片在线观看| 少妇同性| 亚洲麻豆av一区二区| 婷婷五月天激情四射| 久久动漫精品视频这里只有精品| 操一操摸一摸| 熟女精品一区二区三区| av天堂加勒比| 思思热国产在线视频| 欧美激情视频一区二区三区不卡| 欲综合网| 欧美 亚洲 偷拍自拍| 99蜜月精品久久| 99久久婷婷丁香| 亚洲中文电影| 中文AV制服乱伦| 精品久久久九九九孕妇| 99热这里只有精品18| AV九九| 91久久婷婷| 毛片电影一区二区三区| 后入式999| 国产浮力影院第1页| 91色色综合| 密乳AV免费观看| 啊啊啊啊啊啊啊啊啊啊在线观看| 天天谢天天干| 天美传媒Av在线| www.久久最新地址| 中文字幕欧美日本乱码一线二线| 中文字幕亚洲永久精品| 91麻豆一二三区| 国产大学生口爆吞精合集| 国产视频小说| 夜嗨影院| 欧美高清91| 99精品无码| 久久久亚洲| 夜夜高潮夜夜爽高清视频一 | 国产福利第一视频| 午夜一区| 亚洲熟妇图片| 欧美一级美片在线观看免费| 天天插夜夜爽| 8050午夜少妇无码| 91美女视频直播| 日韩人体偷拍| 日本人妻中文字幕| 久久久一区二区| 成人av动漫在线观看| 超碰97伊人| 婷婷情色综合网| 欧美黄色片在线播放| 人妻 欧美亚洲| 爽爽淫人网| 婷婷av在线中文字幕| 夜夜夜夜爽| 亚洲无码99| 成全动漫视频观看免费下载| 久久99草| 91麻豆天美国产欧美| 乱抡国产91| 国产日韩中文字幕欧美| 98一区二区精品| 成人一级性爱| 亚洲国产97在线精品一区| 九九热九九热| 一起草日韩| 久久色人体| 99热在线播放| 啪啪91| 五月天婷婷影院| 人妻中文在线| 六月丁香久久| AV九九| 色婷婷丁香五月| 五月综合色| 激情五月天综合网| 草草影院在线视频| 啊啊啊啊啊在线观看网址 | 欧美成人亚洲精品| 青青草手机在线免费观看| 久久中文色图| 97精品综合久久网| 欧美综合 站| 中文字幕乱偷人妻久久艾草网| 成人在线午夜视频一区| 亚州国产成人精品女人久久| 熟女熟妇一区二区三区视频| 超碰导航97| 伊人久久AV诱惑悠悠| 97色碰| 亚洲春色欧美激情自拍| 久久青青草原免费视频| 高跟丝袜AV专区国产| 免費黃色視頻觀看一| 99色在线| av在线人气| 日韩天天本| 香蕉国产97| 成年男人的天堂| 99精品久久久久久久婷婷| 操婢日韩| 男女啪啪啪18禁网站| 中文字幕在线免费观看| 欧美自拍网| 亚洲国产丝袜熟女av | 极品色综合| 84YTCOM性无码| 密臀在线视频| 91国产大片| 亚洲中文字幕妇伦久久| 人妻久久久久久久久久久久久久久| 浪人综合网| 乱伦av.com| 国产成人无码啪| 日韩成人在线性爱视频| 日韩强奸av| 69av一区二区三区| 91精品无码久久久久久久| 射久久| 国产精品日日摸夜夜添骚逼| 欧美日韩传媒| 碰碰97| 国产精品午夜AV完会免费| 天天肏天天干| 亚洲色欧美| 美国日韩黄片| 琪琪精品免费一区二区三区| 成人影院永久免费观看网址| 91av一区二区在线观看| 天天懆天天日| 色色色欧美| 91在线精品| 成人av免费观看| 偷拍 精品另类 凸凹了四区| www鬼畜国产男人的天堂| 人人爱夜夜爱| 99xav| 精品白丝一区| 大逼色网站| 翔田千里AV无码秘 三区| 成人av性爱电影在线观看| 夜夜操美女| 中文字幕一区二区韩| 一起草精品人妻| 丁香六月天| www.操| 综合激情一一91| 日本ZZ高免费A级视频| 无码人妻1727| 国产特级毛片AAAAAA高潮流水 | 日韩钢筋无码高清啾啾啾| 久日91在线| 后入日本1234| 淫荡网址| 无码人妻精品一区二区中文 | 久久中文字幕人妻熟av女蜜柚| 久久亚洲一区女同性恋中文字幕| 另类图片天天影视| 波多野结衣一级视频| 国产日韩欧美三级片| 日韩性色b| 白丝在线一区| 亚洲欧美另类小说| av最新免费中文字幕| 五月天婷婷小说| 懂色AV中文| 91模特在线观看| 婷婷色综合欧美日韩| 脫衣舞一区二区三区| 久久这里是精品| 精品欧美老熟女一二区| 99久久e免费热视| 欧美夜夜狠| 欧美 综合 亚洲| 亚洲成成熟女人综合一区二区| 免费av高清无码| 香蕉综合网| 亚洲精品 超碰| 国内一级精品| 国产av强奸美女| 99热9| 亚洲综合图片在线| 羞涩视频| 无码人妻丰满热妇又大又粗| 久久这里都是精品| 精品国产乱码久久久影院| 国产精品午夜AV完会免费 | 综合久欧洲| 强乱老妇中文字幕| 日韩性爱视频在线免费观看| 久久人妻视频网| 亚洲AV不卡在线观看| 欧美亚洲综合高清在线| 亚欧国产无码精品在线| 亚洲色91C| 亚洲熟妇A V黑人| 亚洲欧美在线观看2021 | 亚洲91射| 欧美性生活免费网| 伊人成人中文字幕久久网| 校园春色欧美| 蜜臀久久99精品久久久久久成人小说 | 性色av一区二区| 强奸乱伦AV网址| 风骚少妇视频中文字幕| 国产超碰| 国产搭汕a级片| 99久久无色码| 尤物视频一区| 欧美一区二区三区黄色影视| 睡产熟女乱伦| 亚洲中文字幕熟女少妇一区二区| 麻豆黄色五月天| 日韩成人在线性爱视频| 老熟女中文字幕高清| 色人久久| 张柏芝国产一区在线观看| 97高清啪啪| 日韩人成网站在线播放| 少妇天堂| 亚洲天天艹| 亚洲精品三区在线观看| 婷婷10月天青娱乐| 99久热| 久久免费少妇| 亚洲鸥美色图| 青青草操逼逼视频| 亚洲乱码精品一区二区| 97少妇人妻中文字幕久久| 五月婷丁香| 日本中文熟女视频| 天天综合网合集91| 青娱乐亚洲热| 国产欧美日韩一区二区三区| 欧美色综合网| 99精品伊人| 国产按摩一区二区三区| 亚洲97成人在线观看| 91天天爽| 国产传媒一区日韩| 爱av免费| 人妻无一区二区三区| 亚洲中文sv| 色诱中文字幕| 婷婷五月天综合网| 超碰久久性爱| 91看黄片| 日韩电影天堂视频二区三区| 黄色小视频日本txt| 天美传媒麻豆一区二区三区国产精| 亚洲女毛多水多21P| www五月| 91丨国产丨白浆秘 洗澡动漫| 亚洲一二三| 亚洲天堂,男人| 女人被男人桶爽视频网站| 麻豆美女丝袜人妻中文| 天天操熟妇| 日B操| 日本99一区二区| 亚洲av无码成人精品国产| 亚洲精品久久久久久久蜜桃臀| 情侣开房子拍 日韩无码 女的很漂亮| 性久久久| 亚洲天在线| 殴美牲| 亚洲人妻中文高清| 久久91| 人妻无码视频一区二区三区久久| 99久久精品国产高潮| 欧美天天综合网| 狠狠干妹子| 69精品少妇一区二区三区蜜桃| 一区二区三区高清天码| 天天色综合影视网| 超碰97玖玖爱| 在线性黄高清免费视频| 女人天堂av在线播放| 女同性恋中文字幕| 神马福利久草| 一区二区三区四区免费视频| 91综合色噜噜| 久久有码视频| 九一综合精品视品av| 中文字幕一区日韩精| 自怕偷自怕亚洲精品| 99最新日韩偷拍视频| 成人精品电影| 色9999日韩国产| 夜夜爽妓女| xxx0国产在线播放| 2024年最新色情网站在线观看| 97视频在线免费| 日韩精品人妻中文字幕久久久| www.色操逼| 在线综合色| 欧美成人A√在线一区二区| 欧美亚洲天天| 亚洲精品一卡二卡三卡福利视频网站 | 毛片电影一区二区三区| 26uuu最新| 性色综合网| 草久在线| 视频在线观看青青99国产| 亚洲国产一区二区三区在线 | 老鸭窝黄色视频网站| 国产精品九9| 人妻激情另类| 人妻在线视频| 日本Xx性爱| 久草视频观看视频在线| {男男暴菊gay无套网站| 少妇特黄一区二区三区| 美女诱惑1区2区| 成视频在线观看免费看| 一区二区三区国产在线播放| 青草一区二区| 日韩九九九| 亚洲色交| 91 国产丝袜在线播放-百度| 亚洲中文电影| 97超碰资源网| 精品二999| 欧美 亚洲 综合 制服 另类| 成人老鸭窝人人在线视频| 熟妇女人妻呻吟久久AV| 久久e6只有精品| 日产国产精品中文久久婷婷| 亚洲五月丁香花狠狠干一区二区三区| 亚洲影视综合| 日本女人久久久| 男人的天堂va在线| 看日韩黄片| 亚洲黄色a级片| 久久久一区二区三区四曲免费听| 色综合潮| 98福利在线视频| 久久久久久久九九九九| Av手机版天堂网| 五月婷在线| 67914在线精品观看| 日产成人久久| 亚洲综合另类| 思思在线免费视频| 六九九九|