色五月色开心色婷婷色丁香,五月婷婷丁香花综合网,婷婷丁香五月激情综合在线,五月婷婷六月丁香动漫,婷婷丁香五月激情综合在线,丁香花中文字幕在线观看,播五月色五月开心五月网,开心激情综合网,狠狠色丁香婷婷综合最新地址,丁香视频在线观看,狠狠做六月爱婷婷综合av,久久激情五月丁香伊人

ARTICLE DETAIL

資訊詳情

深耕商務建站與企業(yè)官網(wǎng)運營的一線實戰(zhàn)洞察。

百度校招核心網(wǎng)絡研發(fā)筆試題解析:從TCP/IP到SDN

百度校招核心網(wǎng)絡研發(fā)筆試題解析:從TCP/IP到SDN 1. 核心網(wǎng)絡研發(fā)考什么先看懂這張卷子的出題邏輯拿到“百度2018校招核心網(wǎng)絡研發(fā)工程師筆試題第三批”這個標題的時候我的第一反應是這屆題目應該挺硬核的。核心網(wǎng)絡研發(fā)工程師這個崗位在百度內(nèi)部對應的大多是基礎設施部門——負責數(shù)據(jù)中心網(wǎng)絡、骨干網(wǎng)、流量調(diào)度、自研網(wǎng)絡設備或者高性能網(wǎng)關這一類方向。和普通后端研發(fā)不一樣這個崗位的筆試題不會讓你寫業(yè)務接口也不會讓你做用戶表設計它考的是你對網(wǎng)絡協(xié)議棧、數(shù)據(jù)轉(zhuǎn)發(fā)路徑、路由控制平面和系統(tǒng)底層能力的綜合理解。我認識不少當年一起投這個崗位的朋友大家的反饋出奇一致這批題的區(qū)分度很高。高在哪里高在它不考死記硬背的協(xié)議細節(jié)而是考你“在一個真實網(wǎng)絡場景里能不能用協(xié)議知識做出正確判斷”。所以如果你打算投遞類似的崗位第一件事不是埋頭背OSI七層模型而是先把這張卷子的出題邏輯摸清楚。從我了解到的信息和多方比對來看第三批筆試題大致覆蓋了四個核心模塊。第一個模塊是網(wǎng)絡基礎與協(xié)議棧主要考察TCP/IP、HTTP、DNS這些日常最常接觸但又最容易被忽視的細節(jié)。第二個模塊是路由與交換技術重點在路由協(xié)議、轉(zhuǎn)發(fā)原理和網(wǎng)絡設計。第三個模塊是系統(tǒng)與編程能力畢竟核心網(wǎng)絡研發(fā)不是純網(wǎng)絡工程你得會寫代碼得理解操作系統(tǒng)底層。第四個模塊是數(shù)據(jù)中心網(wǎng)絡與SDN/NFV相關的前沿技術百度在自研網(wǎng)絡設備、SDN控制器和流量調(diào)度系統(tǒng)上投入很大筆試必然會對這個方向有所傾斜。理解了這張卷子的整體結構你再去看題就不會慌。它其實是在篩選兩類人一類是網(wǎng)絡底子扎實、遇到問題能追到報文級別的工程師另一類是系統(tǒng)能力強、能在高性能網(wǎng)絡場景里寫出可靠代碼的工程師。如果你兩項都占那這張卷子對你來說就是友好且能拉開差距的。2. TCP/IP協(xié)議棧高頻題細節(jié)決定你能不能進下一輪TCP/IP協(xié)議棧是核心網(wǎng)絡研發(fā)崗位的“吃飯本事”這部分題目的特點是看起來簡單一做就錯。我梳理了幾個在第三批題目里出現(xiàn)頻率較高的考點每一個都值得你重新過一遍。2.1 三次握手的邊界條件第三次ACK丟了會怎樣這幾乎是必考題但大多數(shù)人的答案最多得一半分。很多人只記得“客戶端進入ESTABLISHED服務端收不到ACK會重傳SYNACK”但真正值錢的細節(jié)在于如果客戶端在第三次握手ACK發(fā)出后立刻發(fā)送數(shù)據(jù)包服務端在SYN_RCVD狀態(tài)下收到這個數(shù)據(jù)包會怎么處理正確的鏈路是服務端在SYN_RCVD狀態(tài)收到客戶端的數(shù)據(jù)包時如果該數(shù)據(jù)包不帶ACK標志那么根據(jù)RFC 793服務端會把這個數(shù)據(jù)包丟棄并重新發(fā)送SYNACK。但如果這個數(shù)據(jù)包攜帶了ACK標志哪怕它不是純粹的ACK包服務端也會認為握手已經(jīng)完成把狀態(tài)切換為ESTABLISHED同時處理數(shù)據(jù)。這個細節(jié)考的是你對TCP狀態(tài)機和報文交互的理解深度而不僅僅是背一個三次握手流程。還有一個變體如果客戶端的第三次ACK在網(wǎng)絡上延遲了很久才到達服務端在此期間已經(jīng)因為重傳超時關閉了連接那這個遲到的ACK到了之后服務端會回一個RST。這個RST會導致客戶端從ESTABLISHED狀態(tài)直接跳到CLOSED。這種場景在處理高并發(fā)短連接服務時非常常見尤其是客戶端連接池需要大量新建連接時。2.2 擁塞控制的演進別只停留在Reno和CUBIC2018年的校招題已經(jīng)明顯開始考察BBR了。百度這樣的體量帶寬利用率哪怕提升1%節(jié)省的成本都是天量級的所以擁塞控制算法是核心網(wǎng)絡團隊的重點研究方向。題目通常這樣出解釋Reno、CUBIC和BBR在擁塞窗口調(diào)整上的核心差異以及在什么網(wǎng)絡場景下BBR能比CUBIC獲得更好的吞吐。CUBIC是BDP探測型的它通過三次曲線來探測帶寬遇到丟包會乘性減窗。BBR換了一套思路它不再以丟包作為擁塞信號而是通過實時測量最小RTT和最大帶寬來建模網(wǎng)絡管道然后用pacing的方式讓發(fā)送速率貼合帶寬。這里有一個關鍵點值得展開BBR的ProbeRTT階段會周期性把擁塞窗口降到4個MSS目的是重新測量最小RTT。因為路徑上的排隊延遲會隨時間變化如果一直保持一個很大的發(fā)送速率RTT會虛高。這個“故意降速重新測量”的操作和傳統(tǒng)算法“發(fā)送速率越高越好”的直覺完全相反但恰恰是BBR能夠在高丟包鏈路上保持高吞吐的原因。答題時如果能把這個機制解釋清楚面試官對你的評價會直線上升。2.3 HTTP隊頭阻塞從HTTP/1.1到HTTP/2再到HTTP/3這批題里HTTP相關的題目卡了不少人原因在于它考的已經(jīng)超出了“GET和POST的區(qū)別”這個level而是直接問你HTTP/2解決了HTTP/1.1的隊頭阻塞為什么還會出現(xiàn)隊頭阻塞HTTP/1.1的隊頭阻塞發(fā)生在應用層一個TCP連接上只能串行處理請求前面的響應慢了后面的請求全部排隊。HTTP/2引入了多路復用通過stream在一條TCP連接上并發(fā)傳輸多個請求看起來解決了問題。但HTTP/2的底層仍然是TCPTCP保證有序傳輸?shù)臋C制導致如果某個stream的包丟了后續(xù)所有stream的包都不能被應用層處理必須等待重傳。這就是TCP層的隊頭阻塞HTTP/2解決不了。真正的解法是HTTP/3它把傳輸層換成了QUIC基于UDP實現(xiàn)可靠傳輸每個stream獨立有序丟包只影響它自己所在的stream。這個問題在核心網(wǎng)絡研發(fā)面試里幾乎是必問的因為它考察的不是你用過多少HTTP庫而是你對分層模型和傳輸機制之間交互關系的深入理解。3. 路由與轉(zhuǎn)發(fā)題從CIDR聚合到BGP路徑選擇的計算邏輯路由與轉(zhuǎn)發(fā)是核心網(wǎng)絡研發(fā)的“物理基礎”這部分題目通常不是簡單的概念問答而是需要實際計算的。第三批題目里計算題的占比不低而且計算量都不大但思路要清晰。3.1 路由聚合的邊界不是所有地址都能老老實實聚合有一道經(jīng)典題目是這樣的有四個網(wǎng)段192.168.1.0/24、192.168.2.0/24、192.168.3.0/24、192.168.4.0/24要求寫出能覆蓋前三個網(wǎng)段的最小聚合路由以及能覆蓋四個網(wǎng)段的最少路由條目數(shù)。前三個網(wǎng)段聚合很簡單192.168.1.0/24的二進制是11000000.10101000.00000001192.168.2.0/24是00000010192.168.3.0/24是00000011。前22位相同所以聚合結果是192.168.1.0/22。但加上192.168.4.0/24就麻煩了它是00000100和前面的公共前綴只有20位相同。如果你強行聚合四個網(wǎng)段得到的是192.168.0.0/20這個路由會覆蓋192.168.0.0到192.168.15.255多覆蓋了12個網(wǎng)段在實際網(wǎng)絡中可能造成路由黑洞或流量被錯誤轉(zhuǎn)發(fā)。所以正確答案是兩條路由192.168.0.0/22和192.168.4.0/24它們才能精確覆蓋四個網(wǎng)段。這個題目的價值不在于計算本身而在于考察你是否明白一個道理路由聚合必須“精確”寧可多一條路由也不能讓聚合后的路由覆蓋到不存在的網(wǎng)段。3.2 OSPF與BGP協(xié)作角色不同路徑選擇邏輯不同另一道??加嬎泐}是路由優(yōu)先級和選路規(guī)則的混合場景。題目會給你一個網(wǎng)絡拓撲一臺路由器同時運行OSPF和BGPOSPF學習到一條到達目標網(wǎng)段的路徑cost為110BGP學習到同一條路徑local_pref為200MED為50。問你最終優(yōu)選哪條路徑。在華為、思科設備上不同協(xié)議之間比較的是路由優(yōu)先級華為叫preference思科叫administrative distance。OSPF內(nèi)部路由的優(yōu)先級通常是10BGP是255思科eBGP是20iBGP是200。但很多時候題目會故意省略這些默認值而是把比較邏輯放在同一個協(xié)議內(nèi)部。如果是BGP內(nèi)部比較local_pref優(yōu)先然后才是AS路徑長度、MED等。這里真正的考點是跨協(xié)議比的是優(yōu)先級同協(xié)議內(nèi)部才比選路屬性。很多考生把這兩個規(guī)則混在一起結果得出完全相反的答案。題目里還會附帶一個“為什么BGP要有這么多選路屬性”的加分題。這個問題的本質(zhì)是IGPOSPF、IS-IS在同一個AS內(nèi)部已經(jīng)能算出最短路徑了但AS之間的運營商有復雜的商業(yè)關系客戶、上游、對等需要一套可策略化控制的選路機制來體現(xiàn)這些商業(yè)決策。理解了這層邏輯你就懂了為什么BGP的選路規(guī)則不是單純的技術最優(yōu)而是商業(yè)策略驅(qū)動的。3.3 轉(zhuǎn)發(fā)面的最長前綴匹配硬件層面的核心邏輯路由與轉(zhuǎn)發(fā)的計算題有時候也會往硬件方向延伸比如問TCAM如何實現(xiàn)最長前綴匹配。TCAM三態(tài)內(nèi)容尋址存儲器的每個bit都有三個狀態(tài)0、1、X不關心所以它天然適合存儲路由前綴。要匹配時所有表項同時參與比較命中的條目里優(yōu)先級最高的就是最長匹配的那個。這里有一個補充考點因為TCAM貴且功耗高但路由表越來越大所以業(yè)界會有“把路由分級把常用前綴放到DRAM里用算法匹配不常用的才放TCAM”這類思路。這些內(nèi)容在筆試里考得少但如果你面試時能主動提出來會讓面試官覺得你有工程視野。4. 高性能網(wǎng)絡與系統(tǒng)底層DPDK、零拷貝和網(wǎng)卡多隊列的實戰(zhàn)理解核心網(wǎng)絡研發(fā)工程師的工作場景里有相當一部分是高性能網(wǎng)絡轉(zhuǎn)發(fā)比如百度自研的四層負載均衡、流量網(wǎng)關、緩存加速代理等這些系統(tǒng)的核心就是處理海量并發(fā)報文。所以筆試里出現(xiàn)系統(tǒng)與性能類題目一點都不意外。4.1 內(nèi)核協(xié)議棧的瓶頸和DPDK為什么能繞過去題目常常這樣出一臺普通的x86服務器跑Linux內(nèi)核協(xié)議棧處理64字節(jié)小包轉(zhuǎn)發(fā)性能通常只能到幾十萬PPS想提升到千萬PPS甚至更高需要怎么做答案的核心就是“繞過內(nèi)核”或“優(yōu)化內(nèi)核收包路徑”。展開來說內(nèi)核協(xié)議棧的瓶頸有三個。第一系統(tǒng)調(diào)用開銷每個包都要經(jīng)過recvfrom/sendto或read/write用戶態(tài)和內(nèi)核態(tài)頻繁切換。第二數(shù)據(jù)拷貝包從網(wǎng)卡緩沖區(qū)拷貝到內(nèi)核內(nèi)存再從內(nèi)核內(nèi)存拷貝到應用緩沖區(qū)多一次訪存開銷。第三內(nèi)核鎖競爭多核CPU同時處理網(wǎng)絡包時協(xié)議棧里的全局鎖和共享數(shù)據(jù)結構會形成爭搶。DPDK的處理思路是通過UIOUserspace I/O把網(wǎng)卡設備映射到用戶態(tài)用輪詢模式PMD替代中斷通知應用程序直接通過大頁內(nèi)存與網(wǎng)卡交換描述符繞過內(nèi)核協(xié)議棧。這個方案能把單核收包性能從幾十萬PPS提升到上百萬PPS級別在業(yè)界已經(jīng)是非常成熟的實踐。答題時如果能提到“大頁內(nèi)存減少TLB miss”這一層說明你真的看過代碼而不是只背了概念。4.2 零拷貝的幾種實現(xiàn)mmap、sendfile和網(wǎng)卡分片零拷貝是高性能網(wǎng)絡服務里繞不開的話題。題目通常給你一個文件下載服務的場景問你如何減少數(shù)據(jù)在用戶態(tài)和內(nèi)核態(tài)之間的拷貝次數(shù)。傳統(tǒng)方式要經(jīng)歷磁盤到內(nèi)核緩沖區(qū)內(nèi)核到用戶緩沖區(qū)用戶到socket緩沖區(qū)socket緩沖區(qū)到網(wǎng)卡一共四次拷貝四次上下文切換。用sendfile可以達到兩次拷貝用DMA直接內(nèi)存訪問配合網(wǎng)卡Scatter-Gather功能可以做到真正意義上的“零拷貝”——數(shù)據(jù)從磁盤到頁緩存后通過DMA引擎直接描述符指向頁緩存中的數(shù)據(jù)不經(jīng)過CPU拷貝直接發(fā)送到網(wǎng)卡。這里有個細節(jié)很多人會忽略零拷貝的瓶頸不再在CPU拷貝上而是轉(zhuǎn)移到了頁緩存和socket緩沖區(qū)之間的一致性維護上如果頻繁讀寫可能觸發(fā)page fault反而性能下降。實測下來對小文件高并發(fā)的場景用sendfile不一定比精心調(diào)優(yōu)的傳統(tǒng)readwrite快因為DMA描述符的建立和拆除也有開銷。這個反直覺的結論如果在筆試的論述題里寫出來會很加分。4.3 網(wǎng)卡多隊列與RSS讓每個CPU核心都有活干另一個常見考點是網(wǎng)卡多隊列和Receive Side ScalingRSS。單隊列網(wǎng)卡在接收報文時需要靠一個中斷來處理所有包多核CPU無法分攤收包壓力。啟用多隊列后網(wǎng)卡可以根據(jù)四元組或五元組哈希把不同的流分散到不同的RX隊列每個隊列由獨立的CPU核心處理這樣就能并行收包。題目會問RSS的哈希因子有哪些如果哈希因子包含源IP和目的IP來自同一個IP的不同端口連接會被分到多個隊列嗎答案是如果哈希計算包含端口那會分散到不同隊列但如果只基于IP那同一對IP的流會固定在同一個隊列可能在某些負載均衡場景下造成隊頭熱點。這個問題的價值在于它讓你意識到看似“自動分散”的網(wǎng)卡哈希如果不和實際業(yè)務流特征匹配反而會成為性能瓶頸。5. 數(shù)據(jù)中心網(wǎng)絡與SDN/NFV從VXLAN到控制器設計的必考題百度在數(shù)據(jù)中心網(wǎng)絡方向的布局很早從自研交換機、SDN控制器到流量調(diào)度系統(tǒng)都有成熟的落地。這批筆試題里出現(xiàn)數(shù)據(jù)中心相關題目非常合理也代表著國內(nèi)頭部互聯(lián)網(wǎng)公司對這個方向的重視程度。5.1 VXLAN封裝細節(jié)外層UDP的源端口到底怎么選VXLAN幾乎是數(shù)據(jù)中心網(wǎng)絡必考項。題目通常會給你一個虛擬機遷移的場景虛擬機從物理機A遷移到物理機B但IP地址保持不變對端如何通過VXLAN隧道繼續(xù)訪問它VXLAN把二層幀封裝在UDP報文里VTEPVXLAN Tunnel Endpoint負責封裝和解封裝。關鍵點在于外層UDP的源端口它是根據(jù)內(nèi)層MAC、IP、端口等信息哈希計算出來的目的端口固定是4789IANA分配的端口。源端口設計成哈希值的目的是為了在底層網(wǎng)絡上實現(xiàn)負載均衡——ECMP等價多路徑協(xié)議可以根據(jù)外層五元組把流量打散到不同的物理鏈路上。如果不做這個哈希所有VXLAN流量在底層看來都走同一個五元組ECMP會把所有流量都壓到一條鏈路上這就是經(jīng)典的“Hash極化”問題。答題時如果能把這個設計意圖講清楚就不僅僅是答了一道題而是在展示你理解了VXLAN“為什么這么設計”的工程智慧。5.2 SDN控制器集中式優(yōu)于分布式但沒有全局看到底行不行SDN相關題目在第三批里也有一席之地。常見問法是SDN控制器的核心職責是什么為什么數(shù)據(jù)中心網(wǎng)絡要用SDN做流量調(diào)度而不是傳統(tǒng)的分布式路由協(xié)議SDN把網(wǎng)絡控制平面和數(shù)據(jù)轉(zhuǎn)發(fā)平面分離控制器掌握全局拓撲可以用全局視角計算最優(yōu)路徑下發(fā)流表到交換機。相比之下傳統(tǒng)路由協(xié)議是分而治之的每臺設備只知道自己的鄰居關系無法感知全局擁塞情況。數(shù)據(jù)中心網(wǎng)絡流量模型極其復雜流量矩陣動態(tài)變化集中式控制器可以根據(jù)實時負載做全局優(yōu)化。但集中式控制器也帶來可靠性問題——控制器掛了整個網(wǎng)絡的路徑計算就癱瘓了所以實際工程中控制器通常以集群方式部署用分布式數(shù)據(jù)庫同步網(wǎng)絡狀態(tài)。這里有一個容易踩坑的認知很多人以為SDN就是OpenFlow的代名詞但實際工程中OpenFlow只是SDN南向接口的一種實現(xiàn)方式。百度早期的SDN方案里也大量使用了自研的南向協(xié)議或者通過BGP、NETCONF等“傳統(tǒng)”協(xié)議實現(xiàn)控制器的集中控制。SDN的本質(zhì)是“控制與轉(zhuǎn)發(fā)分離”這個思想而不是某一種具體協(xié)議?;卮饡r點出這層才能體現(xiàn)出工程視野。5.3 CLOS架構與ECMP現(xiàn)代數(shù)據(jù)中心網(wǎng)絡的骨架數(shù)據(jù)中心網(wǎng)絡設計題通常圍繞CLOS架構展開。CLOS解決的是“大二層網(wǎng)絡如何擴展”的問題核心層Spine和接入層Leaf之間通過ECMP形成等價多路徑所有Leaf都能通過多條路徑到達任何其他Leaf帶寬可水平擴展。題目會問為什么CLOS架構比傳統(tǒng)三層樹形架構更適合數(shù)據(jù)中心核心原因有兩個。第一樹形架構的匯聚層是瓶頸流量越高匯聚層設備壓力越大而且難以水平擴展。第二CLOS架構下所有路徑都是等價的通過ECMP實現(xiàn)負載均衡鏈路利用率高故障轉(zhuǎn)移也快——一條鏈路斷了流量立刻均勻分攤到其他等價路徑上。這個題目還有一個衍生問法ECMP的哈希因子和前面VXLAN的哈希源端口設計有什么關聯(lián)對的VXLAN外層UDP源端口哈希就是為了解決ECMP哈希極化問題兩道題是一套組合拳。你如果能把它們串起來回答面試官會知道你是真的理解而不是背概念。6. 編程與系統(tǒng)實現(xiàn)題網(wǎng)絡工程師的代碼功底不能拉胯核心網(wǎng)絡研發(fā)工程師的日常不是天天調(diào)路由器而是寫代碼——寫網(wǎng)關、寫轉(zhuǎn)發(fā)面、寫控制面組件、寫網(wǎng)絡監(jiān)控系統(tǒng)。所以卷子里一定有代碼題和系統(tǒng)設計題這些題目的水平和難度和純后端崗位的題風格截然不同。6.1 C語言的字節(jié)序與內(nèi)存對齊最容易栽跟頭的地方第一類高頻題是C語言和操作系統(tǒng)底層細節(jié)。字節(jié)序問題是網(wǎng)絡編程的經(jīng)典陷阱x86機器是小端序網(wǎng)絡字節(jié)序是大端序用htonl/ntohl轉(zhuǎn)換。但如果處理的是一個結構體——比如一個自定義報頭里面有uint8_t、uint16_t、uint32_t混合字段直接強制類型轉(zhuǎn)換再發(fā)送就會因為內(nèi)存對齊產(chǎn)生填充字節(jié)導致接收端解析出錯。正確的做法是用packed結構體__attribute__((packed))或者每個字段單獨序列化。筆試里可能會給你一段代碼問你這個結構體在64位系統(tǒng)上會占用多少字節(jié)如果加了packed又是多少字節(jié)。這種題考察的是你寫網(wǎng)絡協(xié)議代碼時能否處理字節(jié)序和內(nèi)存布局問題這在高性能網(wǎng)絡開發(fā)里非常常見坑很深。6.2 生產(chǎn)者消費者模型從互斥鎖到無鎖隊列的設計取舍題目會給你一個場景多個生產(chǎn)者線程把網(wǎng)絡數(shù)據(jù)包寫入隊列多個消費者線程從隊列中取包處理如何設計這個隊列第一層答案是互斥鎖加條件變量這是教科書方案。第二層答案是讀寫鎖、自旋鎖的取舍在臨界區(qū)極小的情況下自旋鎖比互斥鎖更合適因為它避免陷入內(nèi)核態(tài)。第三層答案才是面試官真正想聽的無鎖隊列。用CASCompare-And-Swap實現(xiàn)lock-free的MPMC隊列或者更務實的SPSC隊列——單生產(chǎn)者單消費者隊列通過ring buffer就能實現(xiàn)無鎖這在DPDK的rte_ring里就是經(jīng)典實現(xiàn)。這里有一個關鍵取舍無鎖隊列在讀多寫少、臨界區(qū)極短的高并發(fā)場景下性能優(yōu)勢巨大但無鎖不等于無坑ABA問題、內(nèi)存序問題memory ordering都可能導致詭異bug。所以筆試答題時最好能說明白什么場景選什么隊列以及為什么而不是一味追求花哨的無鎖實現(xiàn)。6.3 多線程并發(fā)中的原子操作與內(nèi)存屏障再往后有一類題圍繞多線程同步的正確性展開兩個線程一個寫一個讀都操作同一個變量如何保證讀到的一定是最新值答案是volatile?錯。在C/C里volatile只能告訴編譯器不要優(yōu)化不能保證多核間的可見性也不提供原子性。正確做法是用C11的atomic、std::mutex或者提供內(nèi)存屏障的原子操作。進一步會問為什么CPU會亂序執(zhí)行為什么需要內(nèi)存屏障現(xiàn)代CPU為了性能會進行指令重排多核之間還有緩存一致性協(xié)議比如MESI帶來的偽共享問題。cache line是64字節(jié)如果兩個線程頻繁修改同一cache line上不同變量會因為偽共享導致性能雪崩。用__attribute__((aligned(64)))把變量對齊到cache line邊界可以規(guī)避這個問題。這類題考的是你對系統(tǒng)底層的理解一個合格的核心網(wǎng)絡研發(fā)工程師必須能寫出“確定性強”的高并發(fā)代碼。7. 綜合設計題實戰(zhàn)模擬從零設計一個高可用四層接入網(wǎng)關網(wǎng)絡方向的綜合設計題通常是卷子的壓軸大題分值高、難度大。它往往不以“寫代碼”的形式出現(xiàn)而是要求你畫架構圖、說清楚關鍵模塊和容災方案。這里我結合網(wǎng)絡上找到的類似題型和崗位要求還原了一道比較有代表性的設計題并附上完整的解題思路筆試面試都能用得上。題目大意公司需要設計一個高可用的四層接入網(wǎng)關承接所有外部流量并轉(zhuǎn)發(fā)到后端服務集群要求支撐10萬QPS、可用性99.99%請設計整體架構并說明關鍵設計點。這道題想拿高分需要從四個層面去回答。第一層是整體架構接入網(wǎng)關采用集群部署多臺機器通過ECMP等價路由對外提供服務使用BGP與上層交換機互通任何一臺機器故障流量自動被ECMP重新哈希到其他機器。在網(wǎng)關機器內(nèi)部使用DPDK接管網(wǎng)卡業(yè)務邏輯全部在用戶態(tài)實現(xiàn)。四層轉(zhuǎn)發(fā)不做太多復雜邏輯只做DNAT和SNAT所以可以做到很高吞吐。第二層是會話一致性四層網(wǎng)關必須保證同一個客戶端的連接五元組始終落在同一臺后端機器上否則TCP連接會斷開。用一致性哈希表保存會話狀態(tài)會話表需要定期同步或者將狀態(tài)存到分布式KV里保證故障切換時會話不丟。但分布式KV帶來的延遲在數(shù)據(jù)路徑上不可接受所以實踐中會在每臺機器本地保存會話表配合主備同步極少數(shù)情況下故障會導致連接重建這是99.99%可用性可以容忍的。第三層是健康檢查與故障剔除網(wǎng)關需要定期探測后端服務的健康狀態(tài)探測失敗要自動摘除該后端并重新建立會話同時不能影響現(xiàn)有連接。這里要考慮“探活頻率”和“誤判”之間的權衡探得太頻繁會對后端產(chǎn)生額外壓力探得太慢故障轉(zhuǎn)移時間過長。一般會設計成TCP連接探測和HTTP探測的雙層機制。第四層是安全與防洪作為公網(wǎng)入口網(wǎng)關必須能抵抗SYN Flood。解法是開啟SYN Cookie或者用硬件卸載卡做DDoS清洗只有通過驗證的流量才進入內(nèi)核態(tài)處理。這個問題在百度真實場景里是繞不開的所以出現(xiàn)在筆試里非常合理。這道題的完整回答至少要涵蓋ECMP接入、DPDK轉(zhuǎn)發(fā)、會話一致性、健康檢查、故障轉(zhuǎn)移、DDoS防護、安全隔離、監(jiān)控和日志統(tǒng)計這幾個模塊答得越全越接近核心網(wǎng)絡研發(fā)工程師的真實工作畫像。8. 備考與答題策略筆試里的時間管理同樣決定成敗最后聊點實際的這部分是我和幾個參加過百度校招的朋友交流后總結出的經(jīng)驗不一定寫在任何帖子里的但非常關鍵。8.1 時間分配和答題順序這套筆試題給人的體感是“時間不夠”。我有朋友當年在這套題上有些題目只能留空白原因不是不會做而是前面在二叉樹、哈希表這類基本功題目上花了太久后面的大題反而沒時間展開。我個人的建議是先做綜合設計題和論述題再做計算題最后做選擇題和填空題。為什么綜合設計題是開放性的只要你框架清晰、要點齊全即使細節(jié)不夠完美也能拿到大部分分數(shù)。計算題如果思路錯了可能什么都得不到但如果是列了步驟但算錯結果通常還能拿到過程分。選擇填空是純客觀題一題就一兩分占比不大放在最后反而不會心慌。8.2 答題時的表述技巧請用“工程師的語言”而非“課本的術語”筆試答題尤其是簡答和設計題極其看表述方式。舉個例子同樣的意思“TCP的擁塞窗口會減小”和“窗口大小根據(jù)當前鏈路的RTT和丟包率動態(tài)調(diào)整丟包時進入擁塞避免階段通過乘性減窗降低發(fā)送速率以緩解鏈路擁塞”給閱卷人的專業(yè)程度印象完全不同。再一個細節(jié)設計題里圖要畫關鍵模塊的名稱要寫清楚接口要標注箭頭方向不要只寫一堆文字。閱卷人和面試官都偏好“能一眼看到架構全貌”的答案。畫圖不需要多精美但核心鏈路和容災鏈路必須用不同顏色或線型區(qū)分開。8.3 結合個人經(jīng)驗談談這套題的復習方向如果你正打算投遞核心網(wǎng)絡研發(fā)崗我建議你按照“基礎協(xié)議棧-路由交換-高性能轉(zhuǎn)發(fā)-數(shù)據(jù)中心網(wǎng)絡-SDN/NVF-系統(tǒng)編程”的順序系統(tǒng)復習。但要注意不要停留在背概念每學一個協(xié)議問自己三個問題——它解決什么問題、它的報文格式里每個字段為什么存在、它在真實網(wǎng)絡里有哪些常見的坑。把這三個問題想清楚無論是筆試還是面試你都能對答如流。我當年復習TCP時用一個笨方法用Wireshark抓自己機器上瀏覽網(wǎng)頁的包跟著TCP流看三次握手、窗口變化、重傳超時再對照RFC看報文頭。這個過程看起來慢但對建立“報文級直覺”特別有效。筆試里有些題是“紙上談兵”考不出來的但你如果見過真實的報文交互一眼就能看穿考點在哪里。9. 寫在最后幾個容易被忽略但考試高頻的“邊角料”這些內(nèi)容我在前面沒有具體展開但它們出現(xiàn)的概率極高而且一旦考到如果沒看過就是完全空白所以我單獨拉出來講一下。9.1 DNS解析細節(jié)遞歸、迭代與緩存TTL的坑DNS相關題目在網(wǎng)絡崗筆試里很少缺席。常見問法是用戶在瀏覽器輸入一個域名完整解析過程是怎樣的這里要答清遞歸查詢和迭代查詢的區(qū)別、本地hosts文件、系統(tǒng)resolver、客戶端本地DNS緩存、運營商LocalDNS、根服務器、頂級域服務器、權威服務器以及每個環(huán)節(jié)的緩存TTL機制。有意思的考點是TTL過短會導致DNS查詢爆量TTL過長會導致域名切IP后客戶端不生效。2018年前后正是各家互聯(lián)網(wǎng)大廠開始大規(guī)模使用HTTPDNS的年代原理就是繞過運營商LocalDNS避免被劫持和調(diào)度不精準所以題目也有概率延展到HTTPDNS的優(yōu)缺點——相比傳統(tǒng)DNSHTTPDNS是應用層通過HTTP接口直接拿到IP列表避免中間環(huán)節(jié)的污染和緩存問題但需要客戶端SDK配合。這題考的是你對“域名解析鏈路”的完整理解。9.2 BGP路由振蕩正則表達式和route-map實際怎么用BGP的題目有時候會出一些實操向的給出幾條BGP路由填寫正則表達式匹配特定前綴或者設計route-map完成基于AS路徑的選路控制。這類題要求你真用過BGP知道AS_PATH里各種字符的含義。正則表達式里有一個坑^192_和_192_的區(qū)別。前者匹配的是以192開頭的AS路徑后者匹配路徑中包含192的任意位置。如果只是求包含某個AS號的所有路由用后者如果限定起源AS用前者。這種題目答案很明確但很多沒實操經(jīng)驗的人會混淆。我建議備考時在模擬器里建一個BGP環(huán)境手動配幾條route-map把正則表達式和過濾邏輯親手跑幾遍記憶會牢固很多。9.3 網(wǎng)絡質(zhì)量觀測RTT、抖動、丟包率到可用性的推導關系最后一類容易被忽略的題目是網(wǎng)絡質(zhì)量觀測類。它會給你一組數(shù)據(jù)某條鏈路的RTT是20ms抖動5ms丟包率0.1%問這條鏈路的可用性是多少這里“可用性”的定義不是簡單的1減去丟包率而是要看業(yè)務模型。比如嚴格依賴TCP傳輸?shù)臉I(yè)務0.1%的丟包率會導致大量TCP重傳和擁塞窗口退化實際吞吐可能下降超過5%可用性遠低于99.9%。這個問題的深層考點是網(wǎng)絡質(zhì)量指標不能只看單個值需要結合協(xié)議行為和應用場景做聯(lián)合分析。核心網(wǎng)絡研發(fā)工程師在真實工作中就是干這個的——接報警、看指標、定位鏈路瓶頸、優(yōu)化轉(zhuǎn)發(fā)路徑每一步都需要這套分析能力。我把這些“邊角料”單獨拎出來是因為它們在我的經(jīng)驗里恰恰是拉開分差的地方?;A題大家都會協(xié)議細節(jié)背一背也能過關但能把DNS解析、BGP實操、鏈路質(zhì)量分析這些細碎知識融會貫通的人才是真正適合核心網(wǎng)絡研發(fā)崗位的人。這套筆試的第三批題目本質(zhì)上就是在篩選這批人。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
久久人妻视频网| 91精品操美女| 欧洲熟妇xxXx欧美老妇裸体 | 欧美久久人体| 亚洲日本成人动漫| 国产精品69人妻无码久久久| 97色碰| 色九九九九| 婷婷色色网| 青娱乐欧美激情一区二区| 日韩大香蕉AV影片| 亚洲国产精品久久久久婷婷老年| 大香蕉 222| 丁香色婷婷| 天天干人人干天天日97| 国产精品福利资源在线尤物| 丝袜美腿丝袜| 久草看看看| 亚洲日韩黑丝| 中文字幕无码不卡啪啪| 99精品高潮| 麻豆影音天美视频| 亚洲欧美一区二区三区在钱蜜桃| 日本在线播放不卡一区| 在线观看AV片| 中文字幕日韩人妻视频一区二区三区| 日韩人妻有码免费视频| 国语对白露脸XXXXXX| 91亚洲图片| 亚洲色性| 国产精品剧情| 久久久久97| 老熟女综合网| 国产精品欧美在线观看| 久久久久久久性爱| 国产强奸无码乱伦| 大屁股人妻女教师撅着屁股| 91伊人久| 少妇一区二区三区高速| 都市久久精品激情亚洲| 无码外流操逼视频| 再深点灬舒服灬太大了添视频 | 九九aV| 亚洲精品精品一区二区| 五月丁香网站| 一区二区三区蜜桃成人撸久久东京热 | 大香樵伊人网| 99久久com免费视频′| 五月丁香| 成人在线午夜视频一区| 国产精品久久久鸭无码的功能| 亚洲无码成人精品| 自偷自拍的亚洲视频| 国产99 中文字幕日韩小视频| 国产又爽又黄| 亚洲欧美九九| 欧美 亚洲 综合 制服 另类| 日本操逼无码| 日韩不卡a级视频专区| 99日韩| 人人人人人人少妇| 中国黑人三级片网站上区| 久久夜嗨| 国产免费内射视频| 日韩无码黄色片| 精品黑人一区二区| 麻豆 欧美 日韩| 激情四射五月天| www久久精品| 啊啊啊啊好多水| 日韩av在线精品观看| 日本操逼视频不卡直接放| 深夜激情无码| 欧美色图私拍91| 在线五区| 看大黄色大片原件| 久视频在线观看| 欧美日韩另类字幕中文| 日韩欧美大力操| 97干在线| 男女性扦B| 一区二区三| 国产日韩区| 大香蕉av在线| 91网站视频在线观看| 亚洲欧洲日韩中文字幕一区| 操逼视频免费日韩无码| 久久久久七视频| 日本不卡在线二区三区| 欧美视频在线视频免费va| 欧州激情视频在线一区二区| 国产精品久久久久久久久久久久久久吹 | 亚洲欧美日韩制服另类| 色综合五月天| 男人成人黄色视频在线观看免费下载| 精品国产一区二区三区在线播出| 精品久久久久久亚洲| 欧美国产操逼| av网站在线观看了| 亚洲 中文 女同| 户外裸露刺激视频第一区| 欧插网站| 中文字幕成人乱码熟女精品国50 | 亚洲瓯美色图| 碰碰97| 99激情视频| 超碰偷拍| 久久9精品视频| 97在线免费看视频| 99性爱| 久操免费电影| 亚洲欧美国产其他二区| 色噜噜狠狠色综无码久久| 蜜乳AV.COM| 黑丝91视频| 日少妇视频| 99热网站| 日本不卡五区| 亚洲中文字幕妇伦久久| aⅴ日韩成人电影av在线免费看av大全 | 台湾佬中文娱乐网久久久久久久久久com | 久久国产AⅤ| 天天操夜夜操| 超碰97人妻在线| 偷拍伦理视频| 51国产午夜精品视频| 日韩无码嘿咻黑热久| 中文字幕欧美丝袜07资源| 婷婷激情四射| 葡萄牙性视频一二区| 久久一二三四五六七八九区区区 | 国产在线观看91精品一区| 夜夜操老骚逼视频网站| 日韩性爱1级片视频| 亚州色站 日韩电影| 国产多人在线观看视频| 夜夜操夜夜高潮夜夜爽国产精品区| 丝袜剧情| 欧美精品黑人猛交高潮| 日韩人妻网站| 国产在线精品偷| 97鸡把在线视频| 亚洲日本成人动漫| 国产精品爱欲| 日本道人妻久久久在线不卡色视频| 青草av在线| 中文字幕久久婷婷丁香五月天| 嗯嗯嗯,草死我| 可以免费看黄片的视频| 懂色AV网| 久久精品国产99国产精品亚洲| 天天做日日做| 91国模| 国产原创精品| 狠狠操夜夜| 欧美啪啪天堂| chaopen97久久| 99久久婷婷国产综合精品草原| 99999re| 久草在| 99视频自拍| 激情小说图片亚洲首页| 久久精品国产97欧美精品亚洲 | 国产精品久久| 亚洲伊人久久精品影院| 人妻少妇久久久| 亚洲国产欧美一区二区潘金莲| 日韩精品一区,二区 九九...老司机| 久久丁香五月天| 天天射天天| 天天爽入口| 色婷婷蜜臀av| 婷婷午夜| 婷婷久久综合久| 操逼无码操逼| 精品日韩| 国产suv一区二区三区6| 亚洲操操操无码| 午夜福利在线视频1000| 婷婷香蕉欧美在线一区二区三区| 在线无码操| 永久免费av无码网站国产app| 欧洲站一级二级三级h| 国产精品久久9| 久99久视频| 亚洲精品一二区| 老司机福利青青草| 国产亚洲99久久精品熟| 欧美激情在线观看视频| 免费99精品国产自在在线| 夜夜嗨AV蜜臀av| 婷婷久久综合久| 中文自拍欧美影视| 强奸乱伦日韩AV| 黑人白女精品一区| 乱操乱伦AV| 日韩一卡二卡三卡| 上床啊啊啊| 色臀aV| 日韩精品第3页| 国模一区二区三区| 91人妻人人妻| 91婷婷伊人狠人| 欧美操逼一二三区| 成人片在线播放| 国产高潮AA片免费看| 十八禁成人网站在线观看| 日本一区视频在线观看| 无码区蜜乳| 91欧美大片| 又大又大又大又粗爽高潮观看 | 国产精品亚洲天堂网址| 18禁免费视频| 精品中文字幕一区二区l - 百度| 嫖老熟女A片一二三区| 十八禁的黄污污免费网站| 正在播放国产精品一区| 久久人人舔人人爽舔人人av片| 在线岛| 淫荡熟女乱伦网| 八戒无码国产午夜福利| 日韩一级欧美一级在线观看| 成人片在线播放| 五月婷色| 91丝袜美女| 天美一二三在线观看Av| 亚欧美综合网。| 桑老女人九区| 啊啊啊好想要| 超碰在线观看av不卡| 日韩操逼HD| 在线可观看的黄色网址| 久久99综合| 免费观看欧美日韩操逼视频| 97在线欧洲| 久久久久久久久久久久九| 加勒比少妇AV婷婷六月天超碰超碰| 九色 蝌蚪 熟女自 | 久久女婷| 操操操操网黑人| 男女香蕉一区二区| 看免费一级在线播放毛片| 在线a v| 久久婷婷亚洲| 玖玖爱综合| 麻豆黄站| 亚洲无码成人精品| 免费视频无码| 97超碰人操| www.91视频网| 色呦呦呦在线观看视频| 久久婷婷五月天| 中国黑人三级片网站上区| 日韩熟女视频二区| 69少妇一区二区| 高清国产av无码| 日欧美色| 国产精品操| 亚洲欧洲精品视频发布| 日韩精品高清资源在线| 床戏久久久av一区二区麻豆| 精品国产91内射久久| 一区二区娱乐网站| 九九九九九九免费视频| 51一区二区三区| 东京太热久久久| 欧美激情精品久久久| 亚洲无码精品AV久久久| 大香樵伊人网| 男人的天堂va在线| 久久久98网站免费视频| 欧美色图在线视频少妇| 久草网站免费在线观看| 91精品人妻啪啪间| 最新中文字幕在线亚洲| 老熟妇一区二区三区啪啪| 97天天摸天天爽| 蜜乳av首页| 日韩综合97P| 中文字幕国产| 1区2区3区中文字幕日韩| 精品国产乱码久久久久久蜜臀| 人人摸人人添人人操| 操操操操操操| 十八禁视频一区二区| 日本 成 人 小说 电影 一区二区| 一区二区三区在线日韩影院观看| 思思热久久成人| 九九英色视频| 亚洲一级性爱视频免费看| 九月AV| 国产资源中文字幕在线| 这里是精品| 性色AV网站| 射丝袜高跟鞋99| 96精品久久久久久久久久| 91无人区卡一卡二卡三乱码入口最新版:能让用户有更多选择的选择-经典说说-爱 | 99热精品在线在线| 99在线精品视频| 天天爱天天操| 高清有码一区二区| 加勒比五月天| 国产女生在线| 超碰99re| 日本淫色网| 日本成熟少妇A∨网站| 96AV久久久| 精品久久无码午夜福利| 亚洲国内精品成人不卡| 久久亚洲AV无码专区国产精品| 精品999日本| 国产精品久久久久中文字幕| 日本高清一本二本免费不卡| 狠狠干综合| 九九热九九| 不卡人妻少妇精品毛片一区23区视频| AV在线性爱| 玖玖草久草99蜜月一区二区三区| 一二三四免费视频| 亚洲图片日本AⅤ欧美在线| 加勒比海成人视频网| 欧美日韩性爱操大逼| 青青草大香蕉视频| 熟妇熟女一区二三区| 强奸国产精品视频| 殴美性天天| 91久久18禁| 日韩欧美字幕亚洲一区二区| 亚州综合网| 91美女看B| 免费一级视频特黄色大片| 久久久蜜桃臀无码视频| 久久精品中文| 夜夜爽爽爽| 人妻 丝袜美腿 中文字幕| 性色高清..……| 亚洲熟妇乱女区二区三区| 老熟女乱子伦中文字幕一区二区| 精品久久久久综合无码| 99色骚| 色婷婷综合久久久久中文国产精品一区中文字幕,国产福利电影一区二区三区 | 温婉少妇玩3p| 加勒比伊人| 精品二区三四区五电影 | 99热97| 手机在线视频国内精品| 国产精品麻豆成人av| 亚州熟妇精品| 日日躁天天躁狠狠躁| 欧美在线干| 精品性爱| 激情在线青青操| 国产熟妇一区二区| 久操B网| 亚洲美女av无码| 东北少妇高潮zzzz| 日韩久射综合| 一区二区亚州激情久婷婷欧美| 免费夜夜爱黄色视频毛片| 天天色,天天干,天天干| 欧美特大AA级黄片| 亚洲无码电影久久久| 秘书高跟黑色丝袜国产91在线| 熟啊v色欧美热| 五月婷婷丁香六月| 717影院理论午夜伦八戒| 久久黄片国产一区二区| 韩国一级做a久久久久| 后入合集| 午夜视频久久久| 亚洲凸凹超碰成人| 东北女人的毛片| 97人人中文网| 人人手机欧洲亚洲国产人妻| 婷婷国产精品九区| 亚洲国产欧美日韩人妻日中文| 国产乱伦性爱AV| 无码聚合| 国产成人精品日本视频| 人妻少妇av在线观看| 日韩乱伦影音先锋| AA特级绝黄| 乱伦AVxx| 亚洲AV成人在线| 操逼操操操91| 五月婷婷激情综合| 中文字幕日韩综合| 91狠狠综合久久久久久| 欧美性,色九九| 玖玖爱综合| 青青操在线亚洲视频观看欧美在线 | 天天视频黄网站| 欧美日日操| 翔田千里Av在线| 人人贴人人摸| 欧美亚洲另类在线蜜桃| 高清国产av无码| 天美麻花大全视频| 欧美性爱97超碰 | 91精品国产91综合久久蜜臀| 精品人妻视频入口| 日本免费中文字幕在线| 最新日产中文在线麻豆| 九九AV| 人妻啊啊人妻啊| 国产免费大片| 97超碰免费生活| 一本大道青青| 美女裸体无遮挡永久免费观看网站| 91AV入口| 5月婷婷6月六月丁香| 爱射综合| 三上制服丝AV| 精品高清牛人盗摄一区二区三区中文字幕A片免费在线观看 | 国产农村妇女精品一| 久久同城AV| 欧美亚洲日本激情在线| 亚洲国产丝袜在线观看| 96精品久久久| 天天看天天日天天操| 欧美的性爱网站免费| 爱av免费| 日本九九久久99播| 色眯眯av| 91精品人妻偷情| 日韩人妻 中文字幕| 欧美后进式| 欧美变态激情网| 国产精品爽爽v| 任你艹| 97露脸精品丝袜| 天天操天天干美女网址导航| 国产精品高清2021在线| 99热婷婷| 伊人亚洲综合| 欧美性爱18观看| 天天爽天天| 欧美大片天天看| 1区2区3区视频| 97精品国产精品免费观看| 性色国产东北露脸精品视频| 蜜桃AV天堂| 久久精品国产亚洲AV清纯| 亚洲春色欧美| 人人模人人看| 麻豆精品久久久久久久| 色噜噜人妻av中文字幕| 欧美性爱免费短视频| 狠狠操夜夜操蜜桃视频三区| 天天操狠狠日夜夜干超大胆开放com大香蕉视频在线观看 | 很很热性爱视频| 91美女在线视频| 青青草好吊色| 女人爽到高潮潮喷18禁网站| 九九人妻| 日韩成人性爱电影在线播放| 亚州日韩97| 中文字幕乱码人妻二区三区| 国产美脚女优尤物在线观看| 国产精品人妻无码久久久互動交流| 男人的天堂一区三区| 加勒比av中文| 天天操夜夜操狠很操| 欧美激情欧美精品| 内射夫妻三片| 天天综合影院91| 亚洲日韩国产精品| 精品国产网站| 亚洲国产成人精品999| 搡老女人老妇女老妇老熟女怎么读| 中国91AV| 啊啊啊com| 在线午夜成人无码视频| 91新在线欧美| 免费黄色片。| 久久动漫精品视频这里只有精品| 尤物网址| 超碰精品人妻狠狠干| 能在线播放的国产三级| 粉嫩av一区二区三区四季| 精品人妻av在线播放| 亚洲自拍欧美色综合| 久久夜黄色无码A级大片| 中文字幕、久久精品国产2020、久久综合久久自在自线精品自、亚洲 | 精品欧美А∨无码黑人大荫蒂| 妇女视频网站| 精品在线观看视频在线| 国内一级精品| 粉嫩国产精品久久久| 人妻一二三区| 欧美色图在线视频少妇| 国产精品熟女乱伦| 青娱乐休闲视频在线观看| 99re不伦| 成年人一级黄色毛片大全在线观看| 日本久久久精品电影| 97人妻碰碰中文无码久热丝袜| 国产传媒日韩| 男人天堂综合| 天天操天天日青青草超碰av| 自偷自拍的亚洲视频| 狠狠干91| 人妻大香蕉| 91狠| 亚洲黄网在哪免费看| 天天影视亚洲| 校园春色综合香蕉| 大香蕉123| 欧美一区二区福利在线| 色97欧美| 大香蕉一人在线| 日本欧美国内在线| 中文字幕AV乱伦| 一级AAA片一区二区三区| 啊啊啊啊啊操我视频| 老司机深夜影院18未满| 亚洲天堂男人网| 日韩资源网| 色婷婷综合久久久久中文国产精品一区中文字幕,国产福利电影一区二区三区 | 久久m| 中文字幕一区av| 人人操人人搞人人草| 久久东京热久久| 97干综合网| 麻豆久久久久久久久丝袜 | 亚洲免费人妻在| 91视频精品| 精品在线78| 日韩中文字幕2020| 免费人人搞97| 韩国一级做a久久久久| 乱伦色图网址是多少| 婷婷人妻激情| 天堂精品一区| 农村妇女精品一区二区| 亚洲一二三精品久久网| 国产精品久久久久久亚洲色欲| 久久久99久9| 五月丁香啪啪网| 色呦呦呦在线观看视频| 黄色av网站在线播放| 天天插网| 射综合网| 午夜在线播放| 国产熟女一区二区| 中韩中文字幕在线观看| 999熟女精品| 91 亚洲情侣偷拍 久久| 自拍欧美| 亚洲少妇色图自慰直播| 日本女厕偷拍| 麻豆九九九| 无码一区二区三区四区五区六区七区八区九区十区视频 | 一区二区三区四区久久视1| 91neishe| 超碰日本97美女人妻人人玩人人爱| 亚洲欧美激情在线视频| 国产吞精a级片激情电影| 综合免费无码中文| 91精品国产91久久青草| 日本五十路熟女一区二区| 爱妃国产亚洲视频中文字幕| 亚洲人成在线放东京热| 97爱| 91操操操操| 深爱五月天| 操逼日韩无码 | 久久黄色视频一区二区三区 | h在线看免费版在线看| 色婷五月| 日韩亚洲美女一区久久| 日韩AV色图| 成人A片男人的天堂| 熟女高潮合集-永久久久-成人AV | 色色色999| 精品-91人妻子系列| 国产伦精品一区二区三区在线观| 精品少妇一区二区三区在线视频| 五月天激情综合网| 色噜噜国产在线| 美女裸体麻豆天美蜜桃91| 精品国产乱码久久久兰草影视| AV色五月天| 国产美女自拍视频| 日韩免费看在线黄色片| a级成人毛片免费视频高清| 中文字幕av乱伦| 亚洲无套久久嗯嗯| 欧美情色贴图| 视频二区美腿制服人妻欧美| 亚洲精品国语在线播放| 国产性爱乱伦AV| 国产女人高潮视频| 97精品国产精品免费观看| 妇女乱色二区| 日韩成人精品| 亚洲天堂久久| 午夜福利在线视频1000| 亚洲女人91| 久热影视| 69人妻精品一区二区绯色| 欧美性色综合网| 欧美图片色五月天| 一二三四视频中文字幕在线看| 日韩久久激情精品| 日本A级视频| 99re28在线观看| 香蕉热人人精品| 一本道综合色图| 夜精品久无码| 亚洲国产一级黄色视频| 超碰人人草| 中国小夫妻勾搭露脸淫荡对白| 国产精品伦理| 26uuu国产日韩综合在线观看| 亚洲影视综合网| 亚洲。天堂。日本在线观看| 日本黄大片在线观看视频| 国内自拍 日韩激情 99| 美性中文综合网| 91久久久亚洲| 日韩精品一区二区三区四虎影视| 91黑丝操| 中文字幕精品一区二区精| 久久综合亚洲色1080p| 97久久超碰日韩精品| 乱伦a片视频| 九九久久久九九| 人妻天堂网| 777奇米影视777四色| 金典av| 人人性爱视频免费| 97网址www| 欧美综合第一页| 综合网色| 久久婷婷成人综合色怡春院| 大香蕉黄色一区| 少妇精品久久久八区九区| 欧美黄片免费在线观看视频| 综合大香蕉美。| 亚洲天堂久| 成人av在线播放| 午夜激情床戏激情| 91视频综合网| 97色在线观看| 国产白丝精品在线观看| 久久久久婷婷精品av电影| 国产精品第一区第一页| 久久99热这里只频精品6学生| 国产日逼视频| 亚洲AV不卡在线观看尤物| 日韩中文字幕二区| 人妻熟女一区二区| 91精品无码人妻系列| 欧美草草| 婷婷五月激情综合| 精品久久97观看在线视频| 1024人妻| 精品亚洲| 久久久中文版| 99re公开精品免费视频| 亚洲九九视频| 中文字幕AV乱伦| 美女诱惑在线一区| 欧美色性爱| 人人爽夜夜玩视频| 九九综合色| 九九九九国产| 红桃视频高潮| 国产精品黄色三级av| 国产成人精品一区| 亚洲中文字幕av| 爱逼综合| 亚洲无限观看| 欧美黄片免费在线观看视频| 日本一区二区三区四区免费观看| 蜜臀一二三| 超碰人人干| 91五十路| 欧美国产有色电影| 午夜精品视频777| 97在线免费视频| 精品美女少妇一区二区三区| 粉嫩在线一区二区懂色| 神马午夜久久| 少妇精品久久久| www.久久99| 日韩欧美操逼xxx| 日韩精彩视频| 激激五月| 午夜精品久久久久久久99蜜桃一| 99re在线| 一本色道久久综合亚洲二区三区| 久久久久久久久久va| 蜜桃久久综合视频| 人妻一区视频| 欧美在线播放| 97操97干| 亚洲青色欧美| 素人播放一区| 中文字幕精品资源在线| 男女啪啪啪18禁网站| 一区二区三区精品久久| 日韩综合97P| 五月天丁香网| 操婢日韩| 91老熟女| 中文字幕一区二区三区人妻不卡| 999综合色| 亚洲欧美一区二区三区在钱蜜桃| 97摸视频| 国产日韩区| 中文字幕欧美丝袜07资源| 久操| 色偷偷色偷偷欧美日韩| 久久久久久久极品香蕉视频| 欧美顶级黄片AAAAA在线免费看| 日韩免费高清大片在线| 9久久精品| 一区二区三区高清天码| 人人妻人人澡人人爽久久av| 青青草国产一区二区三区| 国产精品 午夜福利| 色爽爽文学| 婷婷久久综合久| 国产福利影视| 欧亚乱色熟女一区二区| www.99中文字幕| 超清福利精品视频在线| 91福利网在线观看| 日韩欧无码一区二区三区免费不卡| 婷婷性网| 欧美春色| 午夜在线播放| 中文久久久| 一区二区影视| 久久久久99999| 综合欧美亚洲| av中亚| 亚洲男人天堂网| 日产操逼| 久久 国产 无码| 日韩黄色av中文字幕| 欧美一级美片在线观看免费| 日本高清视频xxxx| 九X超碰| 丁香五月激情综合国产| 黄色免费网页无码| 黄片不用下载在线观看| 在线看免费无码AV天堂的| 欧美精品1区2区3区| 麻豆这里只有精品| 婷婷尹人大香蕉免费| 97超碰jingpin| 久草视频制服诱惑| 午夜精品久久久久| 亚洲欧美日韩中文久久自慰| 亚洲骚男同com| 亚洲高清欧美总合| 天天干人人看综合| 天天操人人操狠狠插| 人人操人人uiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiii | 免费观看网黄| 欧美黄色片在线播放| 久久91精品国产9丨久久分亭| 日本国产高清色www视频在线| 黄片不用下载在线观看| 精品精品精品| 好好的日:com久久九九| 欧美性五月| 精品久| 国产av波波国产精品| 日本污ww视频网站| 中文字幕精品丝袜| 国产乱青青草久久| 男人久久天堂| 国产欧美日韩一区二区三区| 国产自偷自拍一区| 中文有码第五页| 久久视频,这里只有精品| 蜜臀99久| 九月丁香婷婷色| 色色色综合网| 高潮综合网| 久热最新在线杭州| 久操网视频| 白嫩嫩一区| 97在线资源| 久久狠狠色噜噜狠狠狠狠97| 多乙久久久久久| 熟妇女人妻呻吟久久AV| 亚洲在线综合| 草莓精品视频在线免费观看| 激情综合五月| 超碰久久精品| 日韩精品资源专区二区| 色99视频| 啊啊啊啊啊啊啊在线| 一级二级在线观看| 国产成人精品日本亚洲语言| 亚洲欧美色综合| 一本色道久久综合精品婷婷| 国产精品69人妻无码久久久| 久久精品视频久久久| 国产精品大屁股999| 国产精品嫩草影院午夜两性| 丁香六月啪啪| 青青草女人天天干| 久久久久久电影| 岛国AV一区二区电影| 99少妇内射| 亚洲精品精品一区二区| 传媒免费一区二区三区| 97超碰人人模人人拍人人| 亚洲综合另类| 少妇人妻在线| 91国产美女丝袜足交精品视频| 久久久女人| 天天日B夜夜干B时时操B| 日韩国产十八禁| 日韩肏逼视频| 天美av在线观看| 啊啊啊久久| 中文字幕成人| 亚洲天堂电影网99999| 国产午夜无码片在线观看影视 | 欧美啪啪色吧在线| 亚洲夜色在线| 日本操逼视频不卡直接放| 欧美韩日精品99综合| 欧美激情亚洲色图| 911粉嫩人妻| 亚洲天堂男人| 精品超碰色| 四虎免费看黄| 丁香激情网| 国产黄片在线免费观看| 亚洲精品欧洲色| 操淫穴亚洲五月丁香| 91N五十路| 大茄子熟女AV导航| 91影库| 亚洲一二三四区在线免费看视频| 亚洲丁香花色| 久久婷婷热| 欧美成人一区二区三区在线播放| 2023天天操夜夜操| 欲香欲色| 久久久久亚洲Av无码专区老牛影视| 亚州高清av| 欧美美女后入| 久久久久久少妇| 超碰69| 激情久久日韩精品中文字幕麻豆| 欧美日日夜夜| 久久夜夜夜夜| 日本东京热大香蕉a片| 日韩美女久久一区二区三区| 人妻碰碰碰碰碰碰| 色五月婷婷麻豆在| 最新欧美色网| 97视频网站在线观看| 久久久久久大| 91N综合在线| 久久久久久人| 日本阿v天堂在线观看| 日语五十路和六十路亚洲国产精品 | 一区二区视频你懂的| 欧美熟女丝袜| 96久久久久| 亚欧成人中文字幕一区| 国产尤物AV尤物在线观看不卡| 韩日性爱av| 亚洲第一狼人丝袜美女另类| 精品亚洲国产成人av网站| 性爱视频免费网址| 一起草日韩| 婷婷五月天激情网| 中文字幕少妇色 | 日本一二三免费久久| 人妻啊啊人妻啊啊| 久久一区二区蜜桃| 嗯啊视频免费在线观看| 伊人五月天| 龙兴卡官方查询| 精品无码久久久久久久杏吧| 影视综合无码少妇| 99精品无码| 无码人妻精品一区二区三区99不卡| 国产精品久久久久无码A√| 伊人色综合网| av日韩中文字幕| 国产成人自拍视频视频| 久久亚洲不卡| 亚洲天天天| 熟女中出视频| 中文字幕午夜精品久久久| 亚欧高清| 日本三级久| 夜夜躁狠狠躁日日躁av| 蜜桃色院一区久久| 一级性爱视频免费在线| 五月天婷婷成人网| 丰满人妻一区二区三区免费| 亚洲精品影视老司机| 天天天天天超碰| 国产精品嫩草久久久久| 日本精品88888888| 成全动漫视频观看免费下载| 国产一区96在线| 亚洲爽图| 日本女厕偷拍| 中日韩一区二区三区欧美| 亚洲AV免费在线观看| 天天干天天操天天操夜夜操天天操 | 国产精品美女在线一区| 高清肉丝中文无码| 强奸乱伦大香蕉网| 久久东京国产精品视频| 在线人人人人人人精品超| 屁股久久久久久久久| 无码国产精品午夜不卡(| 精品传媒在线一区| 亚洲五区熟女| 亚洲免费成人精品电影| 成人性交午夜免费片| 人妻一区二区三区| 日本午夜操逼| 日韩啪啪啪啪啪| 91亚洲人| 东京热av男人的天堂| 日韩在线观看中文字幕视频| 亚洲综合999| 亚欧操逼片在线观看 | 色妹子A V| 国产无码精品久久久久久| 久久久久密臀一区二区| 男人的天堂亚洲| 国产操逼逼网| 亚洲综合激情五月久久| 中文字幕女同在线| 91激情国产| 操操逼操操逼操操逼逼| 国产99999久久精品| 久久99手机免费视频| 欧美日不卡| 欧美在线视频99| 日韩不卡a级视频专区| 自拍偷拍第26| 亚洲天堂男人天堂网| 黑人精品欧美一区二区蜜桃| 在线综合 亚洲 欧美中文字幕 | 国产精品点击进入在线影院| 伊人九九九| 91A欧美电影网站| 天天久久久久久| 这里都是精品| 91久久国产精品| 大香蕉草草| 日韩无码一区二区三区| 久久精品黄色| 91这里只有精品| 日本一区视频在线观看| 草草影院日本第一页| 黄色人人| 天美麻花大全视频| 东京热亚洲一区二区| 女同亚洲欧美一二三区久久电影| 久久极品伊人| 日本超碰97日韩精品人妻| 久草精品视频| 亚洲人妻精品一区二区| 97在线免费| 曰韩操B| 九九香蕉网| 色婷婷综合久久中文字幕雪峰| 天天爽爽爽爽| 亚洲va综合va国产va中文| 综合激情二| 少妇蹲下买菜露大唇0| 欧美色另类| 国产精品熟女九色九色蜜臀| 久久综合婷婷| a片亚洲一本通视频| 欧美极品美女aaaaaa级黄片| 国产精品com| 国产在线视视频有精品| 天堂蜜桃无码视频一区二区| 国产免费久久精品99re韩国| 美女9118禁| 亚洲欧美国产成人综合不卡| 免费视频在线观看啊啊啊啊啊| 偷拍片久久| 国产欧美精选激情视频| 超碰97起碰| 竹菊一区二区三区AV线| 国内毛片无遮挡国产| 东京热亚洲一区二区| 91模特在线观看| 青青草五月份天| 日韩久射综合| 你想操日本小逼吗| 人人超碰在线观看黄| 色激情综合网站| 男人兔费天堂| 精品999一区二区| 久热大香蕉| 亚洲av资源| 老司机免费视频在线91| 人人操,人人插| 亚洲色图 欧美热图 清纯唯美 另类自拍 | 超碰97欧美在线| 综合少妇网| 大香蕉久久| 992视频一区| 激情色播| 激情五月天中文字幕色| 日本少妇va7777| 琪琪精品免费一区二区三区| 九九九久久久久| 亚洲av影院在线观看| 亚洲风情综合网| 激情网五月天| 激情 欧美 亚洲 小说| 国产第二页| 色婷婷丁香五月天| 中文字幕天堂在线| 美女干逼2| 天天欧美欧美亚洲网| 九九九免费视频| 久久久久九九九九| 综合国产97| 最新日韩黄片| 欧美极品美女aaaaaa级黄片| 噜噜噜亚洲精品| 伊人大香蕉在线| 亚洲成A∨人影院在线欢看| 91精品国产91久久青草| 中文字幕久久亚州无码| 美女露胸露奶头| 人人透人人操| 日逼视频日本| 亚洲av青草久久一区二区| 欧美综合网站999| 久偷拍欧美日韩三区| 伊人一区二区在线播放| 久久久一区二区三区麻豆| 国产 大胆 对白| 91九九九馒头| 久jiu久神马影院| 综合网色| 日本午夜福利影院| 思思热久久成人| AV和黑人在线播放| 亚洲男人综合| 欧美一区二区男人天堂| 欧美色图综合网| 快灬快灬 一下爽蜜桃在线观看| 夜夜嗨绯色| 亚洲宗合网| 美女黄码视频午夜| 久久久久久91香蕉国产| 欧美精品91| 欧美日本天堂| 人妻内射一区二区在线视频| 中文字幕78| 精品一区二区三区四区女| 色婷婷婷五月天激情四射| 久久精品免视看国产成人﹣蜜臀av一区. 久久精品免视看国产成人,蜜臀av一区 | JULIA一区二区三区在线播放| 欧亚性爱啪啪| 国产97色在线| 精品久久久久久亚洲| 亚洲人成色9999精品久久| 白丝jkav| 91情色在线| 亚洲一区二区在线观看91| 日韩在线欧美精品一区二区| 91香蕉视频在线观看免费| 亚洲国产一区二区入口| 综合网色| 99综合自拍| 丝袜美腿91| 亚洲精品自拍| 久久五月综合| 蜜臀AV一区二区三区激情综合| 91狠狠狠| 中韩中文字幕在线观看| 视频在线97| 中文字幕美女91| 三级特黄60分钟播放| 风间由美日韩欧美久久| 金典av| 久久AV色| 男女一进一出视频久久| 蜜桃天美传媒AV一区二区三区| 很很很很操| 欧美综合第一页| 岛国AB视频| 久久精9| 天天综合网网欲色| 激情第四色| 后入福利| 欧美一级A片在线看视频性色| 不卡九肏| 伊人久久综合影院精品久久久| 精品国产久热在线观看| 欧美一区二区三区成人性生活| 中文久久| 国产不卡精品91| 超碰美女97| 台湾佬激情综合| 天天亚洲| 日韩 人妻 精品| 日韩免费a级毛片无码a∨| 丁香五月天婷婷姐| 中国人高清www色视频免费| 亚洲超碰在线| 天天综合网91| 99re这里只有精品3| 欧美18 在线观看| 欧美 亚洲 大香| 亚洲成人免费中文字幕| 丰满人妻一区| 在线99热| J?P?NESEHD熟女熟妇伦| 97色欧州| 亚洲一区二区性爱电影| 青青草一区二区高清无码视频| 婷婷五月花| 内射老妇BBWX0C0CK| 玖玖草久草99蜜月一区二区三区| 国产精品欧美日韩久久| 中文字幕欧美精品亚洲日韩蜜臀| 国产高潮AA片免费看| 家庭乱伦麻豆| 青青伊人久久| 亚洲精品丝袜-不卡成人免费……| 久久大黄片| 综合性视频99| 精品人妻一区二区免费蜜桃| 国产性久久久| 国产在线综合福利网站| 亚洲色图 综合| 116美女午夜| 91精品久久久久久综合五月天| 国产毛片片精品天天看视频| 99视频自拍区| 99re只有精品| 男人的天堂啪啪啪啪啪蜜桃不卡| 亚洲国产ⅴ高清在线观看| 97资源亚洲| 日韩精品系列| 人妻熟女一区二区| 97色诱| 亚洲中文制服诱惑| 亚洲麻豆精品二区三区| 在线v中文字幕一区二区三区| 少妇熟女1区2区3区| 国产真实子伦对白|