色五月色开心色婷婷色丁香,五月婷婷丁香花综合网,婷婷丁香五月激情综合在线,五月婷婷六月丁香动漫,婷婷丁香五月激情综合在线,丁香花中文字幕在线观看,播五月色五月开心五月网,开心激情综合网,狠狠色丁香婷婷综合最新地址,丁香视频在线观看,狠狠做六月爱婷婷综合av,久久激情五月丁香伊人

ARTICLE DETAIL

資訊詳情

深耕商務建站與企業(yè)官網運營的一線實戰(zhàn)洞察。

云主機部署Harbor私有Docker鏡像倉庫實戰(zhàn)

云主機部署Harbor私有Docker鏡像倉庫實戰(zhàn) 1. 先把需求摸清楚私有鏡像倉庫到底要解決什么問題云主機上搭一套私有 Docker 鏡像倉庫這件事聽起來像運維活但真正動手的人往往是開發(fā)者自己——團隊里沒人愿意把公司內部鏡像丟到公共倉庫也沒有預算一開始就買商業(yè)方案于是先在云上開一臺機器把鏡像倉庫跑起來邊學邊用。我這次做的就是這個在云主機的實例上用 Harbor 搭一套帶 Web 界面、帶用戶權限、帶鏡像掃描能力的私有倉庫同時把整條 login / tag / push / pull 鏈路走通。這個倉庫能解決三件具體的麻煩內部鏡像不再散落在各人筆記本上、CI 機器不用重復從外網拉基礎鏡像、私有鏡像有獨立的訪問控制。它適合誰我的判斷是三類人剛接觸容器、想弄明白鏡像倉庫底層是怎么運轉的初學者小團隊里被安排“順手把倉庫搭一下”的后端或運維以及已經用過托管版鏡像服務、想搞清楚里面那些項目、成員、機器人賬號概念從哪來的人。整篇內容我會按“選型 — 環(huán)境 — 部署 — 接入 — 踩坑 — 加固”的順序寫每一步都給到可以直接抄的參數和命令中間穿插我自己踩過的坑你可以照著復現也可以只看自己卡住的那一段。需要先說明一個前提云廠商之間的差異主要在控制臺點選和網絡配置上實例內部的路徑、端口、組件和開源版本的行為是一致的。所以下文統一稱呼為“云主機”“實例”具體的規(guī)格選型和安全組配置你按手頭那家云的控制臺界面去找對應項就行邏輯完全對得上。1.1 四種方案擺在天平上我為什么落在 Harbor把可選項鋪開其實只有四條路。第一條是本地起一個registry:2容器五行命令搞定但它只有存儲和推拉能力沒有用戶體系、沒有 Web 界面、沒有項目隔離刪鏡像還得手動調 API學兩天就摸到天花板了。第二條是直接用云廠商的托管鏡像服務省心但按量計費、權限模型是別人設計的學不到東西也不適合“學習”這個目標。第三條是在自己機器上用 Docker Desktop 自帶的小倉庫只能本機用沒有意義。第四條就是 Harbor它是從開源鏡像倉庫項目演進出來的完整發(fā)行版帶 Nginx、Core、Registry、PostgreSQL、Redis、JobService、Trivy 一整套組件用 Compose 拉起一臺機器就能跑。我選 Harbor 的關鍵理由不是功能多而是它的組件拆分方式本身就是一堂容器架構課。你會發(fā)現 Harbor 把“認證”和“存儲”分開了Core 服務負責用戶、項目、權限、APIRegistry 只負責最原始的 Blob 與 Manifest 存取JobService 干異步的復制、掃描、GC 這類重活Nginx 在最前面做 TLS 終止和路由。理解了這個分層你再看任何一個鏡像倉庫產品的文檔都能對上號。這是學習場景下最值回票價的部分。另外 Harbor 官方提供離線安裝包里面把鏡像都打包好了不用一個個去docker pull在帶寬不穩(wěn)定的環(huán)境里這一點非常關鍵。整個部署過程用prepare生成 compose 文件、用install.sh一鍵拉起失敗時日志位置固定排查路徑清晰很適合拿來練手。1.2 上線前必須釘死的四件事很多人部署失敗不是因為技術難而是四件事沒提前定域名、證書、存儲目錄、端口。我這邊的定法是這樣的——域名用一個只在內部解析的名字比如harbor.internal故意不用公網域名避免證書簽發(fā)和被掃描證書用自簽學習環(huán)境沒必要走自動簽發(fā)流程但自簽證書的 SAN 一定要寫全后面會細講存儲目錄統一放在獨立數據盤的/data下Harbor 的數據卷放/data/harborDocker 引擎自己的數據目錄放/data/docker這樣系統盤只裝系統重建實例時數據盤可以直接掛回來端口上HTTPS 占 443HTTP 占 8443 并且只做跳轉用。這里有個容易被忽略的細節(jié)Harbor 配置里的hostname字段不能帶端口。寫成harbor.internal:443會讓生成的證書配置、令牌服務和倉庫地址全部錯位癥狀是網頁能打開但docker push報 401 或 404。這個坑我第一遍就踩了后面會再提一次。還有一件事需要提前想清楚這臺機器是“學習環(huán)境”還是“準生產環(huán)境”。學習環(huán)境可以單機、可以自簽、可以只做冷備份一旦有同事真的往里推鏡像你就得考慮備份、磁盤配額、垃圾回收周期。我的建議是先用單機把鏈路走通把備份腳本寫好再考慮往高可用架構演進——單機 Harbor 掛了的恢復動作其實比很多人想象的簡單只要harbor.yml、證書、數據卷和數據庫備份四樣東西在。2. 云主機與基礎環(huán)境的落地準備這一節(jié)全部是“動手之前的體力活”但它們決定了后面能不能順。我見過太多人在 Harbor 起不來之后去翻日志最后發(fā)現是內存不夠被 OOM Killer 殺掉了 Core 服務或者磁盤寫滿導致 PostgreSQL 拒絕寫入。所以環(huán)境和規(guī)格這部分值得單獨花時間。2.1 實例規(guī)格怎么估從內存和磁盤兩頭算先說內存。Harbor 默認組件跑起來Nginx 大約 30MB、Core 約 100MB、Registry 約 60MB、PostgreSQL 約 100MB、Redis 約 20MB、JobService 約 80MB、Trivy 適配器再加一點空載合計在 400MB 到 600MB 之間。聽起來 2GB 就夠但實際推拉鏡像時 Nginx 和 Registry 會有緩沖區(qū)開銷JobService 做掃描時內存能沖到 500MB 以上加上 Docker 引擎自身、系統進程和頁緩存4GB 是安全帶。我用的就是 2 核 4GB跑起來比較從容如果你還要在這臺機器上跑 CI runner直接上 4 核 8GB。磁盤要算兩筆賬。第一筆是鏡像本體假設你打算放 100 個鏡像標簽平均壓縮后 300MBHarbor 按層存儲且層可共享實際占用約為總量的 60%也就是 100 × 300MB × 0.6 ≈ 18GB。第二筆是回收余量垃圾回收不會立刻釋放空間而且回收前要把倉庫切成只讀中間可能堆積一批待清理對象建議預留 1.5 倍。18GB × 1.5 ≈ 27GB再加上日志、掃描數據庫、系統獨立數據盤開 100GB 是很舒服的配置學習場景下 40GB 也能跑但要盯著用。系統盤 40GB 足夠但請務必確認 Harbor 的數據目錄在數據盤上。默認安裝會把data_volume放在安裝目錄下的data文件夾里如果安裝目錄在系統盤鏡像很快就吃掉系統盤而系統盤寫滿會導致 SSH 都登不上這是最難受的一種故障。項目學習/單機小團隊使用說明vCPU24編譯、掃描占 CPU內存4GB8GB低于 2GB 易被 OOM系統盤40GB40GB僅裝系統與鏡像緩存數據盤100GB200GB 起存 Harbor 數據與 Docker 數據帶寬按量 5Mbps固定帶寬拉基礎鏡像時體現明顯帶寬這塊補充一句學習環(huán)境用按量帶寬、用完就停是最省的做法但要注意鏡像拉取那一瞬間的峰值如果帶寬只有 1Mbps拉幾百兆的基礎鏡像會非常痛苦。我的做法是第一次把常用基礎鏡像拉完并推到私有倉庫后面所有構建都走內網拉取外網帶寬就只在少數時候打滿。2.2 安全組與端口規(guī)劃清單安全組是云上最容易配錯的一層。原則很簡單只開必須的其余全關。我這次開放的端口如下表注意 2375 這個 Docker 遠程端口絕對不要對公網開放一旦暴露對方可以直接在你的機器上起容器做任何事這是常見的高危配置。端口協議來源用途22TCP你的固定出口 IP運維登錄443TCP內網網段Harbor HTTPS8443TCP內網網段Harbor HTTP 跳轉80TCP不開由 443 承接2375/2376TCP不開Docker 遠程 API5432/6379TCP不開數據庫與緩存僅容器內如果機器需要被其他網絡的同事訪問把 443 的來源改成對應網段不要圖省事寫0.0.0.0/0。另外很多云廠商還提供“安全組規(guī)則命中日志”配完跑一次docker login去日志里確認命中的是你預期的規(guī)則比盲猜快得多。2.3 數據盤掛載與目錄體系拿到新實例第一件事是看盤。lsblk確認數據盤設備名通常系統盤是vda數據盤是vdb但不同鏡像不一樣穩(wěn)妥做法是看容量和掛載點。lsblk # 假設輸出中 vdb 沒有掛載點容量符合你買的數據盤 mkfs.ext4 /dev/vdb mkdir -p /data blkid /dev/vdb # 記下輸出的 UUID然后寫/etc/fstab。這里一定要用 UUID 而不是/dev/vdb因為設備名在重啟、擴容、換盤后可能變化用設備名會導致開機掛載失敗進而進不了系統。寫入一行UUID你的UUID值 /data ext4 defaults,nofail 0 2nofail這個選項很關鍵它保證盤掛不上時系統仍能啟動方便你遠程修復否則一個 fstab 寫錯就得走控制臺的 VNC。寫完執(zhí)行mount -a驗證再df -h看一眼。接著建目錄體系我的劃分是這樣/data/harbor放 Harbor 數據卷/data/harbor-certs放證書也可以放/data/harbor/certs/data/docker給 Docker 引擎當># 以某主流發(fā)行版為例先裝依賴 sudo apt-get update sudo apt-get install -y ca-certificates curl gnupg # 添加軟件源并安裝源地址請?zhí)鎿Q為你環(huán)境可用的地址 sudo apt-get install -y docker-ce docker-ce-cli containerd.io docker-buildx-plugin docker-compose-plugin裝完必須驗證三件事docker version能看到 Client 和 Server 兩段、docker compose version有輸出、systemctl is-enabled docker返回enabled。第三點經常被忽略機器重啟后 Docker 沒自啟Harbor 自然也就沒起來第二天上班發(fā)現倉庫掛了。Compose 這里有個版本差異要提醒Harbor 的不同版本對docker composev2 插件和docker-composev1 獨立二進制的探測邏輯不同新版安裝腳本優(yōu)先用 v2。如果你機器上兩個都裝了偶爾會出現腳本調錯的情況癥狀是install.sh報命令不存在但手動docker compose ps又是好的。最省事的做法是只保留一個我一般只留 v2 插件版。配置 Docker 守護進程這一步先做一半把>{ data-root: /data/docker, log-driver: json-file, log-opts: { max-size: 50m, max-file: 3 }, live-restore: true }寫到/etc/docker/daemon.jsonsystemctl daemon-reload systemctl restart docker。日志輪轉這兩個參數千萬不要省容器日志默認不限制大小某天一個異常容器反復報錯幾十 GB 日志能把盤寫滿這個場景我遇到過兩次都是深夜。3. Harbor 部署的完整實操鏈路環(huán)境就緒進入正題。這一節(jié)我會把配置文件逐項拆開講因為 Harbor 的配置文件里幾乎每一個改動都對應一個具體的后果抄作業(yè)可以但知道為什么抄更重要。3.1 離線包獲取與解壓從官方 release 頁面下載離線安裝包文件名形如harbor-offline-installer-v2.10.x.tgz注意選 offline 而不是 online離線包里面已經包含所有鏡像 tar 包。下載后校驗一下哈希然后在數據盤解壓cd /data wget 離線安裝包地址/harbor-offline-installer-v2.10.2.tgz tar -xzf harbor-offline-installer-v2.10.2.tgz cd harbor ls -l目錄里應該有harbor.yml.tmpl、install.sh、prepare、harbor.v2.10.2.tar.gz。第一件事是把模板復制成正式配置cp harbor.yml.tmpl harbor.yml。不要直接改 tmpl因為升級時新包會覆蓋模板你的配置就丟了而且排查問題時也分不清是默認值還是你的改動。3.2 harbor.yml 逐項拆解與參數計算配置文件不長但每一段都有坑。我按順序講關鍵項。hostname: harbor.internal http: port: 8443 https: port: 443 certificate: /data/harbor-certs/harbor.crt private_key: /data/harbor-certs/harbor.key harbor_admin_password: 換成你自己的強密碼 data_volume: /data/harbor database: password: 換成獨立強密碼 max_idle_conns: 50 max_open_conns: 100 jobservice: max_job_workers: 10 trivy: ignore_unfixed: true skip_update: true insecure: false log: level: info local: rotate_count: 50 rotate_size: 200M location: /data/harbor/loghostname前面說過純域名不帶端口而且要和證書的 CN/SAN 完全一致否則客戶端會報證書不匹配。http.port我設成 8443是給那些還在用明文訪問的老腳本留一條跳轉路實際使用時 Nginx 會把 HTTP 請求 301 到 HTTPS。https.port用 443這樣客戶端docker push的時候不用特殊寫端口省掉很多麻煩。data_volume指向數據盤這一行決定了幾十 GB 鏡像落在哪。database.password單獨設不要和harbor_admin_password一樣雖然學習環(huán)境無所謂但養(yǎng)成習慣很重要——數據庫密碼泄露意味著整庫憑據握在別人手里而管理員密碼泄露最多是倉庫被改。trivy.skip_update: true在離線或帶寬有限的環(huán)境下很有用否則 Trivy 每次啟動都去拉漏洞庫拉不動就一直重試日志刷屏。jobservice.max_job_workers控制異步任務并發(fā)10 是個平衡值調到 30 以上在小機器上會把 CPU 打滿導致 Web 界面卡頓。log.local的輪轉參數是保命的rotate_count: 50配合rotate_size: 200M理論最大 10GB實際很少到但比不限制安全得多。如果你不用漏洞掃描可以在安裝時加--without-trivy能省 300MB 左右內存和一點磁盤。學習階段我建議保留掃一次看看報告長什么樣挺有意思。3.3 自簽證書生成SAN 是重點自簽證書最容易出問題的地方不是加密強度而是Subject Alternative Name?,F在所有主流 TLS 實現都只看 SAN不看 CN只寫 CN 的證書在瀏覽器和 Docker 客戶端里會被判定為無效。生成命令mkdir -p /data/harbor-certs cd /data/harbor-certs openssl req -x509 -nodes -newkey rsa:4096 -days 3650 \ -keyout harbor.key \ -out harbor.crt \ -subj /OInternal/OULearning/CNharbor.internal \ -addext subjectAltNameDNS:harbor.internal,IP:10.0.0.12這里幾個參數值得說-days 3650是十年學習環(huán)境夠用生產環(huán)境建議 90 到 365 天并配自動續(xù)期-addext需要 OpenSSL 1.1.1 以上如果你的系統版本老得改用寫配置文件的方式SAN 里同時寫 DNS 和 IP是因為我偶爾會用 IP 直連調試不寫 IP 的話那條路就報證書錯誤。生成完檢查一下openssl x509 -in harbor.crt -noout -text | grep -A2 Subject Alternative Name確認輸出里有你寫的兩個值。這一步花十秒鐘能省掉后面半小時的x509: certificate signed by unknown authority排查。順手把證書文件的權限收緊chmod 600 harbor.key。私鑰文件在容器掛載時會被讀取權限太松雖然不直接報錯但不符合最小暴露原則。3.4 執(zhí)行 install.sh 與組件狀態(tài)驗證配置寫完執(zhí)行cd /data/harbor ./install.sh --with-trivy腳本會依次做幾件事檢查 Docker 和 Compose 可用性、調用prepare渲染出docker-compose.yml、加載離線鏡像包、拉起全部容器、等待健康檢查。整個過程兩三分鐘中途輸出會滾得很快注意看有沒有紅色的 ERROR。安裝成功的標志是最后一屏打印出訪問地址和默認賬號提示。然后驗證docker compose -f docker-compose.yml ps你應該看到harbor-core、harbor-db、harbor-jobservice、harbor-log、harbor-portal、nginx、redis、registry、registryctl、trivy-adapter全部是running或healthy。healthy狀態(tài)是核心服務的健康檢查探針剛起來時可能是starting等 30 秒再看。如果某個容器反復重啟先看日志docker logs --tail 100 harbor-core。日志目錄在容器內是/var/log/harbor宿主機上通過harbor-log容器集中收集位置是data_volume下的log目錄。這個設計挺巧妙所有組件日志統一落盤排查時不用一個個進容器。常用運維命令我記成三行出問題先敲這三條docker compose -f docker-compose.yml ps # 看狀態(tài) docker compose -f docker-compose.yml logs -f core # 看核心服務日志 tail -f /data/harbor/log/core/core.log # 看落盤日志3.5 首次登錄與基礎初始化動作瀏覽器打開https://harbor.internal自簽證書會有安全警告點繼續(xù)訪問即可這也是為什么自簽只適合內部環(huán)境。用默認管理員賬號登錄密碼必須是Harbor12345這是官方默認值第一次登錄會強制要求改密碼。新密碼的規(guī)則是長度至少 8 位、包含大小寫字母和數字比如Lx2024Harbor。改完密碼做幾個初始化動作新建一個項目比如dev勾選私有這樣匿名用戶拉不了。默認的library項目是公開的很多人第一次push就推到這里結果所有人都能拉很不合適。在系統管理 - 用戶管理里建幾個普通用戶分配給不同同事。進項目dev在成員里加成員角色選開發(fā)者可推可拉或訪客只拉。Harbor 的角色模型是三層系統管理員、項目成員、匿名用戶權限從項目設置里繼承。在配置管理里把項目創(chuàng)建權限關掉避免任意用戶隨便建項目把磁盤塞滿。這些動作不復雜但做了之后整個倉庫才像個“能給別人用”的東西而不只是你自己玩的沙盒。4. 客戶端接入從 login 到 push 的完整閉環(huán)服務端起得來只算完成一半。真正讓人卡住的往往是客戶端這一側證書信任、域名解析、守護進程配置隨便一個不對docker push就報一堆看不懂的錯。這一節(jié)我把客戶端要改的東西全部列清楚。4.1 Docker 守護進程的配置與證書信任客戶端有兩條路走要么讓 Docker 信任你的自簽證書要么把倉庫標記為“非安全倉庫”。生產環(huán)境必須走前者學習環(huán)境圖省事可以用后者但要知道它的含義——insecure-registries會讓 Docker 在推拉時跳過 TLS 校驗中間人只要在你和倉庫之間就能看到鏡像內容。先講后者快{ data-root: /data/docker, insecure-registries: [harbor.internal:443], insecure-registries: [harbor.internal], log-driver: json-file, log-opts: { max-size: 50m, max-file: 3 } }注意上面這段我故意寫了兩遍同名 key只是想說明格式實際只能留一個正確寫法是數組里放harbor.internal不帶端口。如果倉庫啟用了 HTTPS 且用 443insecure-registries里寫主機名即可如果是自定義端口才需要帶端口。再講正規(guī)做法讓客戶端信任證書sudo mkdir -p /etc/docker/certs.d/harbor.internal sudo cp harbor.crt /etc/docker/certs.d/harbor.internal/ca.crt sudo systemctl restart docker目錄名必須是hostname:port格式如果端口是 443 可以省略端口部分但有些版本比較嚴格我建議統一寫成harbor.internal:443和harbor.internal各建一個目錄兩邊都放上證書避免猜版本行為。文件名同樣是固定的自簽根證書叫ca.crt客戶端證書叫client.cert客戶端私鑰叫client.key名字錯了不生效且不報錯只是繼續(xù)報證書不受信任非常迷惑。改完 daemon.json 一定要systemctl daemon-reload再重啟直接 restart 有時不讀新配置。驗證方式是docker info看輸出里Insecure Registries一欄有沒有你的域名。4.2 域名解析的三種兜底方式harbor.internal這類內部域名在公網 DNS 上是不存在的??蛻舳藞骴ial tcp: lookup harbor.internal: no such host就是解析沒通。三種解法從輕到重第一種改 hosts。每臺客戶端機器加一行10.0.0.12 harbor.internal最簡單機器多了難維護學習環(huán)境夠用。第二種內網 DNS 加一條 A 記錄。如果你們本來就有內網 DNS加一條記錄所有機器自動生效這是最干凈的方式。第三種用云廠商的私有 DNS 服務。在 VPC 內建私有解析區(qū)把域名指向內網 IP新機器加入 VPC 就自動生效。這個適合有一定規(guī)模的團隊配置略復雜。不管用哪種配完在客戶端執(zhí)行getent hosts harbor.internal或nslookup確認能拿到正確的內網 IP不要用ping判斷ICMP 可能被安全組攔掉但 TCP 443 是通的。4.3 項目、用戶與機器人賬號的權限模型Harbor 的權限模型剛接觸會覺得繞講清楚其實就三層。項目是最小隔離單位鏡像地址的格式是hostname/項目名/鏡像名:tag那個中間段就是項目。成員是用戶和項目的綁定關系同一個用戶在不同項目可以有不同角色。機器人賬號是給自動化系統用的憑據名字自動帶robot$前綴可以精確限定到某個項目、某類操作。為什么要有機器人賬號因為 CI 系統里存明文密碼風險太大機器人賬號的特點是只能操作指定項目、可以設置過期時間、權限只給推或只給拉。實踐中的配法是CI 用一個只有推送權限的機器人賬號部署節(jié)點用一個只有拉取權限的機器人賬號人類用戶用自己賬號三條線分離出事能定位。創(chuàng)建路徑是進入項目 → 機器人賬戶 → 新建 → 勾選權限推送、拉取、刪除等→ 設置過期天數 → 保存。生成的令牌只顯示一次關掉頁面就再也看不到必須當場復制到 CI 的密鑰管理里。這個設計我第一次用的時候差點吃虧復制晚了只能刪了重建。4.4 一次完整的推送與拉取演練鏈路走一遍心里才踏實。假設本地有個鏡像叫myapp:1.0要推到dev項目。# 1. 登錄回車后輸入密碼或令牌 docker login harbor.internal -u robot\$devci # 2. 打標簽格式必須是 主機/項目/鏡像:標簽 docker tag myapp:1.0 harbor.internal/dev/myapp:1.0 # 3. 推送 docker push harbor.internal/dev/myapp:1.0 # 4. 換臺機器拉取 docker pull harbor.internal/dev/myapp:1.0幾個細節(jié)值得強調。第一docker login的-u參數里如果有$在命令行里要轉義或加單引號否則 shell 會當成變量展開結果是用戶名變成空字符串報unauthorized。第二鏡像地址的斜杠結構是強制的harbor.internal/myapp:1.0這種少一段的寫法會被 Docker 解釋成 Docker Hub 上的倉庫推不上去。第三標簽里的 tag 不要用latest做唯一版本Harbor 支持不可變標簽規(guī)則可以在項目配置里開啟防止同名標簽被覆蓋導致線上拉到的鏡像悄悄變了。推上去之后回 Web 界面看dev項目里應該出現myapp倉庫點進去能看到標簽、大小、拉取次數、漏洞掃描結果。第一次看到掃描報告可能會有不少條目別慌大部分是基礎鏡像里的歷史組件勾選“僅顯示可修復”會清爽很多。4.5 配額、垃圾回收與容量治理這一小節(jié)是很多人忽略、但遲早會撞上的問題。刪除鏡像不等于釋放磁盤。Harbor 的存儲是分層共享的刪掉一個 tag 只是刪了引用底層的 Blob 還在必須跑垃圾回收才會真正釋放。流程是這樣的先在配置管理里把倉庫設為只讀Repository read only打開然后在系統管理 - 垃圾回收里新建一次回收任務勾選“刪除未被引用的 Blob”等它跑完再把只讀關掉。為什么必須只讀因為 GC 在掃描時如果有新鏡像正在推送可能把正在寫的層判定為無引用而刪掉后果是鏡像損壞。這個順序我吃過一次教訓當時沒開只讀回收完有個鏡像拉下來manifest unknown只能重新推一遍。配額可以按項目設在項目配置里填存儲上限比如 20GB超了之后推送會直接報denied: requested access to the resource is denied這個報錯信息起得不太好配額和權限共用同一個錯誤碼排查時容易走偏。配額的好處是防止某個人把整盤塞滿導致所有人都用不了。容量監(jiān)控靠兩件事一看df -h /data的剩余空間二看 Harbor 首頁的存儲統計。我在機器上加了一條定時任務磁盤超過 80% 就發(fā)通知這個簡單動作能避免絕大多數“倉庫突然掛了”的事故。5. 踩坑實錄與排查速查表這一節(jié)是我認為整篇最有價值的部分。前面所有步驟理論上都能一次成功但實際動手時總有各種偏差下面這些錯我基本都親手撞過一遍。5.1 證書與協議類報錯最常見的兩條。第一條是http: server gave HTTP response to HTTPS client意思是客戶端用 HTTPS 去連服務端返回的是 HTTP。原因通常是 Harbor 只啟了 HTTP 沒啟 HTTPS而你客戶端按默認 HTTPS 發(fā)起。解決辦法要么給 Harbor 配上證書要么把insecure-registries加上。不要嘗試把倉庫地址改成http://前綴Docker 不認這個寫法docker push http://xxx會直接把地址當成鏡像名的一部分。第二條是x509: certificate signed by unknown authority。這說明證書鏈沒被信任檢查三件事/etc/docker/certs.d/hostname/ca.crt是否存在且內容正確、目錄名里的主機名和端口是否完全匹配、改完有沒有重啟 Docker。還有一種隱藏情況你配的證書 SAN 里只有harbor.internal但客戶端用的是 IP 訪問那自然不匹配補齊 SAN 或者改了訪問方式。第三條是瀏覽器能打開但 curl 報證書錯誤這多半是瀏覽器點了“繼續(xù)訪問”的例外而命令行沒有這個例外機制本質上還是證書沒進信任鏈。5.2 認證與權限類報錯unauthorized: authentication required就是沒登錄或者登錄失效。Docker 的憑據存在~/.docker/config.json有時候換了賬號但憑據還是舊的docker logout再login能解決大半。另一個高頻原因是密碼里帶特殊字符在命令行里被 shell 吃掉了建議用--password-stdin從標準輸入傳echo 你的密碼 | docker login harbor.internal -u youruser --password-stdindenied: requested access to the resource is denied有兩個完全不同的原因一是項目不存在或者你沒有該項目權限二是鏡像地址的項目段寫錯了。第二種特別隱蔽因為報錯一樣。我當時推一個鏡像報這個錯折騰半天最后發(fā)現項目名叫dev我寫成了developHarbor 不會自動建項目就直接拒了。還有一種情況是用了機器人賬號但權限沒勾全比如只給了拉取沒給推送推的時候報同樣的錯。排查方式是去 Web 界面看該賬號的權限列表一目了然。5.3 存儲與性能類報錯no space left on device是硬故障處理順序是先df -h確認是哪個分區(qū)滿再看/data/docker和/data/harbor占用清掉無用鏡像和容器跑一次 GC。預防手段前面說過日志輪轉和磁盤告警。context deadline exceeded出現在推送大鏡像時通常是網絡抖動或者 Nginx 緩沖區(qū)配置問題。Harbor 的 Nginx 模板里對 registry 路徑已經關掉了proxy_buffering一般不會有問題但如果中間又套了一層反向代理那層代理的client_max_body_size和超時時間就要單獨調大。默認client_max_body_size 1m是 Nginx 的出廠值它會把大層上傳直接掐斷癥狀是推送到一半失敗、日志里是 413。還有一個性能問題值得提Harbor 的數據庫在小機器上并發(fā)高了會慢表現是 Web 界面點擊后轉圈很久。這時候看max_open_conns和機器內存往往內存吃緊導致頁緩存不足PostgreSQL 頻繁讀盤。加內存或者把max_job_workers調小都能緩解。5.4 一頁紙速查表現象最可能原因處理動作server gave HTTP response to HTTPS client客戶端用 HTTPS 連 HTTP 服務配證書或加 insecure-registriesx509: certificate signed by unknown authority證書未進信任鏈或 SAN 不匹配放 ca.crt 到 certs.d 并核對 SANlookup harbor.internal: no such host域名無法解析改 hosts 或配內網 DNSunauthorized: authentication required未登錄或憑據過期重新 login用 stdin 傳密碼denied: requested access to the resource項目名錯、無權限、超配額核對地址、成員角色、項目配額no space left on device磁盤滿清空間后執(zhí)行 GC413 請求實體過大前置代理體積限制調大 client_max_body_size頁面 502后端服務未就緒或崩潰看 core 與 nginx 日志、看內存推送成功但列表看不到推到了別的項目或標簽錯看 Web 界面全量搜索鏡像名刪除鏡像后空間沒釋放未執(zhí)行垃圾回收開只讀 → 跑 GC → 關只讀6. 學習環(huán)境之外的加固思路與備份恢復單機能跑之后接下來做什么取決于這套東西會不會真的承載業(yè)務。如果只是學習這一節(jié)可以挑著看如果已經有同事在往里推鏡像了下面幾件事越早做越省心。6.1 證書續(xù)期與自動簽發(fā)自簽證書十年的有效期在內部環(huán)境夠用但有一個隱患換機器、改 IP、加域名的時候要重新簽發(fā)而所有客戶端都得同步更新。機器一多這件事會變成負擔。更穩(wěn)的做法是走自動簽發(fā)用一個能訪問的 ACME 服務把 80 端口暴露給驗證流程讓工具自動簽發(fā)和續(xù)期證書放固定路徑Harbor 配置里指向它續(xù)期后重啟 Nginx 容器即可生效。如果不想引入外部依賴也可以自建一個內部簽發(fā)機構用它簽服務端證書然后把根證書分發(fā)到所有客戶端的certs.d目錄。好處是內部證書鏈條可控換服務端證書不用動客戶端。不管哪種方式都要有一個到期提醒。我見過最尷尬的情況是某天早上所有人都推不了鏡像查了半天是證書過期而前一天還沒有任何異常。加一條定時檢查證書剩余天數的腳本少于 30 天就發(fā)通知成本極低。6.2 備份與恢復演練Harbor 的備份只需要四樣東西harbor.yml、證書目錄、數據卷主要是 registry 的存儲目錄、數據庫導出。數據庫導出用容器里的 pg_dumpdocker exec harbor-db pg_dump -U postgres -d registry /data/backup/registry_$(date %F).sql數據卷可以直接用tar打包但要注意體積幾十 GB 的鏡像打包會很慢。更聰明的方式是只備份元數據和配置鏡像本身在極端情況下可以重新推送——如果你有 CI重新構建推一遍就行。所以我的策略是數據庫每天導數據卷每周打一次配置文件隨改隨備份。恢復流程也要演練一次不然真出事手忙腳亂。大致步驟是新機器裝 Docker、恢復配置文件與證書、把數據卷掛回去、導入數據庫、執(zhí)行./install.sh。整個過程我實際跑過一次從零到服務可用大概二十分鐘前提是備份文件都在。6.3 反向代理與端口收斂Harbor 自帶 Nginx已經夠用但有時候你需要在一個公網入口后面掛多個服務那就得在前面再加一層反向代理。這時候要注意幾個配置proxy_set_header Host $host必須帶上否則 Core 服務生成的跳轉地址會錯client_max_body_size要調到至少 1Gproxy_request_buffering off讓 Docker 的分塊上傳直通后端避免大鏡像先落盤再轉發(fā)。端口收斂的意思是對外只開 443把 8443 關掉。Harbor 的 HTTP 端口本來是跳轉用的但它在某些配置下會直接暴露 API如果安全組沒管好就是個意外入口。收斂之后客戶端行為也更統一。6.4 資源監(jiān)控與告警的最小配置不需要上完整監(jiān)控體系先把三個指標盯住就夠磁盤使用率、容器重啟次數、接口響應時間。磁盤用系統自帶的定時任務加腳本容器重啟次數用docker inspect里的RestartCount定期采樣響應時間用一次curl -o /dev/null -s -w %{time_total}記日志。再進一步可以給 Harbor 自身的/api/v2.0/health接口做探活返回 200 說明核心服務正常。這個接口不需要認證適合放在外部撥測里。我配了一個每五分鐘跑一次的腳本連續(xù)三次失敗就告警比等用戶反饋快得多。7. 一些踩過之后的個人體會整套東西跑通之后我最大的感受是私有鏡像倉庫的難點根本不在“裝起來”裝起來只要半小時真正的功夫在“讓它穩(wěn)定地被別人用”。我第一次部署完興奮了半天結果第二天同事來推鏡像一個證書問題卡了兩小時因為他機器上的certs.d目錄名帶了端口我沒有。這類問題的共同點是配置項的名字看起來都差不多但差一個字就不生效而且不生效的時候往往不報錯只是行為不對。第二個體會是關于“學習環(huán)境”的邊界。一開始我什么都圖省事自簽證書、單機、不開備份覺得反正壞了重裝。但當我真的往里推了幾十個鏡像之后心態(tài)就變了重裝意味著重新推一遍代價不小。所以哪怕是學習環(huán)境我也建議從第一天就把data_volume和數據盤規(guī)劃對把備份腳本寫好這兩件事的成本很低收益是把“隨便折騰”變成“折騰不心疼”。第三個是給準備復現這套流程的人一個提醒遇到報錯先看日志不要猜。Harbor 的日志集中在data_volume/log下core、jobservice、registry 各有文件Nginx 的在nginx目錄里。我踩過的坑里有一半是因為我根據錯誤信息想象了一個原因結果改了半天配置實際問題在另一層。養(yǎng)成先tail日志再動手的習慣能省掉大量時間。最后分享一個我常用的排查套路當docker push失敗時先用curl -k https://harbor.internal/api/v2.0/systeminfo確認服務端到底通不通再docker login確認認證最后才看推送。三步走下來問題落在哪一層非常明確比一上來就翻 Docker 日志高效得多。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
快点操死我| 97在线观看免费| 亚洲五区熟女| 亚洲日本激情| 伊人久久大香线蕉亚洲五月天,青草青草欧美日本一区二区,欧美日产欧美日产国产 | 久久久久久久伊人精品| 好吊色一区| 成人精品久久久午夜福利| 日韩专区数据列表-第3230页-精品国产一区二区三区香蕉 久久99熟女人妻中文字 | 日日摸日日碰| 丁香色五月 97干| 久久 国产 无码| 久久日韩肥臀| 东北丰满熟女国产一区| julia国产在线| 日本肉体xxxx裸交| 人妻少妇久久中文字幕一区二区 麻豆| 天堂中文日本在线观看| 欧美黄页| 国产精品久久久久久久久久久久久久吹| 天天干夜夜一操| 国产99999| 国产精品国产| 精品一区二区3区| 国产绿奴视频在线观看| 91在线视频国产网站| 日韩人妻少妇 一区二区三区| 亚洲精品成人动漫在线| 欧美国产精品久久九九| 欧美美女在线高潮999| 天天影视网综合少妇| 麻豆国产av网| 大香蕉综合| 熟妇xxxxx性春色| K8久久久久| 夜夜操2028| 婷婷午夜成人色中色| 天天日天天操天天射河南省| 亚欧美色| 亚洲丝袜诱惑| 天美传媒AV在线播放| 一本一首道人妻少妇免费久久| 国产专区第一页| 美女操逼A A| 国产91亚洲精品一区二区三区| 综合九九| 日韩欧美天天爽爽爽天天爽爽| 色婷婷视频| 欧美亚洲综合色| 啊啊在线| 亚洲性爱电影| 国产强奸乱伦xd| 欧美色性爱| 第一高清av中文字幕| 性爱av在线免费观看| 五月丁香综合网| 日韩一区二区熟女| 97视频一区| 欧美+日产+中文| 桃花色综合影院| 国产精品免费日韩| 91久久国产综合精品| 天天干夜夜肏| Av手机版天堂网| 99热精品在线| 欧美日韩夜夜| 青青草华人在线欧美在线| 嗯嗯啊操我| 国产精品天干天干综合网麻豆 | 青娱乐休闲视频在线观看| 久久久无码视频| 久操网无码在线| 人妻碰碰碰碰碰碰| 风韵犹存大大大大香蕉| 日本国产欧美高清在线| 操亚州| 亚洲图片欧美| 亚洲AV成人在线| 人人天天欧洲| 韩国嫰模上门援交视频| av在线观看不卡网站| 神马久久久久久久久久| 亚洲一区日韩精品| 天堂精品一区| 亚洲 国产 精品一区| 免费看美国人人爽,人人操| 亚洲精品影视老司机| 日韩 欧美 视频 在线 一区| WWW美腿丝袜香蕉中文| 一牛影视成人片免费| 欧美不卡在线美女| 麻花传媒免费网站在线观看| 亚洲大胆人体av| 精品精品精品| 亚洲人妻色图| 日韩精品一区的| 神马久久69| 亚洲免费成人精品电影| 91天天综合日韩欧美| 欧美真人抽搐一进一出gif| 视频国产欧美在线播放| 久久αⅴ| 欧美日韩人人精品| 激情网色| 午夜噜噜噜| 97操碰| 亚洲性猛| 91一起操| 欧美不卡五十路| 日产中文字幕2020| 天天干天天操天天干天天操| 欧美在线亚洲| 99re95| 超碰人人干| 成人久久久| 性性欧美| 五月丁香激情综合| 欧美亚洲尤物久久| 人妻啊啊人妻啊啊| 欧美高清色| 国产精品久久久久久久久久梁医生| 日韩乱插| 综合 欧美 亚洲 日本| 精品少妇一区二区| 久久爽爽精品| 小少妇| 俺去啦俺来也久久综合| caorenqi shipin| 激情四射婷婷六月天| 日韩成人网址| 精品伊人久久久大香线蕉小说| 综合 亚洲 欧美| 人妻丝袜肏逼| 老女人碰碰在线碰碰视频| 欧美嫩性色| 丝袜美腿制服人妻二区中文字幕| 国产精品久久99日日| 精品人妻一区二区三区鲁大师| 成人国产二区三区在线,男女精品。| 色逼综合| 久久爱超碰网| 欧美成人一区二区三区在线播放| 欧美黄色手机在线观看| 亚洲欧美另类激情小说| 亚洲日韩美女丝袜美腿人妻视频| 精品少妇一区二区三区| 欧美在线大香999| 久久久久极品| 欧美少妇高潮| 搡老女人老91妇女老熟女| 亚洲熟女乱综合一区二区在线-...亚洲国产日韩欧美一区二区三区,久久久久久精 | 欧美日韩国产三级黄色| 日本不卡高清视频| 欧美精品久久久久久久久88| 久久九九精品一区二区| 国产精品交换一区二区| 一级黄色影片| 人妻少妇色综合| 亚洲欧洲另类| 精品久久久久,69国产成人精| 伊人久久婷婷| 国产精品夜夜夜| 国产免费一区| 亚洲风情在线观看| 日本黄大片在线观看视频| 天天92av| 精品久久久久久中文| 国产高清MV操逼视频| 欧美成人一级免费电影| 99久久婷婷| 八戒午夜福利理论片| 国产成人亚洲精品无码最新在线| 亚洲最大的黄色电影网站。| 亚洲国产综合久久久性感熟妇| 极品少妇99| 国产精品夜夜夜| 国产亚洲色婷婷久久99精品91 - 百度| 久久久久久久久久久久色网| 国产精品网址| 亚洲另类久操网| 夜夜做夜夜爽精品视频| 香蕉欧美| 国产精品九9| 久久久久久99999国产精品| 天天综合网91| 这里只有精品视频| 夜夜高潮夜夜爽| 美女性91| 天天日天天干天天操| 久久线上视频免费看| 99re99视频在线免费观看| 国产 无码 一区二区| 男人的天堂午夜av| 97爱欧美| 性色亚洲| 亚洲欧美九九| 日本人妻丰满熟妇久久久久久 | 日韩无码一级黄色av片| 亚洲影视综合网| #NAME?| 国产一区二区三区精品观看啪| 日本青青草在线| 国产熟女精品一区二区| 久久久国产精品人妻丝袜| 国产精品不卡av免费在线观看| 九九热男人天堂| 少妇蜜汁| 免费啪啪一级视频| 爱射综合| 青娱乐福利99| 好吊爽好吊爽在线视频,中文字幕精品一区二区日本,国产良妇出轨视频在线观看, | 精品人妻一区二区免费蜜桃视频| 亚洲天堂男人在线| 国产Av超碰| 久日综合网| 欧美刺激色黄片免费看| 超碰97人人乐| 99久久综合| 一类av片在线看| 欧美碰碰综合色| 综合 亚洲 欧美| 91精品国产91久久青草| 91色射| 日本操逼视频导航| 免费看黄视频亚洲网站| 少妇高潮九九九九九九九| 嗯嗯啊啊视频在线看| 国产 日韩 欧美高清| 精品夜夜澡人妻无码AV| 蘋果手機免費看成人Av| 青青草中文-久久青草精品一区二区三| 少妇久久久| 男人的天堂午夜av| 一区二区不卡| 久久熟女人| 国产日韩色综合| 中文字幕一区二区无码成人| 中文在线视频| 久久久久久久六六 | 女沟厕偷窥piss小便| 按摩中文字幕| 亚洲 日韩 欧美 国产综合体| 综合网亚洲1| 一级黄色性爱A级片| 91成人无码| 深夜视频| 久久久熟女一区| 日韩丝袜人妻AV| 农村妇女一级二级三级视频| 91狠狠色丁香婷婷综合久久精品| 人妻 中文 日韩| 亚洲九九九九| 一区二区三区美女超清| 亚洲国产成人7777| 性久久| 亚洲黄色a级片| 日本成人电影资源网| 国产精品福利资源在线尤物| 无码精品久久久天天影视| 国产一区免费午夜视频| 国产高清MV操逼视频| 国产一区二区三区免费视频在性观看| 丁香五月婷婷五月| 天天影视网综合少妇| 狠狠操狠狠| 夜夜爽77777| 福利风月五月天影院| 亚洲综合贴图91| 国产2.3.4区| 久一区久久蜜桃| 思思热在线视频在线| 超碰无码加勒比| 日韩成人免费电影| 日本午夜福利视频| 怡红院亚洲怡春院av| 99超碰网| 国产一区二区在线电影| 久久理论字幕视频| 亚洲有薄码区久久在线一区| 淫荡网址| 精品亚洲国产成人av网站| 99国产精品自在自在| 欧美亚洲国产91在线| 日韩三级在线观看网站| 亚洲国产成人精品无码专区| 精品99999久久久久久| 玖玖草久草99蜜月一区二区三区| 99999亚洲| 日本性爱少妇| 日韩人妻精品中文字幕| 国产午夜精品理论片a大结局| 偷窥自拍亚洲天堂网爆| 嗯嗯啊啊的视频| 性爱Av免费| 五月天黄色av| 精品久久无码午夜福利| 久久久久久性爱视频| 久草电影网| 国产精点久久久成人| 欧美97在线观看| 日韩人妻播放| 亚洲色图综合网| 超碰精品人妻狠狠干| 91在线精品| 欧美加勒比| 97超碰亚洲| 99热久| 日韩免费看在线黄色片| 久久系列| 超碰视97中文| 神马久久中文字幕| 午夜婷婷| 人妻81p| 欧美色女人| 吊色| 性九九九九九九| 九九九九九九九精品视频| 男女激烈网站最新| 成人性爱av| 另类欧美色| 大屁股熟女一区二区三区| 2010男人的天堂| 免费啪啪一级视频| 国模不卡| 亚洲AV无线| 国产无码精品高清| 男人女人18禁片免费看网站| 男女啊啊啊| 超碰1024久久| 精品成人女人久久| 久久9精品网站| 欧美影音在线| 啊灬啊灬啊灬啊灬高潮奶出了免费视 | 欧美综合加勒比在线| 亚洲精品日韩国产欧美| 男人的天堂2018| 无码动漫av中文字幕| 操屄不卡视频| 99热这里只有精品1| 国产a级精品| 99xav| 中文字幕永久在线| 日韩AV无码中文一区二区| 亚洲日本韩国极品一区二区| 黄色av网站在线播放| 95精品在线| 熟女六十路| 99在线精品观看99| 97操b| 日韩干B| 天天做日日爱夜夜爽| 国产成人精品日本亚洲语言| 欧美在线干| 亚州操操穴网| 男人的天堂久久久| 99国产精品免费| 试看60秒| 国产无吗在线播放| 人妻丰满熟妇一区二区三| 久久AV无码1区2区3区| 日本熟女不卡视频| 亚洲欧美日韩中文播放| 中文字幕av乱伦| 中文字幕精品丝袜| 精品v1区| 亚欧免费观看视频| 91碰碰| 日韩黄色片子| 色99视频| 国产剧情在线| 约操熟妇| 天天日天天操VV| 一本色道综合久久欧美日韩精品| 91精品亚洲内射孕妇| 五月丁香拍拍激情综合三级| 久久精品中文| 97干在线视频| 天天做天天爱天天高潮| 人妻免费观看| 中文字幕乱码人妻一区二区三区,99精品 | 亚洲国产综合久久天堂| 久久精品日韩专区免费观看| 欧成人精品H无码| 国产女性无套 免费观看| 色九月综合| 91老司机在线| 柠檬AV导航| 日日碰视频网| 啪啪啪精品视频| 中文字幕片| 欧美美女视频| 日本 欧美 国产一区| 97精品第3页| 成人免费视瓶| 欧美性色综合网| 94色色电影网| 五月婷婷激情| 91综合网站| 婷婷精品| 酒色综合网| 美女自卫慰黄网站免费| 夜夜做夜夜爽精品视频| 久久av无码| 久久av色| 人妻偷拍一区二区三区| 97超碰中文| 日韩传媒在线| 三级日韩一区二区三区| 操学生天天| 日韩操p| 久久久∴| 操逼操逼视频操逼| 欧美丝袜中文字幕07在线| 欧美性生活综合| 精品国产乱码久久久| 亚洲国产日韩欧美熟妇在线| 中文熟女五十乱码在线| 婷婷综合网| 91爱网| 国产大片精久久久久久| 日韩熟女乱伦中出| 日本熟妇自慰性高潮一区二区三区| 国产小黄片在线免费观看| chaopen97久久| 日韩性爱播放| 亚洲精品一二牛牛| 欧美综合 站| 欧美精品23| 亚洲综合九| 乱伦AVxx| 日日骚中文字幕| 老鸭窝亚洲毛片| 色屁屁影院www国产| 久久久久久久久久久久欧美日| 久久毛卡| 另类天堂| 天天射夜夜| 亚洲97久久精品亚洲| 99999久久精| 嗯啊免费视频| 99久久久无码国产精品性男| 97超碰超碰| m欧洲一级午老| 92午夜免费福利视频| 91男人天堂网| 欧美日韩淫加| 国产福利av精彩对白| 人人妻人人爱人人玩| 亚洲人妻熟妇三十三区| 国模精品娜娜一二三区 | 欧美丝袜激情| 久久五月丁香| 国产精品无码久久久久2025| 狠狠综合网| 91在线免费精品视频| 亚洲AV在线资源| 玖玖综合.com| 久草免费在线一区二区| 日本黄大片在线观看视频| 视频在线97| 亚洲国产一级中文综合久久天堂在线免费观看 | 国产一级久久久| 国产成人无码网站在线视频| 国产精品直播在线观看直播| 亚洲Av诱惑| 人妻在线大香蕉| 五月综合激情网| 国产午夜福利电影免费在线观看| 欧中美三级一区二区三区| 中文字幕av乱伦| 日产操逼| 欧美日韩91| 中文字幕黄片在线| 国产精品网址| 日本亚欧爱爱| 强奸熟女一区二区三区| 色五月69夫妻| 亚洲色图在线视频| 毛片电影一区二区三区| 1769一区二区| 妇女性内射冈站HDWWWCOM| 春色综合网| 99热线麻豆| 青青欧洲黑| 欧美 青青草| 校园春色综合| 国产人妻精品久久久一区二区三区 | 亚洲另类综合欧美| 97婷婷色| 高清在线偷拍自拍视频| 日韩不卡av一二三| 男人a天堂手机在线版| 级做a爱无码性色永久免费| 欧美日韩在线小说 | 青青11操操操操操操操操| 中国探花熟女| 人成午夜免费大片| 婷婷久久五月天| 大香蕉黄色一区| 抽插无码高清一区| 日本狂喷奶水在线播放212| 国产91乱伦| 岛国黄片网站| 天天色天天干天天爱| 亚洲 小说 欧美 激情 另类| 国产隔壁老王影院在线| 操操吧亚洲乱伦视频| 日韩在线地址一| 91丨人妻丨国产丨丝袜| 亚瑟国产精品久久无码| 国产丝袜欧美在线视频| 国内毛片无遮挡国产| 国产精品人人爽人人做可爱福利| 久操操AV电影| 91久久精品中文字幕| 久久亚洲AV无码专区国产精品 | 国产精品久久久777| 久久国99999| 天天操天天日天天干| 人人搡人人肉久久精品| 精品久久9| 精品人妻少妇| 乱伦熟女论坛| 久久透逼视频| 日韩成人大片在线观看| 99亚洲天堂| 日本丝袜美腿人妻九九| 劲爆欧美人妖三区91| 精品人妻一区二区三区免费视频| 国产一二三在线视频五十路| 在线无码视频| 欧美性爱伊人| 日韩女优中文字幕| 牛牛久久国产精品视频一二三| 伊人国产视频| 91性网| 麻豆国产精品午夜视频| 黄在线| 操碰97| 第四色亚洲色图| 国内成人圈中文字幕无码视频| 久久华人网| 欧美操人视频| 久久亚洲婷婷| 99青青草国产视频| 欧美少妇高潮视频| 国产一级137片内射麻豆| 尤物一级在线免费观看| 国产视频三区四区| 色欧美在线| 白丝被操91| 五月丁香激情综合| 欧美激情片一区二区| 欧美人妻熟女在线| 18禁止看精品中文字幕| 男人天堂2012| 九九九热精品| 女同女同恋久久级三级| 天美av在线观看| 精品熟妇视频一区二区| 日熟女| 嗯嗯,啊啊,国产精品| 舔舔啊| 欧美日韩色综合网| 精品人妻一区二区三区-国产| 亚洲骚男同com| 日本人妻中文字幕| 欧美丝袜激情| 欧美色图亚洲激情| 激情丁香五月| 97在线播放| 强奸乱伦中文字幕AV| 天天日日日射| 国产午夜精品理论片一二三区区| 久久久久久欧美精品se一二三四| 伊人午夜福利视频| 日本三级A片网站com| 动漫片子网站3黄| 欧美色图亚洲色| 国产这里只有精品| 精品免费成人久久| 在线不卡视频| 97精品一区| 亚洲精品无码少妇久久| 爱妻综合网| 国产精品区在线12p| 久久亚州高清| 最新日本中文字幕| 麻豆精品A片免费观看| 人人摸人人入| 久久久工口| 好爽要喷了| 人人摸人人干人人拍97| 久久精品男人的天堂| 2019久久久久久久久福利| 大香蕉欧美日韩| 人人人摸人人| 中文在线久久字幕| 黄色av网站在线播放| 中文字幕人乱码中文字的预防方法 | 国产一区二区在线播放量| 日本免费不卡二区| 91网九色蝌蚪操熟女| av操操不卡| av一区二区三区不卡| 97硬碰| 一级婬片120分钟试看| 91av天美性媒精品视频| 亚洲伊人a线观看视频| 69精品人人人人| 天天插夜夜操| 色香欲天天天天综合色| 日韩性爱再线视频| 欧美亚洲特P| 中文字幕精品一区二区精品| 日韩中文字幕视频| 欧美激情亚洲情色| 亚洲色啪| 一级毛片电影免费看| 亚洲日韩青青草色月| 飘花国产午夜精品不卡| 欧美97se| 97精彩视频网站| 男女日B国产| 91网站在线播放| 在线国产探花| 先锋女优在线观看视频| 精品射1999| 这里只有精品视频在线观看麻豆| 后入合集| 日韩一级二级在线| 国产精品久久久久中文字幕| 国产97亚洲| 97人人中文网| 国人欧美精品一区二区| 国产精品视频在线观看| 亚洲情色在线| 一级黄色性爱A级片| 欧美成人精品欧美一级乱黄一区二…| 91蜜臀在线久久久久| 欧美性爱91| 91精品在线播放| 青青草亚洲一区| 国产做?爰片久久毛片?片美国| 啊啊啊好舒服视频| 亚洲色图欧美另类在线| 一起草AV| 久久久久亚洲AV无码专区少妇| 操逼无毒无码免费视频| 爱干爱射网啊啊啊| 婷婷久久大香蕉| 夜夜操美女| 婷婷性网| 先锋音影AV| 操人妻丝袜高跟| 亚洲va有码在线天堂| 日本欧美不卡| 中文子幕一二三| 久久久久久久久久久久久久9999| 在线观看精品国产免费| 久久综合九色综合欧洲98| 国产精品高朝久久久久久久| 亚洲最大的黄色电影网站。| 日本色色网| 色色色色日本| 囯戸精品高潮呻吟旡码| 97超碰超| 日本五区不卡| 蜜屁Av| 伊人五月天青青草婷婷| 天天爽天天操| 五月天玖玖资源站| 无码高清操逼网址| 国产 日韩,欧美 自拍| 熟人人妻少妇精品久久| 人人操人人精品影片| m欧洲一级午老| 欧美最婬乱婬爆婬性视频 | 国产二区三区粉嫩在线| 爱干爱射网啊啊啊| 夜夜嗨一区二区| 99在线精品观看99| 91色婷婷综合久久中文字幕二区| 日本一区二区三区四区免费观看| 国产精品嫩草影院午夜两性| 99婷婷一区二区| 葡萄牙性视频一二区 | 精品v1区| 中文字幕一区 二 区 三 四 五 区日 日 骚 | 国产婷婷综合在线观看| 秋霞一集毛片观看| 亚洲国产美女久久久久| 超碰97人妻| 国产97在线视频| 国产精品9999| 成人开心网在线视频| 亚州五月| 嗯嗯不要 视频| 96超碰网| 777超碰| 91丝袜人妻| 久艹免费| 三上悠亚在线毛片91| 久久久96| 性色AV网站| 91人妻最真实刺激绿帽| 操逼日批| 国产一区二区视频在线播放| 秋霞曰韩R级| 免费精品福利在线观看| 色吧五月| 天堂九九九九九九九九九| 国产传媒日本欧美专区| 午夜福利在线视频1000| 9999九九九久久久| 97超碰国产亚洲精品| 水滴偷拍| 国产精品99精品视频网站| 小视频国产| 日操粉逼逼| 中文字幕 国产区| 欧美|91色综合| 99re只有精品| 欧美极品少妇| 夜夜躁狠狠躁日日躁av| 精品国产Av无码久久久亚洲| 亚洲天堂AV在线播放| 久操热线| 欧美日韩222| 日本免费一区二区不卡| 亚洲欧洲综合| 国产成久久综合片| 伊人黄色视频免费观看| 男人的天堂啪啪| 欧美精品丝袜久久久中文字幕| 蜜臀AV成人精品蜜臀| 99福利社| 国产中出内射一区二区| 色官网在线| 久久综合久久综合人久久夜精品| 日韩精品国模| 啪啪啪亚欧美视频| 色色色色日本| 久久9精品视频| 午夜毛片高清免费不卡| 综合久久2017| 国产A v无码专区| 女人双腿搬开让男人桶| 区一二区日韩亚洲乱码av电影| 人澡逼| 国产一级舔足在线观看| 欧美日韩中文亚洲v在线综合| 一本一道人妻久久一区二区三区| 国产精品久久久久久久免牛肉蒲团 | 黑人精品成人一区二区三区| xxx亚洲午夜天堂| 五月天人妻综合| 国产精品欧美在线观看 | 男人的天堂免费| 三级特黄60分钟播放| 亚洲免费精品一区| 极品少妇久久久久| 肏逼福利网站| 婷婷久久网| 青青草色插素人| 亚洲乱码精品一区二区| 大香蕉久久| 精品中文日韩字幕视频| 国产强奸乱伦欧美| 亚洲欧美激情在线视频| 精品乱码在线观看| 狠狠色噜噜狠狠狠狠2018| 夜色五月天| 蜜桃传媒视频第一区入口在线看| 波多野结衣先锋影音| AV一二区| 天天综合97| 婷婷九月| 九九九九一区| 青娱乐日韩无码| 韩国国产欧美情侣视频在线| 98人妻精品一区二区色欲| 91狠| 欧美图片色五月天| 国产一级作爱毛片| 一区二区三区色综合| 综合影院永久入口国产| 久久久久久大| 日本影视久久免费| 中文高清一区二区的| AV中文字幕三四五| 久久HD| 久久精品女同亚洲女同13| 你想操日本小逼吗| 二三四区精品| 日日操丁香五月天| 伊人大香蕉在线| 最新日本中文字幕| 国产精品久久9| 91中出| 精品无码一区二区| 欧美性爱18观看| 九X超碰| 精品国产91内射久久| 大香蕉免| 欧美综合网在线| 91jk色拍| 色操逼网| 天天操天天日青青草超碰av| 9999免费精彩视频| 另类图片五月天| 97久久久| 少妇天堂| 情侣开房子拍 日韩无码 女的很漂亮| 婷婷久月| 久久超碰、| 精品人妻1区| 天堂av最新电影网| 男人天堂一区二区| 亚洲乱码精品一区二区| 久久久久久中文版| 日韩乱插| 69精品| 色女综合| 一级黄色性爱A级片| 欧美黑人与女人91| 久久精精区一区二区一蜜桃一区二区| 青草综合| 国产五码丝袜屁眼| 色色激情| 玖玖爱在线视频免费观看| 日韩欧美丝袜诱惑| 操逼网站视频漫画国产| 久久精品中文| 欧美综合骚| 亚洲图片激情综合另类| 欧美精品欧美精品系列| 一区二区三区欧美激情| yaouchengrenav| 欧美天天在线| 天堂蜜桃无码视频一区二区| 亚洲无码太久| 亚洲人久久久久日| 国产精品 午夜福利| 日韩欧美俄罗斯A片| 久久精品店| 久久久熟女一区| 人人喜人人妻| baiduhicn.com。| 天天日天天爽| 高潮毛片无遮挡高清免费| 嗯嗯嗯啊啊在线观看| 4141514逼喷水三级片| 日本黄 R色 成 人网站| 久久久精品中文字幕爱豆| 超碰 国产熟女精品一区| 强奸少妇AV导航网| 乱伦1色页| 超碰95| 涩亚洲欧洲| 99热精品国产| 亚洲城人男人的天堂| 国产精品一区二区 尿失禁| 天天干人人看综合| 亚洲欧美变态| 台湾佬中文娱乐网久久久久久久久久com | 九九九精品一区二区无码| 99热官网| 日本一区二区做爱的视频| 蜜臀久久99精品久久久电影| 狠狠爱夜夜干| 亚洲综合影片| renqi久久久久久久久久久久| 午夜啪啪片| 久久久成人免费av电影| 97超碰资源网| 欧美九九爱| 无码少妇精品一区二区60岁老人| 粉嫩av在线| 啊啊啊免费| 日本ZZ高免费A级视频| 欧亚日韩三区| 热天堂一区二区| 久久人人看| 操逼操逼逼操操逼91 | 亚洲诱惑天堂| 1024午夜激情男人的天堂| 麻豆久久久久久久久丝袜 | 国语精品av| 久久骚| 日韩 欧美 国产 麻豆| 久久av色| 九九久久久久久爱| 久久久精品日本一道| 五月丁香综合| 婷婷色综合| 啊视频在线| 一区三区啪啪| 日韩成人免费电影| 2020国产精品| 欧美网站免费| 欧美一二三级精品在线| 午夜福利1区2区3区| 国产高清视频无码在线| 欧美 精品国产制服第一页| 97无码视频在线播放| 青娱乐休闲视频在线观看| 久久久久性熟视频| 色色无码| 欧美日韩人人精品| 免费农村成人少妇人妻Aa一区二区视频 | 老司机香蕉| 欧美色性情| 啊啊啊爽爽| 91亚洲人| 熟女乱3伦999| 国产精品 久久久精品一牛| 伦激情人妻另类人妻| 午夜福利免费福利视频| 操逼无码一区| 久久香蕉综合一本到3atv| 成全在线观看免费观看| 91精品人妻电影| 国内精品伊人久久久久影院会| 少妇干B| 丝袜熟女一区二区三区| 亚洲日韩国产欧美综合v| 黄色av一区二区在线| 日韩精品一区的| 久久綜合很很很| 无码在线亚洲| 久久婷五月| 超碰av在线| 91扒丝袜综合在线| 伊人国产视频| 日本一久是| 极品色综合| 9丨久久九九九| 久操电影| 成全在线观看免费观看| 国产成人精品亚洲日本| 亚州操逼网| 可以免费观看的AV| 欧亚日韩三区| 久久9999 | 亚洲天堂热| 天天拍天天操| 亚洲欧美性生活| 蜜臀在线看片| 久久久四区| 日韩97P| 骚女天天综合网| 日本操逼aaaaa| 欧美精品久久久久久久久88| 欧日韩不卡视.频| 92久久| 久久草视频污视频| 久/久精品99看9| 久久精品欧美一区二区三区不卡| 蜜乳AV一区二区三区四| 日本性爰一道本| 性爱1区| 99啪啪视频| 国产精品久久久999| 久久久涩| 大香蕉伊人久久| 人妻色偷色噜| 制服乱伦| 丰满搜索结果 -第18页- 久久高清无码 | 淫色网综合| 大香蕉99re| 国产亚洲日韩欧| 天天流夜夜操| 亚洲色图第一页| 亚洲密乳AV| 97视频网站在线观看| 玖玖爱伊人玖玖爱| 黄色片一区二区三区四区五区| 狠狠操天天干| 妇女乱色二区| 性色av蜜臀av色欲aV| 亚洲 中文 女同| 五十路一区无码| 久久精品国产亚洲AV高级北京| 97 视频在线| 日本孕妇一区二区视频操逼免费看 | 黑人精品一区二区在线播放| 亚洲情色第一页| 干妹子| 黑人精品成人一区二区三区| 亚洲 另类 丝袜 自拍 动漫| 人妻色偷色噜| 91人人爽人人爽人人人,gav福利视频导航,日韩欧美亚洲国产字幕四区 | 免费1级a做爰片观看| 另类图片五月| 国产高清免费不卡av| 97视频620| 午夜小电影在线插入淫高潮| 999久久久精品国产| 欧美欧美少妇| 国产大学生口爆吞精合集| 亚洲、日韩、综合、另类| 欧美精品三区| 日韩乱码av| 一区二区三区高清| 欧美性爱精品一区二区| a人片中文字幕一区二区| 亚洲无码国产精品久久| 人妻少妇色综合| 97久久国产精品女不卡| 美女被艹尤物视频| 精品女同一区| 九九香蕉网| 日本高清一本二本免费不卡| 国产乱人伦AVA麻豆软件.| 9.1小视频| 欧美国产伊人久久久久| 狠狠操狠狠燥| 久99视频| 亚洲国产天堂| 婷婷五月天_亚洲小说欧美激情另类_精品久久国产字幕 | 欧美在线天堂| renqi久久久久久久久久久久| 久久久久成人网| 激情五月婷婷| 97亚洲欧美| 蜜臀精品1区2区| 91网九色蝌蚪操熟女| 麻豆国产成人精品| 特级毛片特黄久久免费看| 精品中文一区二区| 久久九九综合| 国产三级片在线观看| 国产熟女少妇一区| 国产精品网址| 欧美激色| 日韩精品一区二区三区色欲| 亚洲久久久久| 91麻豆天美国产| 国产欧美日韩一区二区三区| 骚货 中文字幕 av| www.色婷婷| 性色亚洲| 亚洲精品1区| 一区二区三区视频在线观看免费| 亚洲精品国产拍免费91在线| 欧美专利1区2区3区4区5区免费| 一级AV性爱| 中文字幕精品专区搜索结果91| 亚洲色婷婷| 亚洲无码 国产无码| 亚州中文字幕超碰97| 欧美国产日韩高清在线| 人妻啊啊人妻啊啊| 超碰人人超在线观看| 岛国黄| 日逼逼免费看| 麻豆视频国产一区二区| 探花精品 一区二区| 亚洲蜜臀精品视频久久| 91处女在线视频| 超碰98综合网| 亚码人妻| 91操碰| 精品视频久久久久九九九九9999| 亚洲一区二区三区麻豆传媒| 最近二区三区视频大全| 欧美精品99久久久**| 91真人天天在线| 中文字幕在线免费观看视频| 日韩美女啪啪一区| 激情文学亚洲| 2025亚洲男人天堂| 国产日韩久久| 一区二区三区精品视频| 熟妇视频一区二区三区在线| 久久亚洲熟妇在线视频| 成片免费观看视频大全| 91午夜无码| 青青草好吊色| 97超碰总站| 97se综合网| 丁香啪啪| 精品无码一区二区人妻久久蜜桃| 国产探花日韩援交| 超碰吊日色| 日本免费一区二区不卡| 亚州操操穴网| 亚洲精品国产熟女| 亚洲天堂久久久久久粉红视频| 久久综合久色欧美综合狠狠 | 动漫爆乳3D奶水一区在线观看| 亚洲黄色视频在线观看视频| 超碰97日韩| 欧美黑人极品高潮喷吹熟女黑人性暴力日韩在线欧美极品一区二区老师 | 啊嗯嗯啊好大好爽| 很黄很污的免费网站| 九九热九九| 美女黄频a美女大全免费皮| 欧美大波激情xxxx| 国产精品欧美在线观看| 老鸭窝在线视频播放| 农村妇女精品一区二区| 亚洲自拍另类丝袜综合| 久久久999日本大片| 嗯嗯啊啊视频在线看| 久操操| 久久久精品视频免费观看| 黑人操一区二区| 伊人影院综合是一个与深夜成人在线| 天天操av懂色| 天美麻豆精品视频99| 中文字幕黑人大片| 激情五月综合| 激情五月综合| 亚洲少妇中文字幕网址| 伊人久久大香线蕉无码| 国产精品毛片?v一区二区三区 | 九九热男人天堂| 蜜臀久久99精品久久久老,,| 精品久久一区二区三区四区五区| 操屄不卡视频| 亚洲成?V人片在线观看福利| 成人三级片无码| 约操熟妇| 欧美刺激色黄片免费看| 顶级丝袜熟女一区二区三区| 激情抓乳插进去啪啪啪日韩| 国产精品麻豆视频网站| 国产精品不卡高清在线观看| 国产精品久久久吖| 不卡中文字幕aⅴ在线| av日韩手机在线影视| 久久精品老司| 久久偷拍人| baiduhicn.com。| 日本一区二区做爱的视频| 丁香五六月啪啪| 综合伊人网12色| 亚洲色电影在线| 日韩特一级久久| 亚洲,欧美,综合网| 91中出在线| 三久久久四久久久久| 九九碰九九爱97超| 91久久免费视频互動交流| 极品欧美一区二区三区| 性暴力欧美猛交在线直播| 秋霞影音一区二区三区| 日本一区二区三区午夜观看| 日韩欧美日韩| 外站AV在线| 9国产超碰| 国产强上视频在线观看| 99精品成人免费看| 中文高清一区二区的| 91网亚洲| AV色图| 超碰美国| 亚洲AV麻豆Aⅴ无码电影一|