1. 部署目標(biāo)與適用場(chǎng)景部署目標(biāo)私有化驗(yàn)收的核心目標(biāo)在于通過一套標(biāo)準(zhǔn)化的“檢查-安裝-配置-驗(yàn)證-排錯(cuò)”流程確保 AI 視頻分析平臺(tái)在客戶私有局域網(wǎng)/IDC 機(jī)房?jī)?nèi)實(shí)現(xiàn)服務(wù)穩(wěn)定性視頻流接入不卡頓、不花屏系統(tǒng) 7×24 小時(shí)無 OOM 或崩潰。算力利用率優(yōu)化硬解碼與 GPU/NPU 推理能力完全激活延遲控制在 300ms 以內(nèi)。業(yè)務(wù)閉環(huán)算法正確識(shí)別事件并通過結(jié)構(gòu)化 Webhook 實(shí)時(shí)推送至上層業(yè)務(wù)系統(tǒng)。資料標(biāo)準(zhǔn)化輸出完整的環(huán)境配置記錄、驗(yàn)收測(cè)試報(bào)告及運(yùn)維交接手冊(cè)。適用場(chǎng)景邊緣計(jì)算網(wǎng)關(guān)部署1~8 路視頻流。企業(yè)私有 IDC 機(jī)房或局域網(wǎng)服務(wù)器部署16~64 路并發(fā)視頻分析。智慧園區(qū)、智慧工地、廠區(qū)安全監(jiān)管等對(duì)數(shù)據(jù)隱私要求高、需全內(nèi)網(wǎng)隔離的交付項(xiàng)目。2. 環(huán)境準(zhǔn)備清單部署前必須對(duì)軟硬件資源進(jìn)行逐項(xiàng)排查與核驗(yàn)確保符合基線要求資源類別16路并發(fā)基線配置32~64路并發(fā)基線配置檢查方法 / 命令CPUIntel Xeon / AMD 8核 16線程Intel Xeon / AMD 16核 32線程lscpu內(nèi)存 (RAM)32 GB DDR464 GB ~ 128 GB DDR4free -h系統(tǒng)磁盤256 GB NVMe SSD系統(tǒng)與數(shù)據(jù)庫(kù)512 GB NVMe SSDdf -h/lsblk存儲(chǔ)磁盤1 TB SATA/SAS HDD抓拍圖與日志4 TB SATA/SAS HDDdf -hGPU / NPUNVIDIA RTX 4090 / A2 / T4 (16G)NVIDIA L4 / A10 / 昇騰 310Bnvidia-smi操作系統(tǒng)Ubuntu 22.04 LTS / CentOS 7.9Ubuntu 22.04 LTS / Rocky Linux 9cat /etc/os-release容器環(huán)境Docker 24.0 Docker Compose v2Docker 24.0 Docker Compose v2docker --versionGPU 驅(qū)動(dòng)NVIDIA DriverNVIDIA Driver CUDA 12.0nvidia-smi網(wǎng)絡(luò)環(huán)境千兆內(nèi)網(wǎng) (VLAN 隔離1000Mbps)萬兆內(nèi)網(wǎng) (10Gbps 網(wǎng)卡)iperf3/ping攝像頭通信支持 RTSP/GB28181H.264/H.265支持 RTSP/GB28181H.264/H.265ffprobe rtsp://...3. 系統(tǒng)架構(gòu)說明AI 視頻分析平臺(tái)私有化部署采用了微服務(wù)容器化架構(gòu)各服務(wù)模塊關(guān)系如下圖所示----------------------------------------------------------------------- | 前端攝像機(jī) / NVR (IPC) | ----------------------------------------------------------------------- | RTSP / GB28181 視頻流 v ----------------------------------------------------------------------- | 流媒體服務(wù) (Media Gateway) | | (負(fù)責(zé) RTSP 拉流、解復(fù)用、零拷貝轉(zhuǎn)碼) | ----------------------------------------------------------------------- | Raw Video Frames (NVMM/Shared Memory) v ----------------------------------------------------------------------- | 算法推理服務(wù) (AI Inference Engine) | | (基于 TensorRT/Triton包含 NVDEC 解碼與模型推理) | ----------------------------------------------------------------------- | 結(jié)構(gòu)化數(shù)據(jù) (JSON) | 特征向量 (Vector) v v ------------------------ ----------------------------- | 告警服務(wù) (Alarm App) | | 數(shù)據(jù)庫(kù) / 緩存 | | (去重、過濾、Webhook) | | (MySQL, Redis, Milvus) | ------------------------ ----------------------------- | v HTTP Webhook / WebSocket ----------------------------------------------------------------------- | 第三方業(yè)務(wù)平臺(tái) / 運(yùn)維監(jiān)控系統(tǒng) | -----------------------------------------------------------------------平臺(tái) Web/API 服務(wù)提供可視化管理后臺(tái)、攝像頭管理、算法任務(wù)調(diào)度及配置下發(fā)。流媒體服務(wù)負(fù)責(zé)視頻流的解復(fù)用與分發(fā)支持 RTSP/RTMP/WebRTC 預(yù)覽。算法推理服務(wù)綁定 GPU/NPU 算力完成硬件解碼NVDEC、目標(biāo)檢測(cè)、多目標(biāo)追蹤與特征提取。數(shù)據(jù)庫(kù)與緩存MySQL 存儲(chǔ)業(yè)務(wù)配置與歷史告警Redis 記錄任務(wù)狀態(tài)與緩存Milvus 存儲(chǔ)人臉/車輛特征向量。告警服務(wù)對(duì)算法推理結(jié)果進(jìn)行業(yè)務(wù)邏輯過濾如跨線統(tǒng)計(jì)、徘徊時(shí)間計(jì)算并異步推送到第三方平臺(tái)。4. 六階段部署步驟嚴(yán)格遵循“準(zhǔn)備-安裝-配置-啟動(dòng)-驗(yàn)證-上線”六步走確保部署過程可追溯。階段一環(huán)境準(zhǔn)備與驅(qū)動(dòng)依賴安裝檢查 Linux 內(nèi)核版本關(guān)閉 Swap 交換分區(qū)以提高推理性能Bashsudo swapoff -a安裝 NVIDIA 驅(qū)動(dòng)及nvidia-container-toolkit使 Docker 容器能夠掛載 GPU 資源Bashsudo apt-get install -y nvidia-container-toolkit sudo systemctl restart docker執(zhí)行驗(yàn)證確保 Docker 內(nèi)部可識(shí)別 GPUBashdocker run --rm --gpus all nvidia/cuda:11.8.0-base-ubuntu22.04 nvidia-smi階段二部署文件解壓與鏡像加載將私有化交付離線包上傳至/opt/ai-platform目錄并解壓。批量導(dǎo)入平臺(tái)鏡像包Bashdocker load -i ai-platform-images-v3.2.0.tar.gz階段三修改全局配置文件編輯.env環(huán)境配置文件設(shè)置數(shù)據(jù)庫(kù)密碼、宿主機(jī) IP 及算力分配卡號(hào)。在configs/stream-service.yaml中配置網(wǎng)絡(luò)網(wǎng)卡名稱與流媒體 RTSP 端口。階段四啟動(dòng)服務(wù)編排使用 Docker Compose 一鍵拉起基礎(chǔ)服務(wù)與核心應(yīng)用Bashdocker compose -f docker-compose.yml up -d檢查各容器運(yùn)行狀態(tài)Bashdocker compose ps(截圖建議在此處貼出docker compose ps運(yùn)行結(jié)果終端截圖展示mysql,redis,media-server,ai-engine,web-api等容器狀態(tài)均為Up (healthy))階段五系統(tǒng)級(jí)功能驗(yàn)證登錄 Web UI 頁(yè)面http://SERVER_IP:8080錄入測(cè)試攝像機(jī) RTSP 地址。綁定“人流量統(tǒng)計(jì)”或“區(qū)域入侵檢測(cè)”算法任務(wù)調(diào)取畫面預(yù)覽與告警抓拍。階段六上線驗(yàn)收與運(yùn)維交接執(zhí)行 24 小時(shí)壓力測(cè)試導(dǎo)出 CPU/GPU/內(nèi)存 資源消耗曲線圖。整理《私有化部署配置表》、《驗(yàn)收測(cè)試報(bào)告》與《運(yùn)維交接手冊(cè)》向客戶交付運(yùn)維賬號(hào)與備份策略。5. 核心配置項(xiàng)參數(shù)表交付過程中需要重點(diǎn)核對(duì)并記錄在《部署文檔》中的核心配置參數(shù)如下服務(wù)模塊配置項(xiàng)路徑 / 環(huán)境變量默認(rèn)值 / 推薦值配置說明Web 平臺(tái)HTTP_PORT8080平臺(tái)前端 UI 與 API 訪問端口流媒體服務(wù)RTSP_PORT/RTMP_PORT554/1935視頻流匯聚與分發(fā)端口算法引擎CUDA_VISIBLE_DEVICES0(或0,1)指定算法推理使用的 GPU 顯卡序號(hào)模型路徑MODEL_DIR/opt/ai-platform/models存放 TensorRT/ONNX 模型文件的掛載目錄并發(fā)任務(wù)MAX_STREAM_CAPACITY16單 GPU 顯卡允許加載的最大并發(fā)視頻路數(shù)日志路徑LOG_BASE_DIR/var/log/ai-platform宿主機(jī)日志掛載路徑需配置 logrotate 滾動(dòng)清理告警回調(diào)ALARM_WEBHOOK_URL[http://10.](http://10.)x.x.x:9090/api/alarm告警結(jié)構(gòu)化 JSON 推送的目標(biāo)地址數(shù)據(jù)庫(kù)MYSQL_HOST/PORT127.0.0.1/3306系統(tǒng)主數(shù)據(jù)庫(kù)連接配置6. 五維驗(yàn)證方法部署完成后必須按照以下 5 個(gè)維度逐一進(jìn)行驗(yàn)收驗(yàn)證并在《驗(yàn)收清單》上簽字確認(rèn)頁(yè)面能打開訪問http://SERVER_IP:8080確認(rèn)前端頁(yè)面加載正常無 500/502 報(bào)錯(cuò)RBAC 權(quán)限賬號(hào)登錄無誤。視頻能預(yù)覽在【通道管理】中添加攝像頭 RTSP 流點(diǎn)擊預(yù)覽視頻畫面在 2 秒內(nèi)加載完成無明顯卡頓、花屏或綠屏播放延時(shí)。算法能告警觸發(fā)設(shè)定的規(guī)則例如測(cè)試人員穿過人流量統(tǒng)計(jì)線或劃定區(qū)域查看平臺(tái)【告警中心】確認(rèn) 1 秒內(nèi)產(chǎn)生抓拍記錄并正確標(biāo)記目標(biāo) BBox。日志無異常執(zhí)行docker compose logs -f --tail100 ai-engine觀察推理日志確認(rèn)無CUDA out of memory、Decode Frame Failure或Connection Refused等 Error 級(jí)別日志?；卣{(diào)成功在第三方接收服務(wù)端檢查日志確認(rèn)收到格式合規(guī)的 HTTP 200 響應(yīng)且 JSON 報(bào)文包含event_id,timestamp,snapshot_url及結(jié)構(gòu)化屬性。7. 常見問題排查與排錯(cuò)表在項(xiàng)目交付現(xiàn)場(chǎng)運(yùn)維工程師可根據(jù)下表快速定位并解決排錯(cuò)問題現(xiàn)象可能原因檢查方法處理建議1. 容器服務(wù)起不來1. 數(shù)據(jù)庫(kù)未初始化完成2. 端口被宿主機(jī)其他服務(wù)占用1.docker logs container_id2.netstat -tuln | grep 80801. 調(diào)整depends_on健康檢查順序2. 修改.env中沖突的端口號(hào)2. 容器內(nèi) GPU 不可見未安裝nvidia-container-toolkit或 docker-compose 缺少 gpus 聲明執(zhí)行docker run --gpus all ... nvidia-smi校驗(yàn)安裝 toolkit 并配置 Compose 文件中的deploy.resources.reservations.devices3. 視頻流拉取失敗/黑屏1. 網(wǎng)絡(luò)不通或防火墻攔截 554 端口2. RTSP 密碼包含特殊字符未轉(zhuǎn)義1.ping IPC_IP并在容器內(nèi)使用ffprobe2. 查看流媒體服務(wù)日志1. 開放防火墻 TCP 554 端口2. 在 RTSP URL 中對(duì)#等字符進(jìn)行 URL 編碼4. 現(xiàn)場(chǎng)觸發(fā)動(dòng)作但不產(chǎn)生告警1. 算法未綁定指定 ROI 區(qū)域2. 檢測(cè)置信度閾值設(shè)置過高查看配置界面的劃線 Mask 和算法 Confidence 閾值重新繪制檢測(cè) ROI 區(qū)域?qū)⒅眯哦乳撝嫡{(diào)至 0.50~0.55 測(cè)試5. 視頻流延時(shí)越來越高積壓1. 啟用了軟解碼耗盡 CPU2. RTSP 解碼緩沖區(qū)過大1. 執(zhí)行top觀察 CPU 占用2. 查看流媒體配置rtsp_transport1. 開啟 NVDEC 硬件解碼加速2. 設(shè)置 RTSP 為tcp模式并啟用zero-buffer低延遲模式6. CPU 占用率接近 100%視頻分辨率過高4K全幀率30fps推理耗盡編解碼能力查看 ffmpeg / 解碼進(jìn)程 CPU 消耗在 IPC 端將輔碼流調(diào)整為 1080P/15fps或開啟平臺(tái)抽幀策略Skip Frame 17. 告警 Webhook 回調(diào)失敗目標(biāo)服務(wù)器網(wǎng)絡(luò)不通或接收端處理接口超時(shí)在平臺(tái)服務(wù)器上執(zhí)行curl -X POST CALLBACK_URL引導(dǎo)客戶將接收端接口改為異步隊(duì)列處理增加超時(shí)容錯(cuò)8. 磁盤空間快速被填滿日志文件或抓拍圖片未配置自動(dòng)清理策略執(zhí)行du -sh /var/log/*及df -h啟用平臺(tái)內(nèi)置的日志滾動(dòng)清理規(guī)則與定時(shí)文件刪除 Cron 任務(wù)8. 升級(jí)與回滾建議在私有化環(huán)境進(jìn)行系統(tǒng)版本迭代或補(bǔ)丁更新時(shí)請(qǐng)務(wù)必執(zhí)行以下防護(hù)性操作升級(jí)策略數(shù)據(jù)備份升級(jí)前必須對(duì) MySQL 數(shù)據(jù)庫(kù)與配置文件目錄進(jìn)行快照備份Bashmysqldump -u root -p ai_platform /opt/backup/ai_platform_$(date %Y%m%m).sql cp -r /opt/ai-platform/configs /opt/backup/configs_bak平滑替換使用帶版本 Tag 的鏡像進(jìn)行增量更新避免使用latest標(biāo)簽拉起新容器前先停止舊容器Bashdocker compose down docker compose up -d回滾策略版本鏡像回滾若新版本服務(wù)啟動(dòng)異常且無法立即解決修改docker-compose.yml中的鏡像 Tag 為上一個(gè)穩(wěn)定版本如v3.1.5。數(shù)據(jù)恢復(fù)若涉及到數(shù)據(jù)庫(kù) Schema 變更且不可逆重新導(dǎo)入備份 SQL 文件Bashmysql -u root -p ai_platform /opt/backup/ai_platform_XXXXXX.sql驗(yàn)證復(fù)原重啟舊版本容器組確認(rèn)平臺(tái)預(yù)覽與告警業(yè)務(wù)恢復(fù)正常。9. 延伸閱讀與結(jié)尾CTA私有化交付的成功不僅取決于算法模型的精度更依賴于一套標(biāo)準(zhǔn)化、工程化的部署實(shí)施與運(yùn)維保障體系。在大型私有云或復(fù)雜邊緣節(jié)點(diǎn)的交付場(chǎng)景中還涉及到多節(jié)點(diǎn)集群調(diào)度、高可用HA架構(gòu)以及異構(gòu)算力GPU/NPU的混合部署。如需獲取完整的私有化部署手冊(cè)、標(biāo)準(zhǔn)驗(yàn)收測(cè)試用例表單以及更多軟硬件兼容性適配清單可查閱相關(guān) AI 視頻分析平臺(tái)的核心交付文檔獲取針對(duì)您項(xiàng)目現(xiàn)場(chǎng)的定制化接入清單、部署方案、技術(shù)演示及專家級(jí)現(xiàn)場(chǎng)交付支持。