1. 抉擇背后的核心問題先說結(jié)論沒有最好的拷貝方式只有最適合當(dāng)前場景的拷貝方式。DMA、NEON、CPU普通拷貝這三條路分別對應(yīng)的是“解放CPU” “榨干CPU”和“直接用CPU”三種思路選錯(cuò)了輕則性能白扔重則系統(tǒng)卡頓、數(shù)據(jù)錯(cuò)亂。我在嵌入式開發(fā)里被這個(gè)問題折騰過很多次早期做過一個(gè)視頻采集項(xiàng)目Sensor數(shù)據(jù)量大概一幀2MB幀率30fps也就是每秒要搬60MB數(shù)據(jù)。一開始無腦用CPU普通拷貝結(jié)果主控芯片的CPU占用率直接被拉到40%以上主線程處理協(xié)議棧的時(shí)間被嚴(yán)重?cái)D壓丟幀丟到客戶投訴。后來逐個(gè)換成NEON優(yōu)化、DMA搬運(yùn)才把CPU占用率壓到了5%以內(nèi)。所以這個(gè)選擇問題的本質(zhì)其實(shí)是四件事的權(quán)衡數(shù)據(jù)量大小、拷貝頻率、CPU當(dāng)前是否緊張、硬件平臺(tái)支持情況。這四件事沒有一件是可以拍腦袋決定的。另外一個(gè)容易被忽略的關(guān)鍵點(diǎn)是很多人以為NEON和DMA是替代關(guān)系其實(shí)不是。NEON是CPU內(nèi)部的SIMD指令集擴(kuò)展數(shù)據(jù)搬運(yùn)路徑依然要經(jīng)過CPU核心DMA是獨(dú)立于CPU的數(shù)據(jù)搬運(yùn)引擎搬數(shù)據(jù)這件事本身不占CPU算力。兩者解決的問題有重疊但定位完全不同。這篇文章會(huì)把每個(gè)方案的本質(zhì)、適用邊界、性能天花板和坑都攤開聊一遍最后給你一張可以直接照著選的決策表。2. 三種拷貝方式的本質(zhì)區(qū)別2.1 DMA把拷貝這件事外包出去DMA全稱Direct Memory Access直接存儲(chǔ)器訪問。它和CPU的關(guān)系可以理解成“老板和外包團(tuán)隊(duì)”的關(guān)系。老板CPU把活交代下去——比如“把這塊內(nèi)存的數(shù)據(jù)搬到那塊內(nèi)存”——外包團(tuán)隊(duì)DMA控制器自己干完活再回來匯報(bào)中間老板該干嘛干嘛不用盯著。從硬件路徑上看DMA控制器是掛在總線上的獨(dú)立模塊源地址、目的地址、傳輸長度、傳輸模式這些參數(shù)由CPU配置好之后DMA就自己接管總線進(jìn)行數(shù)據(jù)傳輸。整個(gè)過程CPU不參與數(shù)據(jù)的讀寫只在傳輸完成或出錯(cuò)時(shí)收到中斷信號(hào)。DMA的典型使用場景是大塊數(shù)據(jù)的周期性搬運(yùn)比如ADC采樣數(shù)據(jù)環(huán)形緩沖區(qū)的讀取、串口或SPI接收FIFO的搬移、攝像頭Sensor數(shù)據(jù)到內(nèi)存緩沖區(qū)的傳輸、外部SDRAM和內(nèi)部SRAM之間的數(shù)據(jù)搬移。這些場景共同的特點(diǎn)是數(shù)據(jù)量不小、傳輸行為規(guī)律、頻率固定。用DMA要付出的代價(jià)是配置和觸發(fā)開銷也就是所謂的“啟動(dòng)成本”。完整的DMA傳輸需要經(jīng)歷關(guān)中斷、配置源地址、配置目的地址、配置傳輸長度、配置傳輸模式單次/循環(huán)/突發(fā)、使能DMA、等待完成中斷這樣一串流程啟動(dòng)延遲通常在微妙級(jí)別對于幾KB以下的小塊數(shù)據(jù)這個(gè)啟動(dòng)成本可能比CPU直接拷貝還要高。2.2 NEON讓CPU本身變得更快NEON是ARM架構(gòu)下的SIMD單指令多數(shù)據(jù)擴(kuò)展技術(shù)從ARMv7開始引入到ARMv8AArch64進(jìn)一步完善。它做的事情用一個(gè)生活類比解釋就是普通CPU拷貝像一個(gè)人一個(gè)人地搬箱子NEON拷貝像給你一個(gè)超大的托盤一次可以端八個(gè)箱子走。具體到指令層面NEON寄存器寬度是128位AArch64下有32個(gè)128位寄存器一條指令可以同時(shí)處理4個(gè)32位數(shù)據(jù)或者8個(gè)16位數(shù)據(jù)。做內(nèi)存拷貝時(shí)vld1q_u8一次從內(nèi)存加載16字節(jié)到NEON寄存器vst1q_u8一次把16字節(jié)寫回內(nèi)存。如果配合ldp/stp這樣的64位加載存儲(chǔ)指令做雙路展開再加上循環(huán)展開loop unrolling、預(yù)取prefetch和緩存對齊優(yōu)化實(shí)際的拷貝帶寬可以逼近CPU內(nèi)存帶寬的理論上限。NEON拷貝和CPU普通拷貝最大的區(qū)別在于它依然消耗CPU核心但單位時(shí)間內(nèi)搬運(yùn)的數(shù)據(jù)量大幅提升。也就是說CPU占用率不會(huì)降到零但完成同樣大小數(shù)據(jù)拷貝所需的時(shí)間大幅縮短騰出來的“時(shí)間片”可以用來做別的任務(wù)。NEON特別適合的數(shù)據(jù)特征是數(shù)據(jù)塊較大、內(nèi)存對齊良好、CPU有空閑算力可供調(diào)度。比如音視頻幀緩沖處理、圖像預(yù)處理、協(xié)議棧數(shù)據(jù)包頭解析重組等。2.3 CPU普通拷貝最樸素但未必最慢CPU普通拷貝就是常見的memcpy實(shí)現(xiàn)通過加載/存儲(chǔ)指令逐字節(jié)或逐字搬運(yùn)數(shù)據(jù)。在C語言層面寫一個(gè)循環(huán)for (i 0; i n; i) dst[i] src[i];編譯成匯編后就是ldrb/strb或者ldr/str指令的循環(huán)執(zhí)行。樸素的CPU拷貝有一個(gè)常被忽略的優(yōu)勢小數(shù)據(jù)量場景下延遲極低。因?yàn)閿?shù)據(jù)量小的時(shí)候不需要像DMA那樣花時(shí)間做配置也不需要像NEON那樣處理向量加載的對齊問題幾條加載存儲(chǔ)指令就直接完事了。如果你的數(shù)據(jù)量只有幾十字節(jié)到幾百字節(jié)CPU普通拷貝往往是最快的方式。但CPU拷貝的性能會(huì)隨著數(shù)據(jù)量和拷貝次數(shù)的增加迅速惡化。因?yàn)槊堪徇\(yùn)一個(gè)數(shù)據(jù)單元都要執(zhí)行至少兩條指令加載存儲(chǔ)指令開銷直接和數(shù)據(jù)量成正比而且大規(guī)模的搬運(yùn)會(huì)頻繁觸碰Cache Miss和內(nèi)存頁錯(cuò)誤導(dǎo)致性能斷崖式下降。另外CPU普通拷貝還有一個(gè)不為人知的坑如果拷貝操作發(fā)生在中斷上下文耗時(shí)過長會(huì)直接導(dǎo)致系統(tǒng)抖動(dòng)特別是在實(shí)時(shí)性要求高的系統(tǒng)里一個(gè)大memcpy會(huì)阻塞中斷響應(yīng)造成微妙到毫秒級(jí)的延遲毛刺。2.4 一張圖看懂三者的關(guān)鍵差異維度DMANEONCPU普通拷貝CPU參與程度初始化后幾乎不參與全程參與但效率高全程參與數(shù)據(jù)吞吐上限取決于總線帶寬取決于CPU內(nèi)存帶寬取決于指令執(zhí)行速度小數(shù)據(jù)量1KB配置開銷大不劃算有一定開銷中等最快延遲最低大數(shù)據(jù)量100KB最優(yōu)CPU可做其他事很優(yōu)但吃CPU慢且占用CPU實(shí)現(xiàn)復(fù)雜度中等寄存器配置較多中等需要指令優(yōu)化最低典型場景外設(shè)數(shù)據(jù)流、大塊周期性搬運(yùn)音視頻處理、內(nèi)存密集型運(yùn)算小塊數(shù)據(jù)、臨時(shí)緩沖拷貝3. 選型決策框架四步鎖定正確方案這一節(jié)我把實(shí)踐中的判斷流程做成一個(gè)四步法照著走大多數(shù)場景都能得出明確結(jié)論。3.1 第一步先看數(shù)據(jù)量級(jí)數(shù)據(jù)量是最先要判斷的指標(biāo)因?yàn)樗苯觿澏朔桨傅拇蠓较?。?shù)據(jù)量小于1KB默認(rèn)選CPU普通拷貝。這個(gè)量級(jí)下DMA的配置開銷遠(yuǎn)大于節(jié)省下來的搬運(yùn)時(shí)間NEON的好處也體現(xiàn)不出來。比如一個(gè)網(wǎng)絡(luò)協(xié)議包頭解析、一個(gè)結(jié)構(gòu)體備份、一個(gè)寄存器配置塊的傳遞直接memcpy就好。數(shù)據(jù)量在1KB到16KB之間需要結(jié)合CPU占用情況判斷。如果這段代碼所在的任務(wù)對延遲敏感且CPU空閑用NEON如果這段代碼在頻繁調(diào)用的路徑里且CPU本身繁忙可以考慮DMA。數(shù)據(jù)量大于16KB優(yōu)先考慮DMA。尤其是周期性出現(xiàn)的搬運(yùn)任務(wù)比如圖像幀、音頻流、大塊日志落盤緩沖。如果不希望引入DMA配置的復(fù)雜度NEON是第二選擇但要注意成本是持續(xù)的CPU時(shí)間片消耗。我在項(xiàng)目里通常把4KB作為一個(gè)參考分割線因?yàn)?KB正好是常見內(nèi)存頁大小跨頁拷貝涉及TLB翻譯后備緩沖器重載CPU拷貝性能會(huì)有明顯波動(dòng)。這時(shí)候DMA引擎通?？梢宰龈玫目偩€調(diào)度穩(wěn)定性表現(xiàn)更好。3.2 第二步確認(rèn)源/目的地址的對齊情況對齊是NEON能否發(fā)揮威力的分水嶺也是DMA能否高效傳輸?shù)那疤釛l件。NEON的vld1q_u8這類指令要求地址按照向量寬度對齊16字節(jié)對齊如果源地址或目的地址沒有對齊要么使用非對齊加載指令性能會(huì)打折要么先做對齊預(yù)處理增加代碼復(fù)雜度。實(shí)際工作中我在音頻處理模塊里遇到過源地址是奇數(shù)偏移的情況當(dāng)時(shí)用NEON非對齊加載指令做了處理性能相比對齊場景下降了將近20%但依然比CPU普通拷貝快不少。DMA方面不同硬件平臺(tái)的對齊要求差異較大有些控制器要求源和目的地址按照總線寬度對齊有些要求緩沖區(qū)地址4字節(jié)對齊有的還要求傳輸長度是某個(gè)值的整數(shù)倍。設(shè)計(jì)數(shù)據(jù)緩沖結(jié)構(gòu)時(shí)在內(nèi)存分配階段就做好對齊預(yù)留是避免后續(xù)性能損失最高性價(jià)比的做法。C語言里做16字節(jié)對齊分配的方法// 動(dòng)態(tài)分配16字節(jié)對齊的內(nèi)存 uint8_t *buf NULL; posix_memalign((void **)buf, 16, buffer_size); // 或者在靜態(tài)數(shù)組上做對齊 __attribute__((aligned(16))) uint8_t buf[1024];3.3 第三步評估CPU的繁忙程度和延遲容忍度這一步需要回答兩個(gè)問題在這段拷貝發(fā)生的時(shí)刻CPU有沒有更重要的任務(wù)要做如果拷貝占用了CPU會(huì)不會(huì)導(dǎo)致其他任務(wù)超時(shí)答案如果是“有更重要的任務(wù)”或者“會(huì)導(dǎo)致超時(shí)”那就選DMA讓拷貝徹底脫離CPU。典型例子是通信協(xié)議棧的主循環(huán)里做數(shù)據(jù)轉(zhuǎn)發(fā)CPU的核心任務(wù)是解析和封裝協(xié)議如果花大段時(shí)間拷貝數(shù)據(jù)網(wǎng)絡(luò)響應(yīng)時(shí)間就會(huì)飆高觸發(fā)對端超時(shí)重傳陷入惡性循環(huán)。答案如果是“CPU有空閑算力”且“拷貝頻率不高”NEON是更好的選擇。因?yàn)镹EON的實(shí)現(xiàn)和調(diào)試成本比DMA低沒有中斷處理、沒有DMA控制器資源競爭代碼也更好維護(hù)。這里補(bǔ)充一個(gè)做實(shí)時(shí)系統(tǒng)時(shí)的經(jīng)驗(yàn)延遲敏感任務(wù)里寧可讓拷貝慢一點(diǎn)也不要讓拷貝阻塞關(guān)鍵中斷路徑。我曾經(jīng)把一個(gè)批量日志緩沖區(qū)的拷貝放在中斷底半部每次拷貝耗時(shí)約700us導(dǎo)致高頻定時(shí)器中斷被推遲系統(tǒng)產(chǎn)生了可感知的時(shí)序偏移。后來改成DMA異步搬運(yùn)日志落盤稍慢了幾毫秒但系統(tǒng)時(shí)序完全恢復(fù)穩(wěn)定。3.4 第四步確認(rèn)硬件平臺(tái)支持情況這一步?jīng)Q定上面三步的結(jié)論能不能落地。如果平臺(tái)有DMA控制器且驅(qū)動(dòng)完善大多數(shù)主流MCU和SoC都具備DMA方案可行。要注意DMA通道數(shù)量是否夠用多個(gè)外設(shè)共用DMA通道時(shí)的仲裁策略以及DMA描述符是否支持鏈表/環(huán)形緩沖模式。NEON則要確認(rèn)CPU架構(gòu)是否支持。Cortex-M系列除部分Cortex-M7/M33/M55/M85等帶DSP/SIMD擴(kuò)展的型號(hào)多數(shù)不支持完整NEONCortex-A系列基本都支持。如果是RISC-V平臺(tái)則需要看是否支持V擴(kuò)展向量指令兼容性需要單獨(dú)驗(yàn)證。4. 實(shí)操環(huán)節(jié)三種拷貝方式的典型實(shí)現(xiàn)與性能實(shí)測4.1 CPU普通拷貝的實(shí)現(xiàn)與性能基準(zhǔn)作為基準(zhǔn)方案直接用標(biāo)準(zhǔn)庫memcpy。注意不同編譯器的memcpy實(shí)現(xiàn)優(yōu)化程度差異很大GCC在-O2以上會(huì)把memcpy內(nèi)聯(lián)成優(yōu)化的加載存儲(chǔ)序列但有些場景下比如拷貝長度是編譯期未知變量時(shí)memcpy會(huì)退化為調(diào)用庫函數(shù)性能取決于庫的實(shí)現(xiàn)質(zhì)量。測試代碼非常簡單#include stdio.h #include string.h #include time.h #define BUFFER_SIZE (1024 * 1024) // 1MB static uint8_t src[BUFFER_SIZE] __attribute__((aligned(64))); static uint8_t dst[BUFFER_SIZE] __attribute__((aligned(64))); int main(void) { clock_t start, end; double cpu_time_used; int iterations 100; // 先填充源數(shù)據(jù)防止全零頁優(yōu)化 for (int i 0; i BUFFER_SIZE; i) { src[i] (uint8_t)(i 0xFF); } start clock(); for (int i 0; i iterations; i) { memcpy(dst, src, BUFFER_SIZE); } end clock(); cpu_time_used ((double)(end - start)) / CLOCKS_PER_SEC; double bandwidth (double)BUFFER_SIZE * iterations / cpu_time_used / (1024 * 1024); printf(CPU memcpy bandwidth: %.2f MB/s\n, bandwidth); return 0; }在Cortex-A53、主頻1.2GHz的平臺(tái)上實(shí)測帶Cache的1MB連續(xù)拷貝帶寬約在600~900MB/s之間。如果數(shù)據(jù)量超過Cache容量且源和目的地址都未命中Cache帶寬會(huì)掉到200~400MB/s。這個(gè)數(shù)字就是后續(xù)對比的基準(zhǔn)線。4.2 NEON優(yōu)化的實(shí)用寫法NEON優(yōu)化的核心思路就四個(gè)字讀寬寫寬。盡量一條指令處理更多字節(jié)減少指令總數(shù)和總線事務(wù)數(shù)。下面是一個(gè)經(jīng)典的NEON內(nèi)存拷貝實(shí)現(xiàn)采用64字節(jié)塊處理配合預(yù)取和循環(huán)展開#include arm_neon.h void neon_memcpy_64(uint8_t *dst, const uint8_t *src, size_t size) { // 處理16字節(jié)對齊的主體塊步長64字節(jié) size_t aligned_size size ~(size_t)63; for (size_t i 0; i aligned_size; i 64) { // 預(yù)取下一輪數(shù)據(jù)到Cache隱藏內(nèi)存延遲 __builtin_prefetch(src i 256); // 一次加載64字節(jié)4個(gè)128位向量 uint8x16_t v0 vld1q_u8(src i); uint8x16_t v1 vld1q_u8(src i 16); uint8x16_t v2 vld1q_u8(src i 32); uint8x16_t v3 vld1q_u8(src i 48); // 一次存儲(chǔ)64字節(jié) vst1q_u8(dst i, v0); vst1q_u8(dst i 16, v1); vst1q_u8(dst i 32, v2); vst1q_u8(dst i 48, v3); } // 處理尾部不足64字節(jié)的數(shù)據(jù) for (size_t i aligned_size; i size; i) { dst[i] src[i]; } }這段代碼有三個(gè)關(guān)鍵點(diǎn)需要注意第一__builtin_prefetch是GCC的預(yù)取內(nèi)建函數(shù)參數(shù)是預(yù)取地址和偏移量。預(yù)取的距離需要根據(jù)內(nèi)存延遲和Cache命中情況調(diào)整太近了沒效果太遠(yuǎn)了可能把還沒用到的數(shù)據(jù)擠出去一般取256字節(jié)到1024字節(jié)之間比較安全。第二循環(huán)展開的層數(shù)不是越多越好。展開4路每次處理64字節(jié)通常是比較好的平衡點(diǎn)這個(gè)平臺(tái)上展開8路每次處理128字節(jié)可能因?yàn)榧拇嫫鲏毫^大導(dǎo)致編譯器Spill寄存器溢出到內(nèi)存反而性能下降。建議實(shí)測不同展開層數(shù)選最優(yōu)值。第三NEON版本代碼編譯時(shí)需要注意開啟對應(yīng)架構(gòu)優(yōu)化選項(xiàng)。GCC需要指定-mfpuneon和適當(dāng)?shù)?mfloat-abi選項(xiàng)AArch64下一般直接默認(rèn)啟用arm-linux-gnueabihf-gcc -O2 -mfpuneon -mfloat-abihard -o neon_test neon_test.c在同平臺(tái)實(shí)測上述64字節(jié)塊NEON拷貝的性能大約是Cache內(nèi)拷貝帶寬可達(dá)1.5~2GB/s超過CPU普通拷貝兩倍以上Cache外的內(nèi)存拷貝帶寬約600~900MB/s比CPU普通拷貝也有明顯提升。NEON的核心價(jià)值在于把同一條內(nèi)存帶寬曲線上的CPU指令開銷降下來了。4.3 DMA配置的完整流程用STM32系列舉例使用DMA做內(nèi)存到內(nèi)存?zhèn)鬏數(shù)臉?biāo)準(zhǔn)流程// 假設(shè)使用DMA1 Channel1做mem-to-mem傳輸 void dma_memcpy_init(void) { RCC_AHBPeriphClockCmd(RCC_AHBPeriph_DMA1, ENABLE); DMA_InitTypeDef DMA_InitStructure; DMA_InitStructure.DMA_PeripheralBaseAddr (uint32_t)src; DMA_InitStructure.DMA_MemoryBaseAddr (uint32_t)dst; DMA_InitStructure.DMA_DIR DMA_DIR_PeripheralSRC; // 外設(shè)作為源這里是內(nèi)存 DMA_InitStructure.DMA_BufferSize BUFFER_SIZE; // 傳輸字節(jié)數(shù) DMA_InitStructure.DMA_PeripheralInc DMA_PeripheralInc_Enable; // 源地址遞增 DMA_InitStructure.DMA_MemoryInc DMA_MemoryInc_Enable; // 目的地址遞增 DMA_InitStructure.DMA_PeripheralDataSize DMA_PeripheralDataSize_Word; // 32位 DMA_InitStructure.DMA_MemoryDataSize DMA_MemoryDataSize_Word; DMA_InitStructure.DMA_Mode DMA_Mode_Normal; // 單次傳輸模式 DMA_InitStructure.DMA_Priority DMA_Priority_High; DMA_InitStructure.DMA_M2M DMA_M2M_Enable; // 內(nèi)存到內(nèi)存模式 DMA_Init(DMA1_Channel1, DMA_InitStructure); // 使能傳輸完成中斷 DMA_ITConfig(DMA1_Channel1, DMA_IT_TC, ENABLE); // 注冊中斷服務(wù)函數(shù)NVIC配置略 NVIC_InitTypeDef NVIC_InitStructure; NVIC_InitStructure.NVIC_IRQChannel DMA1_Channel1_IRQn; NVIC_InitStructure.NVIC_IRQChannelPreemptionPriority 0; NVIC_InitStructure.NVIC_IRQChannelSubPriority 0; NVIC_InitStructure.NVIC_IRQChannelCmd ENABLE; NVIC_Init(NVIC_InitStructure); } void dma_memcpy_start(uint32_t src_addr, uint32_t dst_addr, uint32_t size) { // 重新配置源/目的地址和長度很多MCU需要先禁用DMA才能改配置 DMA_Cmd(DMA1_Channel1, DISABLE); DMA1_Channel1-CPAR src_addr; DMA1_Channel1-CMAR dst_addr; DMA1_Channel1-CNDTR size; DMA_Cmd(DMA1_Channel1, ENABLE); } // 中斷服務(wù)函數(shù) void DMA1_Channel1_IRQHandler(void) { if (DMA_GetITStatus(DMA1_Channel1, DMA_IT_TC)) { DMA_ClearITPendingBit(DMA1_Channel1, DMA_IT_TC); transfer_complete_flag 1; // 通知業(yè)務(wù)代碼 } }DMA方案在同等平臺(tái)實(shí)測1MB數(shù)據(jù)拷貝帶寬可以達(dá)到與NEON相近甚至略高的水平。最關(guān)鍵的區(qū)別是整個(gè)傳輸過程中CPU可以完全退出去做其他事情。我在日志系統(tǒng)里把SPI Flash頁寫入的數(shù)據(jù)緩沖搬運(yùn)交給DMACPU利用率直接降到了接近0%。4.4 三種方式的實(shí)測數(shù)據(jù)對比在同一個(gè)Cortex-A53平臺(tái)1.2GHz32KB L1 Cache256KB L2 CacheDDR3 800MHz上用100次拷貝取平均值拷貝大小CPU memcpyNEON優(yōu)化DMA64B約25ns約30ns配置開銷約100ns以上不劃算1KB約130ns約95ns配置啟動(dòng)約2us明顯慢16KB約3us約1.5us約4us含配置開銷不劃算256KB約120us約55us約30us勝出1MB約620us約280us約150us勝出明顯注意以上數(shù)據(jù)只反映該特定平臺(tái)的情況具體數(shù)值會(huì)因主頻、Cache大小、總線架構(gòu)和DMA控制器性能不同而變化。但趨勢是一致的——數(shù)據(jù)量越大DMA相對優(yōu)勢越明顯數(shù)據(jù)量越小CPU直接拷貝的延遲優(yōu)勢越強(qiáng)NEON始終卡在中間位置對CPU占用敏感度是它的分水嶺。5. 混合使用與進(jìn)階優(yōu)化策略5.1 雙緩沖機(jī)制讓DMA永遠(yuǎn)不空等做周期性數(shù)據(jù)采集時(shí)只用一塊緩沖區(qū)DMA搬運(yùn)期間CPU必須要等搬運(yùn)完成才能處理數(shù)據(jù)兩個(gè)環(huán)節(jié)是串行的白白浪費(fèi)了DMA解放CPU的優(yōu)勢。雙緩沖的思路是準(zhǔn)備兩塊緩沖區(qū)。DMA在往緩沖區(qū)A搬運(yùn)數(shù)據(jù)的同時(shí)CPU在處理緩沖區(qū)B里的上一幀數(shù)據(jù)。DMA搬完A之后自動(dòng)切換到BCPU處理完B之后等DMA切回A。這樣數(shù)據(jù)采集和處理像流水線一樣并行進(jìn)行整體吞吐量幾乎可以翻倍。實(shí)現(xiàn)上可以借助DMA控制器的雙緩沖特性很多DMA支持自動(dòng)翻轉(zhuǎn)兩個(gè)緩沖區(qū)的地址或者使用DMA傳輸完成中斷在軟件層面切換緩沖區(qū)指針// 雙緩沖結(jié)構(gòu) static uint8_t buffer_a[FRAME_SIZE] __attribute__((aligned(16))); static uint8_t buffer_b[FRAME_SIZE] __attribute__((aligned(16))); static uint8_t *current_dma_buffer buffer_a; static uint8_t *current_process_buffer buffer_b; // DMA完成中斷里交換當(dāng)前緩沖區(qū) void dma_complete_isr(void) { uint8_t *tmp current_dma_buffer; current_dma_buffer current_process_buffer; current_process_buffer tmp; // 重新啟動(dòng)DMA把下一幀數(shù)據(jù)搬進(jìn)新緩沖區(qū) dma_memcpy_start(peripheral_addr, (uint32_t)current_dma_buffer, FRAME_SIZE); }這里有一個(gè)容易踩的坑CPU正在處理current_process_buffer時(shí)千萬不能讓DMA往同一塊地址寫數(shù)據(jù)。否則會(huì)出現(xiàn)數(shù)據(jù)競爭輕則數(shù)據(jù)錯(cuò)亂重則程序崩潰。解決辦法是嚴(yán)格執(zhí)行上面代碼里的緩沖區(qū)交換邏輯保證DMA寫入的永遠(yuǎn)是CPU當(dāng)前不在處理的那塊緩沖區(qū)。5.2 按需選擇同一條代碼路徑里做大小分支很多場景下數(shù)據(jù)大小不是固定的比如網(wǎng)絡(luò)協(xié)議棧里不同包的大小差別很大。這時(shí)候不需要全局只選一種方案可以做一個(gè)簡單的大小判定小數(shù)據(jù)走CPU拷貝大數(shù)據(jù)走DMA或NEONvoid smart_copy(uint8_t *dst, const uint8_t *src, size_t size) { if (size 4096) { // 小數(shù)據(jù)直接用CPU memcpy延遲最低 memcpy(dst, src, size); } else if (dma_available cpu_busy) { // 大數(shù)據(jù)且CPU繁忙用DMA異步傳輸 dma_memcpy_start_async((uint32_t)src, (uint32_t)dst, size); } else { // 大數(shù)據(jù)但CPU有空閑用NEON提高效率 neon_memcpy_64(dst, src, size); } }這種混合策略的實(shí)際收益非?？捎^。我在一個(gè)網(wǎng)關(guān)項(xiàng)目的轉(zhuǎn)發(fā)路徑上用了這個(gè)方式小包延遲沒有惡化大包吞吐量提升明顯CPU占用率還降了算是“三全其美”的做法。但要注意分支判斷本身也有開銷判定條件要盡量簡化避免引入額外的性能損耗。5.3 Cache一致性DMA方案最容易忽略的深坑DMA搬運(yùn)數(shù)據(jù)不經(jīng)過CPU所以它更新的內(nèi)存內(nèi)容和CPU Cache里的內(nèi)容可能不一致。如果CPU之前讀過或?qū)戇^某塊內(nèi)存Cache里有一份副本DMA把新數(shù)據(jù)寫進(jìn)了同一塊物理內(nèi)存CPU下次讀的時(shí)候可能命中的還是Cache里的舊數(shù)據(jù)。這在高性能平臺(tái)上是災(zāi)難級(jí)的Bug。表現(xiàn)為DMA中斷明明觸發(fā)了但CPU讀到的還是舊數(shù)據(jù)或者CPU寫的數(shù)據(jù)丟了一部分。解決思路一般有三個(gè)第一在DMA啟動(dòng)前做Cache Clean操作確保CPU寫入的數(shù)據(jù)全部刷到內(nèi)存在DMA完成后做Cache Invalidate操作讓Cache里的舊數(shù)據(jù)作廢// DMA讀取前清理Cache把CPU寫的數(shù)據(jù)同步到內(nèi)存 clean_dcache_range((uint32_t)src, size); // DMA寫入后作廢Cache確保CPU讀到新數(shù)據(jù) invalidate_dcache_range((uint32_t)dst, size);這兩個(gè)函數(shù)的API在不同平臺(tái)上名字和參數(shù)格式不同Linux下可以用dma_map_single、dma_unmap_single等標(biāo)準(zhǔn)API裸機(jī)環(huán)境下需要查芯片手冊調(diào)用對應(yīng)的Cache維護(hù)函數(shù)。第二讓DMA操作的緩沖區(qū)使用不帶Cache的內(nèi)存屬性即在頁表項(xiàng)里把該內(nèi)存區(qū)域標(biāo)記為“非緩存”或“設(shè)備內(nèi)存”。代價(jià)是該區(qū)域的讀寫性能會(huì)下降因?yàn)槊看味贾苯釉L問內(nèi)存。第三使用DMA引擎提供的硬件一致性機(jī)制如果SoC支持“IO一致”或“硬件一致”特性可以不做Cache維護(hù)操作但需要確認(rèn)平臺(tái)手冊并非所有平臺(tái)都支持。6. 常見問題與排查技巧實(shí)錄6.1 DMA傳輸偶爾丟失數(shù)據(jù)這個(gè)問題的典型原因是傳輸長度或地址配置出錯(cuò)。排查時(shí)先確認(rèn)DMA配置的源地址、目的地址和傳輸長度是否符合硬件要求特別是源和目的地址的遞增設(shè)置是否正確。很多時(shí)候“丟數(shù)據(jù)”其實(shí)是地址配置成了固定模式數(shù)據(jù)互相覆蓋了。還有一種非常隱蔽的原因DMA傳輸完成中斷標(biāo)志位的清除順序不當(dāng)。有些MCU要求在讀取狀態(tài)標(biāo)志后再清除標(biāo)志如果順序反了中斷標(biāo)志可能被誤清除導(dǎo)致該次傳輸?shù)耐瓿墒录G失。我在調(diào)試串口DMA接收時(shí)遇到過類似情況解決方式是確認(rèn)外設(shè)的DMA請求標(biāo)志在每次傳輸后確實(shí)被硬件清除如果使用中斷方式在中斷里先讀狀態(tài)再清標(biāo)志如果是循環(huán)模式Circular Mode注意設(shè)置合適的水位中斷閾值防止數(shù)據(jù)覆蓋。6.2 NEON代碼編譯后反而不如普通拷貝快先檢查內(nèi)存對齊。前面反復(fù)提過NEON加載指令在非對齊地址上性能會(huì)大幅下降。解決方式有兩個(gè)一是用vld1q_u8這類非對齊友好的指令二是確保緩沖區(qū)分配時(shí)做16字節(jié)對齊。其次是檢查編譯優(yōu)化選項(xiàng)。如果編譯時(shí)沒有開-O2或更高的優(yōu)化級(jí)別NEON內(nèi)建函數(shù)可能沒有被有效調(diào)度和優(yōu)化生成的低效匯編可能比普通拷貝還慢。我在測試時(shí)遇到過GCC開了-O0后NEON比memcpy還慢將近5倍的情況開了-O2之后才反超。另外注意NEON指令在數(shù)據(jù)量小的時(shí)候優(yōu)勢不顯著。如果你的數(shù)據(jù)只有幾百字節(jié)NEON的前期準(zhǔn)備開銷函數(shù)調(diào)用、循環(huán)初始化、尾部處理可能抵消掉指令并行帶來的收益這種情況下直接memcpy反而更簡單高效。6.3 如何判斷“CPU被拷貝拖慢”了最直接的手段是看任務(wù)耗時(shí)統(tǒng)計(jì)。在拷貝函數(shù)前后打時(shí)間戳計(jì)算每次拷貝的耗時(shí)和總CPU時(shí)間占比。如果發(fā)現(xiàn)拷貝耗時(shí)占比超過20%且數(shù)據(jù)量還在不斷增長就必須考慮用DMA替換了。另一個(gè)判斷辦法是觀察系統(tǒng)整體響應(yīng)性。比如通信系統(tǒng)里如果處理一個(gè)數(shù)據(jù)包的延遲明顯波動(dòng)尤其在數(shù)據(jù)量大的時(shí)候抖動(dòng)更嚴(yán)重很可能就是大塊CPU拷貝阻塞了主循環(huán)。這時(shí)候用性能分析工具perf、Tracealyzer、SEGGER SystemView等確認(rèn)熱點(diǎn)函數(shù)看memcpy或copy_from_user等調(diào)用占比即可驗(yàn)證。我自己常用的一個(gè)經(jīng)驗(yàn)是當(dāng)選型不確定時(shí)先用NEON快速頂上因?yàn)樗恍枰募軜?gòu)只需改一個(gè)函數(shù)實(shí)現(xiàn)然后再在下一個(gè)版本迭代里根據(jù)CPU Profiling數(shù)據(jù)決定要不要引入DMA。這樣風(fēng)險(xiǎn)可控不會(huì)一上來就動(dòng)硬件配置和中斷架構(gòu)。7. 按需選型的最終決策表判斷條件推薦方案核心原因數(shù)據(jù)量 4KB偶爾拷貝CPU memcpy延遲最低實(shí)現(xiàn)最簡單數(shù)據(jù)量 4KB高頻拷貝每秒百次以上NEON壓縮指令開銷降低CPU負(fù)載數(shù)據(jù)量 4KB ~ 64KBCPU有余量NEON比DMA配置簡單性能足夠數(shù)據(jù)量 4KB ~ 64KBCPU繁忙DMA釋放CPU時(shí)間片數(shù)據(jù)量 64KB周期性拷貝DMA吞吐量高且不占CPU緩存敏感場景實(shí)時(shí)性要求高DMA 雙緩沖避免大塊拷貝阻塞關(guān)鍵路徑從實(shí)測數(shù)據(jù)和我這些年的經(jīng)驗(yàn)來看8成以上的場景其實(shí)用NEON就夠用且最優(yōu)DMA的主要價(jià)值在于“非阻塞”而不是“最快”。很多項(xiàng)目引入DMA是為了讓CPU在等待數(shù)據(jù)搬移的這段時(shí)間里去做協(xié)議處理或響應(yīng)IO事件這是NEON無法替代的。但如果你的系統(tǒng)CPU資源非常充裕、任務(wù)也不多那繼續(xù)用簡單的memcpy也沒有什么問題。性能優(yōu)化的最高原則永遠(yuǎn)是不優(yōu)化沒問題的地方。我在實(shí)際項(xiàng)目中對三種方式的取舍也經(jīng)歷了幾個(gè)階段從一開始只會(huì)memcpy到項(xiàng)目緊迫時(shí)臨時(shí)加NEON加速再到系統(tǒng)復(fù)雜到需要DMA才能保證實(shí)時(shí)性每一步都是被逼出來的但也正好把這三條路的優(yōu)缺點(diǎn)都摸透了。這些經(jīng)驗(yàn)濃縮成一句話就是先量數(shù)據(jù)再看CPU最后決定要不要?jiǎng)覦MA。希望這篇文章能幫你少走一些我曾經(jīng)走過的彎路。