爛裝置也想跑 AI：百元晶片的邊緣計算極限壓榨（全系列導覽）

爛裝置也想跑 AI：百元晶片的邊緣計算極限壓榨

在只有 1GB RAM、百元低成本 Android 門禁機晶片上，如何將 50ms 的模型推論、多模態影像管線與垃圾回收壓榨到極致？本系列記錄了一場長達 18 篇的底層系統工程、ARM NEON 向量優化與零拷貝實戰紀實。

總篇章數：18 篇
技術範疇：ARM NEON / FastCV / Linux Kernel / ToF 3D / Zero-Copy
核心目標：50ms ➔ 3ms 極限榨汁

總覽與宏觀架構地圖

Architecture Blueprint

《爛裝置想跑 AI》全系列架構導覽：百元晶片的極限壓榨與破局地圖
全系列導讀地圖。統整五大攻堅戰役：記憶體壓榨、演算法管線、硬體驅動加速、多模態時空同步與真實落地規範。
Post #1101 · 全景地圖
閱讀導覽 ➔

第一階段：殘酷現實、評估與系統瘦身

Phase 1 · System Taming

Android 爛裝置想跑人臉辨識0 – 到底有多爛？
開局盤點硬體規格：四核心 A53、1GB RAM、連跑原裝 Android 都會喘的硬體現場。
Post #401前往閱讀 ➔

Android 爛裝置想跑人臉辨識1 – 評估第一
在動手前先建立指標：FPS、CPU 頻率調度、溫度牆與記憶體基準線。
Post #461前往閱讀 ➔

Android 爛裝置想跑人臉辨識2 – 記憶體優化：無用系統服務徹底剔除
客製化 AOSP 裁剪：幹掉列印服務、藍牙常駐與所有偷吃幾十 MB 記憶體的系統服務。
Post #416前往閱讀 ➔

Android 爛裝置想跑人臉辨識3 – 系統優化：ZRAM, SWAP, KSM 擴張最大值
壓榨 Linux 核心機制：透過 ZRAM 壓縮虛擬分頁，將 1GB 當作 1.5GB 用。
Post #418前往閱讀 ➔

Android 爛裝置想跑人臉辨識4 – 記憶體控場師LMKD
馴服 Low Memory Killer Daemon，避免前台 AI 推論進程隨時被系統一槍斃命。
Post #431前往閱讀 ➔

Android 爛裝置想跑人臉辨識5 – GC 是唯一會關心你 OOM 的好人
剖析 JVM 垃圾回收在受限記憶體下的顛簸（GC Thrashing），建立零分配原則。
Post #453前往閱讀 ➔

第二階段：零拷貝影像管線與硬體加速

Phase 2 · Zero-Copy & Acceleration

Android 爛裝置想跑人臉辨識6 – 三路高頻影像流零拷貝：單一可重用 Bitmap 鐵碗
打造 Zero-Allocation 影像管線，讓高頻相機 Frame 永遠在同一塊緩衝區流轉，消滅 GC 停頓。
Post #912前往閱讀 ➔

Android 爛裝置想跑人臉辨識7 – 物理世界需要 watchdog
面對工控場域的硬體當機，如何設計軟硬體看門狗進行無感自癒重啟。
Post #895前往閱讀 ➔

Android 爛裝置想跑人臉辨識8 – YUV_420_888 還能怎樣加速：QFastCV
利用高通 FastCV 與 GPU 運算單元，在百元晶片上加速色彩空間轉換。
Post #952前往閱讀 ➔

Android 爛裝置想跑人臉辨識9 – 兄弟齊心，軟硬兼施：ARM Compute Library (ACL)
深入 ARM Compute Library 底層，將神經網路卷積層直接映射到 CPU 向量管線。
Post #943前往閱讀 ➔

Android 爛裝置想跑人臉辨識 – GC Thrashing 思路補充
針對高頻推論時常發生的記憶體顛簸現象，提出非同步銷毀與對象池加固策略。
Post #933前往閱讀 ➔

第三階段：多模態融合與向量化極限（ARM NEON）

Phase 3 · Multimodal & NEON

Android 爛裝置想跑人臉辨識10 – 雙鏡頭的時空修羅場：RGB 與 ToF
解決 RGB 彩色鏡頭與 ToF 深度鏡頭在微秒等級的時間戳對齊與空間外參校正。
Post #968前往閱讀 ➔

Android 爛裝置想跑人臉辨識11 – ToF RAW12 轉 3D 點雲：消滅開方延遲的 ARM NEON 向量流水線
手刻 SIMD 組合語言：消滅數學開根號延遲，每秒硬算數萬個 3D 深度點雲。
Post #997前往閱讀 ➔

Android 爛裝置想跑人臉辨識 番外篇 – 從 50ms 到 3ms：ARM NEON、FastCV 與記憶體極限榨汁指南
全篇精華濃縮：揭密如何將原本高達 50ms 的龐大運算壓制在 3ms 內完成的工程魔法。
Post #1006前往閱讀 ➔

第四階段：邊緣物聯網、通訊與場域實戰

Phase 4 · Field Deployment

Android 爛裝置想跑人臉辨識12 – 說到底還是一台 IOT：WebSocket 篇
雙向即時通訊設計：在斷網重連與高頻推論並存下，保持與雲端控制台的強韌連接。
Post #1010前往閱讀 ➔

Android 爛裝置想跑人臉辨識13 – 為了幾乎不會用到的功能大改特改：門禁機單進程影格分發實戰
面對客戶稀奇古怪的需求，如何在不消耗額外記憶體前提下實現跨模組影格廣播。
Post #1015前往閱讀 ➔

Android 爛裝置想跑人臉辨識14 – 門禁機當 BLE Peripheral 的現場踩坑記
讓硬體同時作為藍牙從機發送信標，解決藍牙協議棧與相機驅動衝突的血淚踩坑。
Post #1118前往閱讀 ➔