edge-inference

边缘/设备端 AI 推理架构：在 MCU、NPU、移动设备和迷你 PC 上运行模型；面向边缘的量化技术，TOPS/内存/能耗预算，TinyML，以及设备端与云端推理的延迟对比。架构层级视角。 适用场景：设计设备端/边缘 AI、"边缘推理"、"设备端推理"、"NPU"、"TinyML"、"量化"、"Jetson"、"Coral"、"Hailo"、小型硬件上的本地大语言模型、离线/低延迟推理、资源受限的机器学习。 不适用场景：云端 GPU 推理服务（请使用 `inference-serving-topology`）；数据中心加速器选型（请使用 `ai-hardware-selection`）；RAG 应用代码（请使用 rag 相关技能）。

存档时间线

版本索引永久保留；内容副本只保留最新 1 份，更早版本仅留索引与哈希（存档时间线的证据链不会因此断裂）。

下载存档内容副本