microsoft/nn-Meter
嵌入AI
⭐⭐⭐⭐☆ (4/5)
🧩 软硬件结合
已发布
项目简介
A DNN inference latency prediction toolkit for accurately modeling and predicting the latency on diverse edge devices.
nn-Meter 是微软推出的一款高精度深度学习模型推理延迟预测系统，荣获了 Mobisys 2021 最佳论文奖。它的核心价值在于让开发者无需在真实设备上实际部署和运行模型，就能准确预测 DNN 模型在不同边缘设备上的推理延迟，从而大幅降低硬件适配和性能评估的成本。