nndeploy/nndeploy

这是一款简单易用、高性能、支持多端的 AI 推理部署框架。它基于有向无环图设计，将前处理、推理和后处理抽象为图的节点，支持流水线并行、任务并行等优化方式。兼容 TensorRT、OpenVINO、MNN 等多种推理后端，适配主流文生图、大语言、检测等模型，实现一套代码多端部署。