TensorRT 简介：NVIDIA推出的GPU推理框架，服务端和嵌入式设备表现佳，底层不开源。 合作：支持主流框架。 优势：生态强大，稳定性高。 语言：Python、C/C++。 平台：NVIDIA Jetson嵌入式、NVIDIA GPU。 模型支持：TensorFlow、PyTorch、ONNX等。 推荐：适合有NVIDIA GPU的用户入门。
TF-Lite 简介：Google的移动端推理框架，支持Keras和TensorFlow模型。 优势：一条龙服务，支持TPU和安卓平台。 语言：Python、C/C++、Java。 平台：ARM处理器、微控制器。 模型支持：Keras、TensorFlow、ONNX。 推荐：TensorFlow用户必备，易了解TPU。
OpenVINO 简介：Intel的推理框架，提供深度学习推理套件(DLDT)和多媒体处理工具。 优势：面向Intel设备加速，安装SDK方便。 语言：C/C++、Python。 平台：Intel加速棒、FPGA。 模型支持：TensorFlow、PyTorch、ONNX等。 推荐：适合Intel平台用户入门。
CoreML 简介：苹果的iOS/macOS机器学习平台，底层不开源。 优势：苹果设备上速度快，稳定，入门简单。 语言：C/C++、Python、Obj-C、Swift。 平台：iMac、MacBook、iPhone等。 推荐：苹果开发者专用。
NCNN 简介：腾讯的推理框架，社区活跃。 优势：速度快，支持X86、GPU。 语言：C/C++、Python。 平台：安卓/苹果手机、ARM处理器。 推荐：适合嵌入式或APP开发者。
MNN 简介：阿里巴巴的移动端框架，支持模型训练。 优势：速度快，支持多种图形接口。 语言：C/C++、Python。 平台：安卓/苹果手机、ARM处理器。 推荐：首推部署推理框架，苹果设备上表现出色。
Tengine-Lite 简介：OpenAILab的边缘端推理框架，OpenCV官方推荐。 优势：速度快，支持RISC-V、CUDA等。 语言：C/C++、Python。 平台：安卓手机、ARM处理器、RISC-V。 推荐：适合嵌入式开发。
NNIE 简介：华为海思的深度学习卷积神经网络加速处理单元。 支持模型：AlexNet、VGG16等。 限制：仅支持Caffe框架，其他框架需转换。 现状：受芯片停产影响。
RKNN 简介：Rockchip提供的模型转换、推理运行和性能评估套件。 支持模型：Caffe、TensorFlow等。 平台：RK3399Pro Linux。 推荐：适合Rockchip平台用户。