Flask搭建Web可视化Onnx模型推理

已阅： 16

写了三篇，没写完，写完发，省的我发到一半断更了。

先臭不要脸占个位

是挑战杯的项目Demo，所以不开源。

项目背景

  • 挑战杯需要提供 Demo 展示，这个 Demo 需要提供图像分类模型，以及不同分类下的目标检测模型，并将推理结果可视化。

项目需求

  1. 图像分类模型
    • 用于分类图像。
  2. 目标检测模型
    • 对分类好的图像进行检测。
  3. Web 交互
    • 用户可操作该 Web，通过上传图像来使用模型服务。
  1. 低时延
  2. 小模型
  3. 低功耗

涉及框架及语言

  • Flask: Web 框架，使用 python。
  • HTML: Web 框架。
  • mmcls: 图像分类模型训练框架，使用 python。
  • mmdet: 目标检测模型训练框架，使用 python。
  • mmdeploy: 模型部署框架，使用 python。
  • onnx: 模型部署方式。

涉及内容

  • 以 mmcls 与 mmdet 为例的 OpenMMLab 系列框架的安装与使用。
  • mmdeploy 将 PyTorch 模型转为 Onnx 模型。
  • 使用 Flask 搭建的 Web 网页调用已部署的模型。
  • 检测模型推理结果可视化。

开源说明

  • 项目未完结，暂不开源，也许几年后会开源。大家想看代码的催一下我。
  • 当然，有问题也欢迎提出，不涉及项目细节的我都会回答。