横向记录demo-数据生成/模型训练/模型部署/云API
没空就写个demo
- 企业提供:约A张正样本,与B张负样本
- 需求:具备安全性的正负样本分类API
- 负样本生成:
- 目的:获得模型训练所需的负样本(B极小,是A的‰级别)。
- 过程:
- 观察负样本与正确样本的区别。
- 对正样本进行图像处理以生成负样本。
- 结果:生成约C张负样本。
- 痛点:真实负样本获得成本高。
- 模型训练:
- 目的:获得推理模型,及其所需配置,并防止源代码泄露给企业
- 过程:
- 使用企业提供的A张正样本与生成的C张负样本进行训练。
- 为防止代码训练代码泄露,将模型生成为静态模型。
- 通过限制模型使用的资源,来获得模型的最低配置。
- 结果:
- 获得易于部署的静态模型,无需模型代码即可推理。
- 获得模型所需的资源,为下一步的云服务器选配提供指导。
- 痛点:
- 低成本。
- 源码泄露。
- 云API部署:
- 目的:将模型部署于云上,并提供模型API。
- 背景:
- 通用型(性能独占)服务器最低251元/月,且性能溢出严重。
- 共享标准型最低33元/月,性能合适。
- 突发性能型最低17元/月,性能稍有溢出。
- 过程:
- 实际场景中,云API不会被持续调用,考虑成本,选配突发性能型。
- 考虑到模型后续升级,以及API的稳定性,选配性能稍有溢出的服务器。
- 考虑所需处理的图片尺寸低,选配最低的带宽。
- 结果:在77元/月的服务器中,部署了API,运行稳定。
- 痛点:
- 低成本。
- 模型升级与稳定运行需要预留性能。
- 安全性考虑:
- 目的:企业希望在数据交换时保障安全性。
- 背景:
- 使用SSL加密,但需额外购买域名,以及备案,过程繁琐。
- 使用内网通信,带宽高,无需额外费用,且可省去公网带宽费用。
- 结果:
- 根据企业需求购买服务器及数据库,并联通三者内网。
- 移除服务器公网,改为内网交流。
- 减少了公网带宽费用23元/月,费用降低至54元/月。
- 痛点:安全性。
- 企业后续反馈:
- 暂无
共有 0 条评论