1 Star 0 Fork 1

ApulisPlatform / model-gallery

加入 Gitee
与超过 1200万 开发者一起发现、参与优秀开源项目,私有仓库也完全免费 :)
免费加入
克隆/下载
infer.yaml 4.80 KB
一键复制 编辑 原始数据 按行查看 历史
wscjxky 提交于 2021-10-21 14:25 . update minfspoer train base
#必填,命名规则:backbone
name: resnet50
# 必填,模型来源,可选值:publish(从代码开发中发布) | preset(系统预置模型) | custom (用户自定义页面上传)
source: preset
# 选填,是否支持二次开发,默认值为true
redevelop: true
# 选填,模型图片文件相对于manifest.yaml的路径,为空则默认图片,要求大小不超过20M,图片分辨率为800*370,宽高比约为2:1
logo: logo.png
#选填,填网络名
backbone: resnet
#选填,描述
description: resnet50-model
#必填,模型支持的领域,可选值参考selector.yaml中field字段,详情见模型任务对应列表
field: cv
#必填,模型支持的任务类型,可选值参考selector.yaml中task字段,详情见模型任务对应列表
task: classification
# 选填,默认没有该字段,模型来源的平台,或模型将被使用的平台,用于模型筛选 可选值参考selector.yaml中platform字段
platform:
- AIArts
- DataEyes
# 选填,模型属性,用于推理
props:
- key: input_shape
type: string
value: '224,224'
desc: input shape
- key: output_shape
type: string
value: '1,10'
desc: output shape
#选填,中心推理
center:
#必填,可选值参考selector.yaml中 infer_framework 字段
framework: ACL
#必填,如填写,以infer文件夹为根目录,则可以使用用户上传的pickle模型文件进行推理,
model_path: bert.om
#必填,如果为air那么平台会自动进行转换为om,可选值参考selector.yaml中 model_format 字段
format: om
#选填,模型推理精度 ,可选值参考selector.yaml中 precision 字段
precision: int8
#选填,模型推理验证输入输出
verify_command: python test_request.py
#选填,中心推理镜像 
engine: apulistech/pytorch-serving:{hashcode}
# 必填,中心推理API请求输入参数
# 示例 {inputs:[{"data":"imagebase64"}]}
#type可选值参考selector.yaml中 params_type 字段
input_params:
- name: data
type: array
required: true
desc: upload image data file
# 必填,中心推理API请求返回参数
# 示例 {outputs:[{"detection_scores":"[0.3,0,2]"},{"detection_boxes":"[[121,232,543,321],[21,23,43,53]]"},{"detection_classes":"[1,2]"}]}
output_params:
- name: detection_scores
type: array
desc: detection scores
- name: detection_boxes
type: array
desc: detection boxes
- name: detection_classes
type: array
desc: detection classes
#选填,模型可使用的设备信息,可多填
devices:
#必填,可选值参考selector.yaml中 device_type 字段
- type: huawei_npu
#选填,设备型号,gpu与cpu不需要填写该字段 ,填写该字段则进行型号筛选。多个型号使用逗号分割 目前参考值 | a310 | a910 | 910b | 910pro | 910prob
series: a910,910b,910pro,910prob
#选填,最少使用的设备卡数
device_num: 1
#选填,最少使用的CPU核心数,单位 个
cpu: 2
#选填,最少使用的内存大小,单位 GB
memory: 8
#选填,边缘推理
edge:
#必填,同中心推理framework
framework: TFLite
#必填,如填写,以infer文件夹为根目录,则可以使用用户上传的tflite模型进行推理
model_path: bert.tflite
#选填,模型推理精度 同中心推理precision
precision: int8
#必填,目前可选值 同中心推理format
format: tflite
#选填,模型推理验证输入输出
verify_command: python test_request.py
#选填,边缘推理镜像 
engine: apulistech/tensorflow-lite:{hashcode}
#选填,模型可使用的设备信息,可多填
devices:
#必填,可选值参考selector.yaml中 device_type 字段
- type: nvidia_gpu
#选填,设备型号目前可选值 gpu与cpu不需要填写该字段 目前参考值 | a310 | a910 | 910b | 910pro | 910prob
#选填,最少使用的设备卡数
device_num: 1
#选填,最少使用的CPU核心数,单位 个
cpu: 2
#选填,最少使用的内存大小,单位 GB
memory: 8
#必填,中心推理API请求输入参数
#示例 {inputs:[{"data":"imagebase64"}]}
#type可选值参考selector.yaml中 params_type 字段
input_params:
- name: data
type: array
required: true
desc: upload image data file
#必填,中心推理API请求返回参数
#示例 {outputs:[{"detection_scores":"[0.3,0,2]"},{"detection_boxes":"[[121,232,543,321],[21,23,43,53]]"},{"detection_classes":"[1,2]"}]}
#type可选值参考selector.yaml中 params_type 字段
output_params:
- name: detection_scores
type: array
desc: detection scores
- name: detection_boxes
type: array
desc: detection boxes
- name: detection_classes
type: array
desc: detection classes
1
https://gitee.com/apulisplatform/model-gallery.git
git@gitee.com:apulisplatform/model-gallery.git
apulisplatform
model-gallery
model-gallery
v1.6.0

搜索帮助