使用pdserving-pipeline模式,在docker中部署启动后,使用pipeline_http_client.py发送请求测试了200张照片,查看PipelineServingLogs/pipeline.tracer日志,QPS只有1.X,最高不过4、5这样,与文档中所说的23相差甚远。
测试服务器显卡为T4。测试过程中查看显卡占用较低,是否有部分配置项需要调整?或者与测试方式有关?
登录 后才可以发表评论