TFServering和docker
2023-09-14 08:57:32 时间
nvidia-docker安装:https://github.com/NVIDIA/nvidia-docker
nvidia-docker的基本操作:https://blog.csdn.net/pandamax/article/details/79151107
TensorFlow Serving + Docker整体流程:https://zhuanlan.zhihu.com/p/52096200
更多例子:
https://zhuanlan.zhihu.com/p/64413178
https://zhuanlan.zhihu.com/p/58474810
https://github.com/pakrchen/text-antispam
keras模型转tfserving:
https://www.jianshu.com/p/91aae37f1da6
model端Dockfile的编写
FROM tensorflow/serving:1.13.0-gpu MAINTAINER XXX COPY model /models/model #docker build -t image_name . #NV_GPU=0 nvidia-docker run -p 8500:8500 -t image_name --model_config_file=/path/to/models.config modelfs.config主要保存模型的名称,路径,model_platform
tfserving warmup
其中tf2.0代码已经改为tf.io.TFRecordWriter
https://blog.csdn.net/hzhj2007/article/details/97679342
相关文章
- linux下如何使用docker二进制文件安装_docker离线安装
- docker 清理命令
- Docker详解(九)——Docker镜像发布
- 解决docker network create --subnet报错的问题:Error response from daemon: Pool overlaps with other one on th
- docker-compose安装mongodb
- 高效运维之Docker持续部署图文详解
- 【云原生 | 42】Docker快速部署高可靠性编程语言Erlang
- y20.第二章 Docker从入门到精通 -- Docker存储引擎和基础命令(二)
- 【云原生之Docker实战】使用Docker部署Mindoc文档管理平台
- docker 导出镜像并压缩、解压并导入镜像
- docker启动服务---------------nginx+php
- 如何控制docker的CPU和内存份额
- Docker Dockerfile 定制镜像