mar

[Project-ttrade] #1 Torchserve - k8s 다중 모델 Serve

TorchServe k8s에서 MLOps하면 Kubeflow가 대표적이죠. 그리고 Model Serving은 Kubeflow 안의 KServe 모듈이 유명하죠. 근데 무겁습니다. 다양한 종류의 모델과 서비스를 한번에 할 것이 아니라면 구성할 이유가 없습니다. 그래서 저에게 맞게 TorchServe를 사용해서 Docker Image를

• Full Story