May 20, 2025

[Project-ttrade] #2 Torchserve - Python 사용법

[Project-ttrade] #2  Torchserve - Python 사용법

이전 포스트에서 구성했던 TorchServe를 Python에서 사용하는 방법을 알아봅니다.
어짜피 data를 json으로 만들어 요청을 보낼 뿐이기에 언어가 다르더라도 비슷할 것으로 보입니다.

메인 구조

url = http://torchseve.url:8080/predictions/model1
data_bytes = data.tobytes()
headers = {"Content-Type":"application/octet-stream"}
response = requests.post(url,data=data_bytes,headers=headers)
result = np.array(response.json())

torchserve에 구성된 model1 에 요청을 보냅니다. data는 numpy array입니다.

Comments