Changhwan Lim

61 posts
GitHub LinkedIn Steam RSS
[Home-K8S] #9  Talos - Disk & Partition (v1.10+)

[Home-K8S] #9 Talos - Disk & Partition (v1.10+)

ssh 를 통한 원격 접속도 안되고, kubelet이 namespace로 분리되어 있기 때문에 폴더 하나 만드는 일에도 yaml 파일을 수정해서 apply 를 해줘야 합니다. Host Path 생성 (extraMounts) root 파일 시스템에 폴더를 만들고 kubelet namespace에서

[Home-K8S] #8  k8s 전용 OS Talos linux

[Home-K8S] #8 k8s 전용 OS Talos linux

k8s에 관해서 gpt랑 얘기를 하고 있다가 talos linux 라는 OS를 알게 되었습니다. 단 50MB 에 29개의 바이너리 파일을 가진 엄청 경량화된 OS 이고, Yaml 과 API를 이용해서 관리를 한다는 점이 매우 매력적으로 들렸습니다.

[여행] 삿포로 #4 - 삿포로 시내

[여행] 삿포로 #4 - 삿포로 시내

니조 시장 4번째 날은 아침을 먹기 위해 일찍 일어났습니다. 사실 그동안 계속 먹으려고 했는데, 눈이 안떠지더라구요. 마지막 날은 꼭 아침을 먹기 위해 니조 시장으로 갔습니다. 유명한 조식 맛집을 추천받아서 나가모리에 가봤는데, 7시 반에

[Home-K8S] #7  k8s 업그레이드

[Home-K8S] #7 k8s 업그레이드

k8s는 4개월 마다 새 릴리즈가 나옵니다. https://kubernetes.io/ko/releases/ 제가 홈랩에 설치되어있는 k8s 버전은 1.31.7 버전입니다. 저는 홈랩도 그렇고 게임용 데스크탑도 그렇고 포멧을 자주해서 업그레이드를 한 적은 없고 항상

[AI] sLLM을 위한 모델 서빙

[AI] sLLM을 위한 모델 서빙

sLLM 모델 서빙 개인이 LLM을 서빙하는 것은 비용이 매우 많이 듭니다. 뭐 느려도 사용만 하겠다고 CPU로 연산하면 사용 가능하겠지만, 그것도 쉽진 않죠. Deepseek-R1이 처음 나왔을 때 누가 맥미니를 최대 메모리로 6대(64GB x

[AI] sLLM을 위한 모델 경량화

[AI] sLLM을 위한 모델 경량화

sLLM (smaller Large Language Model) 수백억~수천억개의 매개변수를 가지는 LLM과 달리, 수백만~수십억개의 적은 매개변수를 가지는 LLM. 모델의 크기가 작아, 컴퓨팅 리소스가 적어도 사용할 수 있습니다. 컴퓨팅이 적고 에너지 소모도 적어 모바일, 노트북