저렴한 k-GPU 클라우드-엘리스클라우드

엘리스클라우드의 GPU 서버에 대해 알아보자.

마작에서 가장 어려운 것이 같이 마작을 칠 사람을 구하는 것이라고 한다.

LLM이 대세인 지금 LLM으로 이것저것 해보고 싶은데 충분한 GPU서버가 확보 되지 않아서 많은 어려움이 존재하고 있다.

AWS, GCP는 꽤 비싸고, 대안으로 RunPod을 사람들이 많이 사용하고 있지만, RunPod의 경우 국내에 서버가 없어서 상당히 느리다.

이에 대한 대안으로 엘리스클라우드를 소개한다. 제공하는 GPU와 가격을 보면 다음과 같은데,

A100기준으로 VRAM 80GB가 1시간마다 2,000원, VRAM 40GB가 1시간마다 1,380원 인걸 보면 상당히 저렴한것을 알 수 있다. 그럼 이제 엘리스클라우드에 대해 하나씩 알아보자.

서버 생성

Step 1.

우선 다음의 링크에 들어가주자. 엘리스에서 제공하는 클라우드로 넘어가게 된다.

https://elice.io/ko/products/cloud

이 링크를 클릭하게 되면 다음의 화면을 볼 수 있는데, 여기서

‘무료로 시작하기’ 버튼 클릭
기관 정보 입력 및 기관 생성 버튼 클릭

Step 2.

기관을 생성 했으면 내기관 > 바로가기 버튼을 클릭해주자.

Step 3.

이후에 우측상단을 보면 무료 크레딧 받기 > 결제 수단 등록을 해주자.

처음에 결제 수단 등록 시 최대 20시간 상당의 크레딧이 제공 되니 꼭 사용해보자.

Step 4.

결제수단을 등록하고 다시 ‘내 기관-바로가기’ 페이지로 넘어가면 다음과 같은 인스턴스 대시보드를 볼 수 있다. 여기서 ‘인스턴스 생성’ 버튼을 클릭해주자.

그러면 다음의 GPU서버를 보게 될텐데 이중에서 G-NAHPM-40을 선택 해주자. A100 의 VRAM 80GB 를 분할하여 VRAM 40GB로 제공한다. 이 서버에 대한 설명은 다음과 같다.

G-NAHPM-40
- GPU: A100 80GB PCIe MIG 3g-40GB
- VRAM: 40GB
- CPU: 8 vCore
- 메모리: 96 GiB
- 가격: 1,380원/시간
- A100의 MIG(Multi-Instance GPU) 기능을 활용하여 일부 자원을 분할한 인스턴스

Step 5.

서버를 클릭했으면 아래로 내려와서 실행환경을 선택 해주자. 가장 익숙한게 VSCode와 Jupyter가 있는데, Jupyter로 선택 해주자. VSCode를 선택 하지 않는 이유는 VS code-server 기반이라 각각이 원하는 IDE extension을 맞출수 없을뿐더러, 요즘엔 cursor ai, windsurf 등등 여러 AI기반 IDE가 있기 때문이다. IDE는 간편하게 Jupyter로 선택 해주고 ssh로 접근 하는게 오히려 편리하다.