모델 실행

GPU VRAM이란 무엇인가?

작성자:

1. 한 줄 요약 GPU VRAM은 그래픽카드 안에 있는 전용 메모리로, AI 모델을 실행할 때 모델 데이터와 계산 중간 결과를 올려두는 공간입니다. 2. 쉽게 설명하면? VRAM은 AI 모델을 올려놓는 작업 책상과 비슷합니다. 책상이 넓을수록 큰 자료를 펼쳐놓고 작업하기 쉽습니다. VRAM이 부족하면 큰 모델을 실행하기 어렵거나 속도가 느려질 수 있습니다. 3. 기술적으로는 무슨 뜻인가? GPU는 대량의 … 더 읽기

Ollama 설치 방법

작성자:

1. 한 줄 요약 Ollama는 로컬 PC에서 언어 모델을 실행할 수 있게 도와주는 도구이며, 운영체제별 설치 파일이나 명령어로 설치할 수 있습니다. 2. 쉽게 설명하면? Ollama는 내 컴퓨터에서 AI 모델을 직접 실행할 수 있게 해주는 실행 도구입니다. 클라우드 서비스에 매번 접속하지 않아도 로컬 환경에서 모델을 내려받고 실행할 수 있습니다. 3. 설치 전 준비사항 항목 설명 운영체제 … 더 읽기