로컬 AI 환경
구축 가이드

이제 내 Windows PC에서 로컬 AI를 직접 실행하세요.

로컬 AI 환경이란?

ChatGPT, Gemini와 같은 AI 웹 서비스에 접속하지 않고
내 PC에 AI 모델을 설치해 직접 실행하는 환경입니다.

Hermes AI Agent 환경 구축하기

PC에 AI모델을 실행한 뒤 Hermes Agent와 연결해
다양한 작업을 수행할 수 있는 환경을 만드는 단계입니다.

STEP 1

LM Studio 공식 사이트(https://lmstudio.ai)에서 Windows용 설치 파일(.exe)을 다운로드한 뒤 실행해 설치합니다.

STEP 2

LM Studio를 처음 실행하면 AI 모델 추천 화면이 나타나는데, 화면 하단의 [Skip for now]를 클릭해 다음 단계로 이동해서 [Continue to LM Studio →] 눌러 시작합니다.

STEP 3

현재 Local Server에 연결된 모델이 없습니다.
① 아이콘을 클릭해 모델 선택창을 연 뒤,
② Gemma 4 12B QAT를 선택하고
③ [Download]를 눌러 다운로드합니다.

STEP 4

우측 상단 [+ Load Model]을 클릭한 뒤, 다운로드한 Gemma 4 12B QAT 모델을 선택합니다. 모델이 로드되면 Local Server에서 사용할 준비가 완료됩니다.

STEP 5

우측 Context Length를 8192에서 65536으로 변경 후 [Reload to apply changes]를 눌러 적용합니다.

Context Length는 AI가 한 번의 작업에서 함께 읽고 기억할 수 있는 글의 양입니다.

STEP 6

[Serve on Local Network] 토글을 활성화한 뒤,
LocalServer 상단의 [Status] 토글을 켜 Running 상태로 변경합니다.

[Reachable at]에 표시되는 주소는 STEP 9에서 Hermes와 연결할 때 사용하므로 기억해 주세요.

STEP 7

Hermes Agent 공식 사이트( https://hermes-agent.nousresearch.com/ )에서 [Download for Windows]를 클릭해 설치 파일을 다운로드합니다.

STEP 8

HERMES IS READY 화면이 표시되면
[Launch Hermes]를 클릭해 Hermes Agent를 실행합니다.

STEP 9

Hermes 우측 상단의 설정 아이콘을 클릭 후 [Providers] > [API Keys] 메뉴로 이동합니다.
LM Studio 항목에 아래 정보를 입력한 뒤 [Save]를 클릭합니다.

⑴ LM Studio Key: lm-studio

⑵ LM Studiobase URL override:
LM StudioLocal Server에 표시된 주소 + '/v1'

예: http://192.168.xxx.xxx:1234/v1 (STEP 6 확인)

저장하면 Hermes가 LM StudioLocal Server와 연결됩니다.

STEP 10

Hermes 하단의 모델 선택 메뉴에서 LM Studio에 연결한 Gemma 4 12B QAT 모델을 선택합니다. 모델명이 표시되면 Hermes와 LM Studio 연결이 완료되어 로컬 AI Agent 환경 구축이 완료됩니다.

Hermes AI Agent 활용해 볼까요?

Hermes AI Agent 활용해보기

1. 문서 요약하기

내 PC에 있는 문서 이름을 입력하고원하는 작업을 함께 요청합니다.
Hermes가 해당 문서를 찾아 읽은 뒤, 요청한 방식으로 요약하거나 번역해줍니다.

예) "회의록.docx를 3줄로 요약해줘", "영문 매뉴얼.pdf를 한국어로 번역해줘"

Hermes AI Agent 활용해보기

2. 브라우저 열기

원하는 웹사이트 이름이나 주소를 입력하면 Hermes가 브라우저를 열어 해당 사이트로 이동합니다.

예) "크롬 브라우저에서 컴퓨존 쇼핑몰 열어줘"

AI 이미지 생성 환경 구축하기

내 PC에 AI 이미지 생성 모델을 실행하고원하는 이미지를 만드는 단계입니다.

STEP 1

Comfy 공식 사이트(https://comfy.org/download)에서 [DOWNLOAD DESKTOP] 버튼을 눌러 설치 파일(.exe)을 다운로드한 뒤 실행해 설치합니다.

STEP 2

다운로드한 설치 파일을 실행한 뒤, 설치 방식 선택 화면에서 [Local]을 선택하고 [Continue]를 클릭해 내 PC에 설치를 진행합니다.

STEP 3

별도 설정 없이 설치가 진행되며 ComfyUI 설치 완료 후 실행 화면에서 [ComfyUI]를 클릭하면 이미지 생성 환경을 사용할 수 있습니다.

ComfyUI 활용해 볼까요?

ComfyUI 활용해보기

원하는 이미지 생성하기

템플릿 메뉴에서 원하는 콘셉트의 템플릿을 선택합니다.

Text to Image 입력창에 만들고 싶은 이미지를 문장으로 입력한 뒤, [실행] 버튼을 누르면 이미지를 생성할 수 있습니다.

이제 PC에서 AI를 직접 실행하세요.

로컬 AI 구축 전 알아두면 좋아요