Skip to content

02-windows-guide.md

Latest commit

 

History

History
242 lines (159 loc) · 6.73 KB

02-windows-guide.md

File metadata and controls

242 lines (159 loc) · 6.73 KB
Raw

Windows 빠른 준비 가이드

메인 안내로 돌아가기

이 문서는 누구를 위한 문서인가요?

  • Windows 노트북으로 이번 핸즈온에 참가하는 분
  • Apple Silicon Mac이 아니라 일반적인 Windows x64 또는 Windows ARM 장비를 쓰는 분
  • 어떤 도구를 설치해야 할지 빠르게 결정하고 싶은 분

먼저 결론

  • Windows에서는 LM Studio부터 준비하는 것이 가장 무난합니다.
  • CLI/API도 같이 써 보고 싶으면 Ollama를 추가로 설치하면 됩니다.
  • llama.cpp는 터미널 사용에 익숙한 경우에만 추가로 보면 됩니다.
  • Hermes Agent는 Windows 네이티브가 아니라 WSL2 안에서만 공식 지원이므로, 처음 준비할 때는 뒤로 미뤄도 됩니다.

즉 가장 현실적인 준비 순서는 아래입니다.

  1. 가장 쉬운 준비: LM Studio
  2. CLI까지 써 보고 싶은 경우: LM Studio + Ollama
  3. Hermes까지 해 보고 싶은 경우: LM Studio 또는 llama.cpp + WSL2 안의 Hermes

어떤 도구를 설치하면 되나요?

방법 A: 가장 쉬운 준비

설치:

  • LM Studio

이런 경우에 적합합니다:

  • GUI가 편한 분
  • 로컬 모델을 한 번 실행해 보는 것이 우선인 분
  • 핸즈온 현장에서 가장 안정적인 방법을 원하는 분

방법 B: LM Studio + CLI/API

설치:

  • LM Studio
  • Ollama

이런 경우에 적합합니다:

  • GUI와 터미널 둘 다 써 보고 싶은 분
  • 나중에 로컬 API를 붙여 보고 싶은 분
  • 발표 도중 CLI 예시도 따라가 보고 싶은 분

방법 C: 고급 에이전트 실습

설치:

  • LM Studio 또는 llama.cpp
  • WSL2
  • Hermes Agent는 WSL2 안에 설치

이런 경우에 적합합니다:

  • Hermes + Gemma 4 AI office 데모를 직접 해 보고 싶은 분
  • 로컬 OpenAI 호환 서버에 에이전트를 연결해 보고 싶은 분

추천 조합

목표 추천 조합 비고
가장 쉽게 준비 LM Studio 먼저 이것부터 준비
GUI + CLI 둘 다 LM Studio + Ollama 가장 무난한 추가 준비
직접 서버 띄우기 llama.cpp 터미널에 익숙할 때만
Hermes까지 실습 LM Studio 또는 llama.cpp + WSL2 + Hermes 시간이 충분할 때만

메모리 기준 추천

메모리 추천 모델 권장 도구
8GB E2B만 시도 LM Studio 우선
16GB E4B LM Studio 우선, 필요하면 Ollama 추가
32GB E4B 또는 26B A4B LM Studio, Ollama, llama.cpp 선택 가능
36GB+ 26B A4B 또는 31B Hermes나 llama.cpp도 고려 가능

중요:

  • 8GB Windows 노트북은 가능한 경우 다른 장비를 권장합니다.
  • 16GB가 가장 무난한 최소 기준에 가깝습니다.
  • 라이브 데모용으로는 32GB 이상이 훨씬 여유롭습니다.

Windows에서 가장 먼저 해야 할 일

1. 쉬운 준비부터 끝내기

먼저 아래 중 하나 이상을 반드시 끝내세요.

  • LM Studio 설치 + Gemma 4 실행 성공
  • Ollama 설치 + ollama run gemma4:e2b 성공
  • llama.cpp 설치 + llama-server 실행 성공

2. 모델도 미리 받아 두기

행사 당일에 모델을 처음 다운로드하지 않는 것이 중요합니다.

권장:

  • 8GB: E2B
  • 16GB: E4B
  • 32GB+: E4B 또는 26B A4B

3. Hermes는 나중에

Windows에서는 Hermes를 가장 먼저 설치하기보다:

  1. 모델이 실제로 한 번 도는지 먼저 확인
  2. 그다음 필요하면 WSL2 + Hermes로 확장

이 순서가 훨씬 안전합니다.

WSL2는 꼭 필요한가요?

  • LM Studio: 필요 없음
  • Ollama: 필요 없음
  • llama.cpp: 필요 없음
  • Hermes Agent: 필요함

즉 Windows에서 WSL2는 Hermes를 쓸 때만 필수라고 이해하면 됩니다.

WSL2 설치는 PowerShell 관리자 권한으로 아래처럼 시작하면 됩니다.

wsl --install -d Ubuntu

설치가 멈추면:

wsl --install --web-download -d Ubuntu

설치 후 상태 확인:

wsl --status
wsl --list --verbose

Windows + Hermes 권장 아키텍처

Windows에서 Hermes까지 하고 싶다면 가장 안전한 조합은 아래입니다.

Windows native:
  LM Studio or llama.cpp server

WSL2:
  Hermes Agent

즉:

  1. Windows에서 모델 서버 실행
  2. WSL2 안에서 Hermes 실행
  3. Hermes가 http://127.0.0.1:PORT/v1 또는 host endpoint에 연결

이 방식이 좋은 이유:

  • WSL2 안에서 대용량 모델을 다시 받지 않아도 됨
  • Windows GPU/GUI 앱 활용이 쉬움
  • Hermes는 공식 지원 방식인 WSL2 안에서 돌릴 수 있음

설치 우선순위

기본 준비

  1. LM Studio 설치 가이드
  2. 트러블슈팅 / 최종 체크 / 참고 링크

CLI도 해 보고 싶은 경우

  1. LM Studio 설치 가이드
  2. Ollama 설치 가이드
  3. 트러블슈팅 / 최종 체크 / 참고 링크

Hermes까지 해 보고 싶은 경우

  1. LM Studio 설치 가이드 또는 llama.cpp 설치 가이드
  2. PowerShell 관리자 권한으로 WSL2 준비
wsl --install -d Ubuntu
  1. Ubuntu 실행
wsl -d Ubuntu
  1. Hermes Agent란 무엇인가
  2. Hermes Agent 설치 가이드

절대 행사 당일에 처음 하면 안 되는 것

  • WSL2 첫 설치
  • 큰 모델 첫 다운로드
  • Hermes + WSL2 + local server를 한 번도 테스트하지 않은 상태로 준비
  • 8GB 노트북에서 큰 모델을 현장에서 바로 시도

행사 전 최종 체크리스트

아래 중 자신이 선택한 준비 방식에 맞는 항목만 확인하면 됩니다.

LM Studio 준비

  • 앱 설치 완료
  • Gemma 4 다운로드 완료
  • Chat 탭에서 1회 응답 생성 성공

Ollama 준비

  • ollama --version
  • ollama pull gemma4:e2b 또는 ollama pull gemma4:e4b
  • ollama run gemma4:e2b 또는 ollama run gemma4:e4b

llama.cpp 준비

  • llama-cli --version
  • llama-server --version
  • llama-server 또는 llama-cli로 1회 실행 성공
  • 필요하면 Invoke-RestMethod http://127.0.0.1:8080/v1/models 확인

Hermes 준비

  • WSL2 설치 완료
  • PowerShell에서 wsl --status 확인
  • WSL2 터미널에서 hermes version
  • hermes doctor
  • 로컬 서버 주소 연결 1회 성공

권장 한 줄 요약

  • 대부분의 경우: LM Studio만 준비해도 충분
  • 조금 더 해 보고 싶으면: Ollama 추가
  • AI office / agents까지 직접 하려면: WSL2 + Hermes까지 추가 준비