Build with AI Seoul 2026 세션 Build Your Own AI Office with Gemma 4를 위한 사전 준비 문서와 핸즈온 실습 코드 저장소입니다.
- 세션명:
Build Your Own AI Office with Gemma 4 - 세션 담당:
박제창 - 트랙:
Hands-On A - 진행 시간:
13:30 ~ 14:30 (60분) - 기준 확인일:
2026-05-03
이 저장소에는 행사 전에 자신의 운영체제와 장비 사양에 맞춰 로컬 Gemma 4 실행 환경을 미리 준비할 수 있도록 필요한 문서와, 당일 실습에서 사용할 workshop/ 코드가 들어 있습니다. 처음 준비한다면 LM Studio를 기준으로 따라오면 됩니다. 단, Intel Mac 사용자는 LM Studio 대신 Ollama 기준으로 준비하세요. 핸즈온 실습은 workshop/03_labs/README.md를 보면서 workshop/01_starter에서 진행하면 됩니다.
행사 전 준비는 아래 문서부터 보세요.
행사 당일 핸즈온은 아래 순서로 보면 됩니다.
- workshop/03_labs/README.md를 엽니다.
- workshop/01_starter 폴더에서 실습합니다.
- 막히면 workshop/02_final을 정답 코드로 참고합니다.
본인 상황에 맞게 아래 순서로 보면 됩니다.
| 내 상황 | 먼저 볼 문서 |
|---|---|
| 처음 준비하는 경우 | 01 -> 03 -> 05 -> 17 -> 19 |
| Windows를 쓰는 경우 | 02 -> 01 -> 05 -> 17 -> 19 |
| ChromeOS를 쓰는 경우 | 01 -> 03 -> 06 -> 19 |
| Apple Silicon Mac을 쓰는 경우 | 01 -> 03 -> 04 -> 05 -> 08 -> 17 |
| Intel Mac을 쓰는 경우 | 18 -> 06 -> 03 -> 17 -> 19 |
| 코딩 에이전트까지 해 보고 싶은 경우 | 09 -> 10 -> 11 -> 12 -> 13 -> 16 (필요 시) |
| Gemini CLI에서 Gemma 4 preview / Gemma 라우팅을 확인해 보고 싶은 경우 | 15 |
uv 또는 uvx를 미리 설치하고 싶은 경우 |
16 |
| 핸즈온 코드 수정을 위한 편집기를 준비하는 경우 | 17 |
| 자주 묻는 질문을 먼저 보고 싶은 경우 | 20 |
- 행사 당일에 처음 모델을 받기 시작하면 시간이 부족할 수 있습니다. 미리 받아 주세요.
- 가능하면
16GB 이상메모리 장비를 준비하세요. - 하나만 설치한다면 대부분의 환경에서는
LM Studio를 설치하세요. 단, Intel Mac과 ChromeOS는 Ollama를 기준으로 준비하세요. 8GB장비는E2B만 준비하세요. 실행 속도는 많이 느릴 수 있습니다.- 모델은 instruction-tuned / chat-ready 계열을 받으세요.
base나pretrained로 표시된 모델은 이번 기본 준비용으로 권장하지 않습니다. - 핸즈온에서
workshop/01_starter코드를 수정하므로Visual Studio Code또는Google Antigravity중 하나를 준비하세요. Hermes Agent와llama.cpp는 필수가 아닙니다. 터미널 사용에 익숙한 분만 추가로 준비하세요.uv는 로컬 LLM 실행 도구가 아니라 Python 기반 도구와 실행 환경을 관리하는 보조 도구입니다.Hermes Agent설치 중 문제가 날 때만 별도로 확인해도 됩니다.Gemini CLI Gemma도 필수 준비 항목은 아닙니다. preview에서는 Gemma 4 모델을 선택할 수 있지만,gemini gemma setup은 Gemma 3 기반 로컬 라우팅 설정으로 봐야 합니다.
메모리별 모델 추천:
| 메모리 | 권장 모델 |
|---|---|
| 8GB | E2B |
| 16GB | E4B |
| 32GB | E4B 또는 26B A4B |
| 36GB | 26B A4B 또는 31B |
모델 이름의 B는 Billion, 즉 10억 개를 뜻합니다.
26B는 대략 260억 개 파라미터를 가진 모델이라는 뜻이고, 31B는 대략 310억 개 파라미터를 가진 모델이라는 뜻입니다. 여기서 파라미터는 모델이 학습하면서 갖게 된 숫자 값이라고 보면 됩니다.
중요한 점은 B가 GB가 아니라는 것입니다.
26B는 "파일 크기가 26GB"라는 뜻이 아니라 "모델 안에 학습된 숫자가 약 260억 개"라는 뜻입니다. 실제 다운로드 크기와 메모리 사용량은 양자화 방식, 실행 도구, 컨텍스트 길이에 따라 달라집니다.
일반 사용자가 LM Studio나 Ollama에서 받는 로컬 실행용 모델은 보통 원본 BF16 가중치 그대로가 아니라 4-bit, 5-bit, 8-bit 등으로 양자화된 배포본입니다. 그래서 26B, 31B라는 이름과 다운로드 크기가 1:1로 대응하지 않습니다.
이번 핸즈온은 채팅, 질의응답, 로컬 에이전트 흐름이 중심입니다.
따라서 모델을 직접 고를 때는 -it, instruct, instruction-tuned, chat-ready 같은 설명이 붙은 항목을 우선하세요. base나 pretrained로 표시된 모델은 기본 준비용으로 받지 않는 편이 안전합니다.
26B A4B는 26B 규모 모델이지만, 답을 만들 때는 내부의 여러 "전문가" 부분 중 필요한 일부만 사용합니다. 이 방식을 MoE라고 부르며, A4B는 그때 실제로 계산되는 부분이 약 4B 규모라는 뜻입니다. 단, 전체 모델 파일은 메모리에 올라가므로 4B 모델처럼 가볍지는 않습니다.
- workshop/README.md: 워크샵 코드 폴더 안내
- workshop/03_labs/README.md: 단계별 핸즈온 문서
- workshop/01_starter: 직접 수정하며 시작하는 코드
- workshop/02_final: 전체 시나리오가 포함된 최종 완성 코드
- gemma4-local-setup-guide.md: 가장 먼저 볼 전체 안내 문서
- 하드웨어 / 운영체제 / 모델 선택 가이드
- Windows 빠른 준비 가이드
- 메모리 기준으로 Gemma 4 모델 고르는 방법
- GGUF, MLX, llama.cpp 개념 설명
- LM Studio 설치 가이드
- Ollama 설치 가이드
- llama.cpp 설치 가이드
- Apple Silicon + MLX 안내
- Gemma 4 벤치마크와 코딩 에이전트 기대치
- OpenCode 설치 및 LM Studio 연동 가이드
- Pi 경량 코딩 에이전트 대안과 이번 핸즈온 선택 이유
- Hermes Agent란 무엇인가
- Hermes Agent 설치 가이드
- Gemma 4 아키텍처 상세 정리
- Gemini CLI Gemma 4 Preview 및 Gemma 라우팅 사전 준비 가이드
- uv 설치 가이드
- 코드 편집기 설치 가이드: Visual Studio Code / Google Antigravity
- Intel Mac 사용자 사전 준비 가이드
- 트러블슈팅 / 최종 체크 / 참고 링크
- 자주 묻는 질문
.
├── gemma4-local-setup-guide.md
├── docs/
├── workshop/
│ ├── 01_starter/
│ ├── 02_final/
│ └── 03_labs/
├── scripts/
│ └── generate_hands_on_prep_pdf.py
├── output/
│ └── pdf/
│ └── gemma4-hands-on-prep-guide.pdf
└── tmp/
└── pdfs/
docs/: 세션 준비용 원본 마크다운 문서workshop/: 당일 핸즈온 실습 코드와 단계별 문서workshop/01_starter/: 시작 코드workshop/02_final/: 최종 완성 코드workshop/03_labs/: 단계별 실습 문서gemma4-local-setup-guide.md: 가장 먼저 볼 전체 안내 문서scripts/generate_hands_on_prep_pdf.py:docs/01-20을 하나의 PDF로 묶는 스크립트output/pdf/: 생성된 PDF 산출물tmp/pdfs/: PDF 미리보기 contact sheet 이미지
저장소에는 이미 생성된 PDF가 포함되어 있습니다.
문서를 수정한 뒤 PDF를 다시 만들려면 아래처럼 실행하면 됩니다.
python3 -m pip install reportlab pymupdf pillow
python3 scripts/generate_hands_on_prep_pdf.py출력 결과:
- PDF:
output/pdf/gemma4-hands-on-prep-guide.pdf - 미리보기 이미지:
tmp/pdfs/gemma4-hands-on-prep-contact-*.png
참고:
reportlab은 PDF 생성에 필요합니다.pymupdf,pillow는 페이지 수 계산 및 contact sheet 생성에 사용됩니다.- macOS에서는 로컬
Pretendard폰트가 있으면 우선 사용하고, 없으면 기본 대체 폰트로 동작합니다.
- 모델과 도구는 행사 당일 안정적으로 실행할 수 있는 조합을 우선합니다.
- 운영체제별 차이와 Windows의
PowerShell/WSL2구분을 확인해 주세요. OpenCode,Hermes Agent,llama.cpp는 필수가 아니며, 익숙한 분만 추가로 준비하면 됩니다.