소개
이 종합 가이드는 Windows 11이 설치된 Beelink 미니 PC에서 Gemma 4 모델을 사용하여 Open WebUI를 설정하는 과정을 단계별로 안내합니다. 이 튜토리얼을 마치면 컴퓨터에서 완전히 오프라인으로 실행되는 완벽한 기능을 갖춘 로컬 AI 채팅 인터페이스를 사용할 수 있게 됩니다.이 설정이 필요한 이유
이 구성은 Open WebUI의 장점과 Gemma 4의 지능을 결합하여 강력하고 개인정보 보호에 중점을 둔 AI 환경을 제공합니다. Open WebUI는 마크다운 지원, 코드 강조 표시, 체계적인 기록 기능을 갖춘 바로 사용할 수 있는 채팅 인터페이스를 제공하는 동시에 여러 Ollama 모델을 관리하는 통합 포털 역할을 합니다. 또한 모델 사용자 지정, 검색 증강 생성, 로컬 파일 업로드, 지식 기반 생성과 같은 고급 기능을 지원하여 개인 및 팀 용도 모두에 적합합니다. 다중 사용자 지원, 역할 기반 접근 제어, 안전한 오프라인 배포를 통해 데이터 개인정보를 침해하지 않고 협업을 보장합니다. Gemma 4를 선택하면 이러한 경험이 더욱 향상됩니다. Gemma 4의 고급 추론, 효율성 및 멀티모달 기능은 텍스트, 코드, 오디오, 비전 및 복잡한 작업을 원활하게 처리할 수 있도록 해주어 Open WebUI와 완벽하게 조화를 이루는 매우 지능적인 모델로서, 다재다능하고 안전하며 고성능의 AI 애플리케이션을 구현할 수 있습니다.
단계별 설치 가이드
1단계: Ollama를 설치합니다.
Ollama는 AI 모델을 실행하는 백엔드 서비스입니다.
1.1 올라마 다운로드
- Ollama 공식 다운로드 페이지를 방문하세요: https://ollama.com/download/windows
- 다운로드하세요 OllamaSetup.exe 설치 프로그램
1.2 Ollama 설치
- 다운로드한 설치 파일(설치 프로그램)을 두 번 클릭하고 화면의 지시에 따라 설치를 완료하십시오.
- Ollama는 설치 후 자동으로 백그라운드에서 실행됩니다(작업 표시줄에 흰색 라마 아이콘이 나타나는지 확인하여 확인할 수 있습니다).
2단계: Gemma 4 모델 다운로드 및 실행
시작하기 전에 최상의 성능을 위해 Beelink 미니 PC의 하드웨어에 맞는 Gemma 4 모델을 선택하는 것을 강력히 권장합니다.
| 프로세서 | 총 RAM | LLM 추천 |
| AMD 라이젠 7 7735U/7735HS 인텔 코어 i5-1235U 인텔 코어 i5-13500H | >=24GB | 젬마-4-E2B |
| 인텔 코어 울트라 9 185H/285H AMD 라이젠 7 8745HS/8845HS AMD 라이젠 7 H 255 AMD 라이젠 7 260 | >=24GB | 젬마-4-E4B |
| AMD 라이젠 AI 맥스+ 395 | >=32GB | 젬마-4-26B-MOE |
2.1 명령 프롬프트 열기
- 키보드에서 Win + R 키를 누르고 cmd를 입력한 다음 Enter 키를 누르세요.
2.2 Gemma 4 다운로드
- 명령 프롬프트에서 다음 명령을 입력하십시오.
올라마 런 젬마4:e2b
올라마 런 젬마4:e4b
올라마 런 젬마4:26b - Ollama가 Gemma 4 모델을 미니 PC에 다운로드합니다(다소 시간이 걸릴 수 있습니다). 다운로드가 완료되면 다음 메시지가 표시됩니다. >>> 모델이 준비되었음을 나타내는 메시지입니다.
- 이제 명령 프롬프트나 Ollama 앱에서 Gemma 4와 직접 채팅할 수 있습니다. 다중 모드 LLM인 Gemma 4는 텍스트뿐만 아니라 PDF, 이미지, 오디오 파일도 프롬프트에 지원합니다.최신 Ollama 앱은 이미 강력하고 직관적이지만, Gemma 4를 Open WebUI와 결합하면 더욱 뛰어난 기능을 활용할 수 있습니다.
3단계: Docker를 사용하여 Open WebUI 설치
3.1 Docker Desktop 설치
- Docker Desktop for Windows는 다음에서 다운로드할 수 있습니다. https://www.docker.com/products/docker-desktop/
- 설치 프로그램을 실행하고 안내에 따라 진행하세요.
-라이선스 약관에 동의합니다
-설치 과정에서 메시지가 표시되면 WSL 2를 활성화하도록 허용하세요.
-설치 프로그램이 자동으로 완료되도록 두십시오.
- 설치가 완료되면 미니 PC를 재시작하십시오.
- 재시작 후 Docker Desktop을 실행하고, 로그인하라는 메시지가 나타나면 건너뛰세요(기본 사용에는 필요하지 않음).
- "WSL 업데이트 필요" 메시지가 표시되면 해당 명령어를 복사하기만 하면 됩니다. wsl --업데이트 명령 프롬프트에 해당 명령어를 붙여넣고 Enter 키를 누른 후 업데이트가 완료될 때까지 기다리세요.
- 업데이트가 완료되면 Docker Desktop이 완전히 시작되고 왼쪽에 사이드바가 표시됩니다(아래 이미지 참조).
3.2 Open WebUI 배포
- 명령 프롬프트를 다시 여세요
- 이 명령어를 복사하여 붙여넣고 Enter 키를 누르세요.
docker run -d -p 4000:8080 --add-host=host.docker.internal: host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
이 명령은 Open WebUI 이미지를 다운로드하고 컨테이너로 실행합니다. 프로세스가 완료될 때까지 잠시 기다려 주십시오.
4단계: Open WebUI에서 Gemma 4 사용 시작하기
- 웹 브라우저(크롬, 엣지 또는 파이어폭스)를 열고 다음 주소로 이동하세요. http://localhost:4000
- 원하는 자격 증명으로 관리자 계정을 생성하세요(이 계정은 로컬 계정이므로 인터넷 연결이 필요하지 않습니다).
- 로그인 후 ChatGPT와 유사한 인터페이스가 표시됩니다. 모델 드롭다운 메뉴에서 Gemma 4를 선택하고 로컬 AI 비서와 채팅을 시작하세요.
- 더 나아가세요: Open WebUI Workspace에서는 사용자 지정 모델을 구축하고, 지식 기반을 생성하고, RAG(Retrieval-Augmented Generation)를 활용하여 자체 데이터를 안전하게 처리하고 구성할 수 있습니다.
결론
축하합니다! 이제 Beelink 미니 PC에서 강력한 로컬 AI 환경을 구축하셨습니다. Open WebUI와 Gemma 4를 사용하면 문서 처리, 코딩 지원, 연구 등 다양한 작업을 처리할 수 있는 개인 정보 보호에 중점을 둔 오프라인 지원 AI 도우미를 이용할 수 있습니다.
이러한 설정을 통해 클라우드 서비스에 의존하지 않고 AI 환경을 완벽하게 제어할 수 있으며, 데이터가 로컬 컴퓨터에서 비공개로 안전하게 유지됩니다.
문제 해결 팁
일반적인 문제점 및 해결책:
1. Docker Desktop이 완전히 시작되지 않습니다
- Windows Subsystem for Linux(WSL2)가 활성화되어 있는지 확인하십시오.
- Docker Desktop 설치 후 Beelink 미니 PC를 재시작하십시오.
2. Open WebUI에 Gemma 4가 나타나지 않습니다.
- Ollama가 백그라운드에서 실행 중인지 확인하십시오.
- Open WebUI 컨테이너를 다시 시작하세요.
- Ollama에 Gemma 4 모델이 제대로 다운로드되었는지 확인하십시오.
3. 항만 분쟁
- 4000번 포트가 사용 가능한지 확인하십시오.
- 필요한 경우 Docker 명령에서 포트 매핑을 변경하십시오.
