What is Open WebUI used for?

Open WebUI is a self-hosted interface for large language models. It lets you chat with local or cloud models, build RAG workflows with your documents, and manage prompts and teams in one place.

How do I use Open WebUI with Ollama?

Install Ollama, pull a model like `llama3` or `mistral`, and then point Open WebUI’s Ollama connection to `http://localhost:11434`. You can set a default model and start chatting locally with full privacy.

Can Open WebUI do RAG with my PDFs and notes?

Yes. Create a knowledge base, upload documents, generate embeddings, and enable retrieval in chat. The model will cite and summarize from your own sources for grounded answers.

Is Open WebUI secure for teams?

You can enforce sign-in, manage API keys by role, and set rate limits. For production, use HTTPS behind a reverse proxy and restrict which providers or endpoints are allowed.

Should I use local or cloud models in Open WebUI?

Use local models for privacy, speed, and cost control; use cloud models for complex tasks requiring higher quality. Many teams combine both and set chat-specific defaults.

Open WebUI 사용법: 더 빠른 AI 워크플로우를 위한 친절한 단계별 가이드

ChatGPT에 사용자 정의가 가능하고 자체 호스팅되는 쌍둥이가 있어 자신의 모델과 데이터에 연결할 수 있기를 바란 적이 있다면, Open WebUI가 바로 그것입니다. 로컬 또는 원격 대규모 언어 모델(LLM)과 채팅하고, 프롬프트를 관리하고, RAG(검색 증강 생성) 워크플로우를 구축하고, 팀원과 협업할 수 있는 최신 경량 인터페이스입니다. 이 모든 것이 브라우저에서 가능합니다.

이 실용적이고 솔루션 중심적인 가이드에서는 Open WebUI를 처음부터 끝까지 사용하는 방법을 안내합니다. 설정 옵션, Ollama 또는 API 연결, 모델 관리, 검색 흐름 구축, 인스턴스 보안 및 몇 가지 전문가 팁을 다룹니다. 끝까지 마치면 자체 조건에 따라 강력한 AI 워크플로우를 빠르게 실행할 수 있습니다.

Open WebUI란 무엇이며 왜 사용해야 할까요?

Open WebUI는 LLM을 위한 자체 호스팅 가능한 웹 인터페이스입니다. AI 상호 작용을 위한 명령 센터라고 생각하세요. 자체 모델(로컬 또는 클라우드)을 가져오고, 재사용 가능한 프롬프트를 만들고, 문서를 추가하고, 깔끔하고 직관적인 UI를 통해 협업하세요. 특히 제어, 확장성 및 속도를 원하는 개발자, 데이터 팀 및 개인 정보 보호를 중시하는 사용자에게 인기가 있습니다.

사람들이 Open WebUI를 선택하는 주요 이유:

데이터 소유: 로컬 또는 서버에서 실행합니다.

유연한 백엔드: Ollama와 같은 로컬 엔진 또는 API를 통해 원격 공급자에 연결합니다.

워크플로우 준비: RAG, 도구, 임베딩 및 구조화된 프롬프트.

관리자 제어: API 키 관리, 인증 및 환경 구성.

가장 빠른 시작 방법: Docker 빠른 시작

Docker에 익숙하다면 몇 분 안에 시작하고 실행할 수 있습니다.

이미지 가져오기

docker pull ghcr.io/open-webui/open-webui:main

컨테이너 실행

docker run -d --name open-webui -p 3000:8080 ghcr.io/open-webui/open-webui:main

브라우저를 열고 다음 주소로 이동하세요.

UI에 접속하여 관리자 계정을 만들면 모델을 연결할 준비가 완료됩니다.

팁: 영구 저장소 및 환경 변수(예: API 키 제한 및 인증)의 경우 docker-compose.yml로 전환하여 볼륨을 마운트하고 구성을 깔끔하게 정의할 수 있습니다.

모델 연결: 로컬(Ollama) 또는 클라우드 API

Open WebUI는 백엔드에 구애받지 않습니다. 다음을 수행할 수 있습니다.

Ollama를 사용하여 로컬에서 모델(예: Llama 3, Phi‑3, Mistral)을 실행합니다. 이는 개인 정보 보호 및 오프라인 작업에 좋습니다.

API 키를 통해 OpenAI, Anthropic, Google 등과 같은 클라우드 API를 사용합니다.

옵션 A: Ollama를 로컬에서 사용

Ollama 설치(macOS, Linux, Windows)

설치하려면 `로 방문하세요.

Ollama로 모델 가져오기

ollama pull llama3

필요에 따라 llama3를 mistral, phi3 또는 llama3:instruct와 같은 모델로 바꿀 수 있습니다.

Open WebUI 시작

Open WebUI가 Ollama의 로컬 엔드포인트(일반적으로 `)에 연결할 수 있는지 확인하세요.

Open WebUI에서 관리 설정 → 연결 → Ollama로 이동하세요.

엔드포인트를 추가하고, 기본 모델을 선택하고, 연결을 테스트하세요.

이제 브라우저에서 직접 로컬 모델과 채팅할 수 있습니다.

옵션 B: API 키를 통해 클라우드 공급자 사용

관리 설정 → 공급자(또는 API/키)에서

OpenAI, Anthropic 또는 Google에 대한 키를 추가하세요.

공급자별로 기본 모델을 선택하세요.

예: gpt-4o-mini(OpenAI), claude‑3‑haiku(Anthropic) 또는 gemini‑1.5‑flash(Google).

제한 설정

팀 설정에 따라 속도 제한, 사용 범위 또는 사용자별 키를 적용합니다.

이러한 하이브리드 접근 방식(로컬 + 클라우드)은 일반적입니다. 로컬 모델에서 빠른 초안을 작성한 다음 필요에 따라 클라우드 모델로 개선합니다.

첫 번째 채팅: 프롬프트, 모드 및 첨부 파일

모델이 연결되면 새 채팅을 시작합니다. 몇 가지 기본 사항:

프롬프트 템플릿: "당신은 제 Python 튜터입니다. 예제와 테스트를 사용하여 설명해주세요."와 같이 자주 사용하는 지침(시스템 프롬프트)을 저장합니다.

모드: 시스템 프롬프트 또는 온도를 조정하여 창의적, 간결 또는 기술적 스타일 간에 전환합니다.

첨부 파일: 모델이 참조할 수 있도록 파일(PDF, TXT, CSV)을 업로드합니다. 크거나 반복적인 코퍼스의 경우 임베딩으로 지식 베이스를 만듭니다(아래 RAG 참조).

전문가 팁: 프로젝트별로 채팅을 정리합니다. #docs, #code 또는 #analysis와 같은 태그를 사용하여 나중에 빠르게 찾을 수 있도록 합니다.

몇 분 만에 RAG 구축: 지식, 임베딩 및 검색

RAG(검색 증강 생성)를 사용하면 모델이 콘텐츠(문서, 메모, 정책, 코드)로 질문에 답변할 수 있습니다. 이를 구성하는 방법은 다음과 같습니다.

지식 베이스(KB) 만들기

사이드바에서 새 KB 또는 "컬렉션"을 만드세요.

문서 업로드: PDF, 마크다운, HTML 또는 텍스트 파일.

임베딩 생성

임베딩 백엔드를 선택합니다(임베딩 모델이 있는 경우 Ollama를 통해 로컬로, 또는 API를 통해 클라우드 공급자를 통해).

문서를 인덱싱합니다. 더 큰 세트는 몇 분 정도 걸릴 수 있습니다.

채팅에서 검색 활성화

채팅에서 검색을 전환하고 KB를 선택합니다.

"온보딩 정책을 요약하고 실행 항목을 나열하세요." 또는 "보안 정책에서 어떤 예외를 허용합니까?"와 같은 질문을 하세요.

반복

소스 검사, 문서 개선, 청크 크기 조정 및 답변이 잘못된 것 같으면 다시 임베딩합니다.

전문가 팁: 정확성을 위해 별도의 KB를 유지 관리합니다(예: "마케팅 자료", "법적 정책", "런북"). 이렇게 하면 관련 없는 검색이 줄어듭니다.

액션, 도구 및 워크플로우

Open WebUI는 도구 기반 상호 작용을 지원하므로 모델이 채팅뿐만 아니라 "작업을 수행"할 수 있습니다. 설정에 따라 다음을 수행할 수 있습니다.

정의한 함수/도구 호출(예: 스크립트 실행, URL 가져오기, 데이터베이스 쿼리).

시스템 프롬프트 워크플로우 사용하여 다단계 작업을 구성합니다.

배포에서 지원하는 경우 플러그인/확장 프로그램 추가.

예: "콘텐츠 요약" 워크플로우

1단계: 모델에 주제에서 키워드를 추출하도록 요청합니다.

2단계: 웹 도구(활성화된 경우)를 통해 조사하고 소스를 요약합니다.

3단계: 개요 + 제목 변형 초안 작성.

4단계: 짧은/긴 버전 만들기.

팀이 한 번의 클릭으로 실행할 수 있도록 이러한 단계를 재사용 가능한 템플릿에 저장합니다.

전문가처럼 모델 관리

여러 기본값: 작업 공간별 또는 채팅별 기본값을 설정합니다(예: 브레인스토밍에는 빠른 로컬, 최종 복사본에는 정확한 클라우드).

모델 카드: 각 모델이 가장 잘하는 작업을 문서화합니다. "코드에는 Llama 3를 사용하고, 간결한 요약에는 Mistral을 사용하세요."

배치 작업: QA 검사, 번역 또는 태그 지정과 같은 반복 가능한 작업에 더 긴 시스템 프롬프트와 구조화된 출력(JSON, 체크리스트)을 사용합니다.

관리 설정: 보안 및 거버넌스

팀을 위해 자체 호스팅하는 경우 몇 분 동안 인스턴스를 강화하고 관리하세요.

인증: 로그인 필요. 사용 가능한 경우 SSO/OIDC를 활성화합니다.

API 키 정책: 사용할 수 있는 공급자를 제한하고, 사용자/역할별로 키 범위를 지정하고, 적절한 경우 이기성을 제한합니다.

환경 변수: 모델 엔드포인트 URL, 임베딩 백엔드 및 환경 설정을 통해 키 제한과 같은 항목을 구성합니다.

속도 제한 및 할당량: 사용자별 또는 작업 공간별 제한으로 폭주 비용을 방지합니다.

감사 가능성: 팀이 채팅에 레이블을 지정하고 요약을 저장하여 결정을 추적할 수 있도록 장려합니다.

개발 팁: HTTPS를 사용하여 역방향 프록시(예: Nginx/Caddy) 뒤에 Open WebUI를 배치하고 허용된 출처를 설정합니다.

팀 협업 및 지식 위생

공유 프롬프트 및 KB: 큐레이트된 프롬프트 라이브러리 및 지식 베이스를 만듭니다. 유지 관리자를 지정합니다.

콘텐츠 버전 관리: 정책 문서 또는 사양의 경우 소스를 Git 또는 문서 허브에 저장하고 업데이트되면 다시 임베딩합니다.

소스 우선 답변: 사용자가 인용문을 클릭하고 원본 문서를 스캔하도록 장려합니다. 신뢰하되 확인하세요.

일상적인 사용 사례(다음 복사)

콘텐츠 및 마케팅

브리핑을 세 가지 대상별 초안으로 전환합니다.

SEO 개요, FAQ 및 제목을 생성합니다.

엔지니어링

함수를 설명하고 엣지 케이스 테스트를 생성합니다.

PR을 요약하고 릴리스 노트를 생성합니다.

운영 및 지원

런북 및 SOP에서 KB를 구축합니다.

자신의 어조/스타일 가이드를 사용하여 응답 초안을 작성합니다.

연구 및 전략

10개의 문서를 인용문이 있는 1페이지로 요약합니다.

구조화된 매트릭스를 사용하여 공급업체를 비교합니다.

문제 해결: 빠른 수정

"Ollama에 연결할 수 없음"

Ollama가 실행 중인지 확인: `curl

컨테이너에서 호스트로의 네트워크 액세스를 확인합니다.

"모델을 찾을 수 없음"

Ollama를 통해 모델 가져오기: ollama pull mistral

클라우드의 경우 정확한 모델 이름과 권한을 확인합니다.

"RAG 결과가 관련성이 없어 보입니다."

더 나은 임베딩 모델로 다시 임베딩합니다.

청크 크기(예: 500–1,000 토큰)와 겹침을 조정합니다.

KB를 더 작고 주제별 컬렉션으로 분할합니다.

"비용 급증"

속도 제한을 설정하고 초안 작성 시 로컬 모델을 기본값으로 설정합니다.

성능 팁 및 고급 이동

아이디어 구상에는 더 작은 로컬 모델을 사용하고, 최종화에는 더 큰/클라우드 모델을 사용합니다.

가능한 경우 자주 사용하는 프롬프트와 응답을 캐시합니다.

다운스트림 자동화를 위해 구조화된 출력(JSON, 글머리 기호 체크리스트)을 채택합니다.

민감한 데이터의 경우 모든 항목을 로컬로 유지합니다(Ollama + 로컬 임베딩 + 온프레미스 스토리지).

시스템 프롬프트를 사용하여 어조, 서식 및 가드레일을 정의합니다.

주목할 가치: Open WebUI와 Sider.AI 페어링

많은 콘텐츠 또는 연구를 제작하는 경우 워크플로우 도우미가 도움이 될 수 있습니다. 주목할 가치: Sider.AI는 긴 형식 작업의 초안 작성, 요약 및 구성을 지원합니다. Open WebUI에서 아이디어를 구상하거나 컨텍스트를 검색한 다음 Sider.AI의 편집기 스타일 지원을 사용하여 기사를 다듬고, 재구성하고, SEO에 맞게 최적화하여 게시할 수 있습니다. 자체 호스팅 채팅 + RAG) 제어와 속도(협업 편집 및 최적화)를 모두 원하는 경우 유용한 페어링입니다.

간단한 시작 청사진

Docker를 통해 Open WebUI를 실행합니다.

Ollama를 설치하고 llama3 및 mistral을 가져옵니다.

Open WebUI를 에 연결하고mistral`을 채팅 기본값으로 설정합니다.

KB 만들기: 정책, 마케팅, 런북; 강력한 임베딩 모델로 임베딩합니다.

세 가지 프롬프트 템플릿 저장: "글머리 기호가 있는 요약기", "SEO 개요 생성기" 및 "릴리스 노트 작성기".

속도 제한을 추가하고 로그인을 요구합니다.

이 설정을 사용하면 대부분의 팀이 일상적인 AI 작업의 80%를 처리할 수 있습니다.

주요 내용

Open WebUI는 로컬 및 클라우드 LLM으로 작업할 수 있는 깔끔하고 제어 가능한 UI를 제공합니다.

개인 정보 보호 및 속도를 위해 Ollama와 로컬로 페어링하고 필요할 때 클라우드 모델을 혼합합니다.

RAG를 사용하여 문서에서 답변을 찾고 KB를 작고 집중적으로 유지합니다.

인증, 키 정책 및 속도 제한으로 인스턴스를 보호합니다.

팀의 작업이 일관되고 자동화될 수 있도록 프롬프트와 출력을 표준화합니다.

다음 단계

Docker로 Open WebUI를 스핀업하고 Ollama에 연결합니다.

첫 번째 지식 베이스를 만들고 검색 지원 채팅을 시도합니다.

팀이 매일 재사용할 세 가지 프롬프트 템플릿을 저장합니다.

콘텐츠를 게시하는 경우 초안을 Sider.AI를 통해 전달하여 게시하기 전에 어조, 구조 및 SEO를 개선합니다.

FAQ

Q1:Open WebUI는 무엇에 사용되나요? Open WebUI는 대규모 언어 모델을 위한 자체 호스팅 인터페이스입니다. 로컬 또는 클라우드 모델과 채팅하고, 문서로 RAG 워크플로우를 구축하고, 한 곳에서 프롬프트와 팀을 관리할 수 있습니다.

Q2:Ollama에서 Open WebUI를 어떻게 사용하나요? Ollama를 설치하고 llama3 또는 mistral과 같은 모델을 가져온 다음 Open WebUI의 Ollama 연결을 http://localhost:11434로 지정합니다. 기본 모델을 설정하고 완전한 개인 정보 보호로 로컬에서 채팅을 시작할 수 있습니다.

Q3:Open WebUI는 PDF 및 메모로 RAG를 수행할 수 있나요? 예. 지식 베이스를 만들고, 문서를 업로드하고, 임베딩을 생성하고, 채팅에서 검색을 활성화합니다. 모델은 근거 있는 답변을 위해 자신의 출처에서 인용하고 요약합니다.

Q4:Open WebUI는 팀에 안전한가요? 로그인을 적용하고, 역할별로 API 키를 관리하고, 속도 제한을 설정할 수 있습니다. 프로덕션의 경우 역방향 프록시 뒤에서 HTTPS를 사용하고 허용되는 공급자 또는 엔드포인트를 제한합니다.

Q5:Open WebUI에서 로컬 또는 클라우드 모델을 사용해야 하나요? 개인 정보 보호, 속도 및 비용 관리를 위해 로컬 모델을 사용하고, 더 높은 품질이 필요한 복잡한 작업에는 클라우드 모델을 사용합니다. 많은 팀이 둘 다 결합하고 채팅별 기본값을 설정합니다.