MartLLM과 함께하는 Open WebUI: 하나의 연결로 모든 모델
Open WebUI에서 Settings › Admin › Connections로 이동하여, URL https://api.martllm.com/v1,, Bearer auth 및 MartLLM key를 사용하여 OpenAI API 연결을 추가하고, API Type은 Chat Completions로 유지한 다음, 확인하고 저장하세요. 새 Docker 설치의 경우, 대신 OPENAI_API_BASE_URL과 OPENAI_API_KEY를 전달하세요.
단계 (기존 설치)
- 여러분의 키 페이지에서 키를 만들고 크레딧을 추가하세요.
- 관리자로 Open WebUI에 로그인하여 Settings › Admin › Connections로 이동하세요.
- Manage OpenAI API Connections 아래에서 + Add Connection을 클릭하세요.
- 다음 정보를 입력하세요:
- 연결 유형: 외부
- URL:
https://api.martllm.com/v1 - 인증: Bearer
- API Key: 여러분의
ull_…키 - API 유형: Chat Completions
- Verify Connection을 클릭한 다음, Save를 클릭하세요.
- 새로운 채팅을 시작하세요. 이제 모델 선택기에 MartLLM의 모델들이 표시됩니다.
단계 (새 Docker 설치)
docker run -d -p 3000:8080 \
-e OPENAI_API_BASE_URL=https://api.martllm.com/v1 \
-e OPENAI_API_KEY=ull_your_key \
-v open-webui:/app/backend/data \
--name open-webui --restart always \
ghcr.io/open-webui/open-webui:main
이 변수들은 Open WebUI가 처음 시작될 때만 적용됩니다. 그 후에는 데이터베이스에 저장된 값이 우선합니다. 따라서 이미 실행된 설치에서는 위 화면을 사용하세요 (또는 RESET_CONFIG_ON_START=true로 한 번 시작하세요).
현재 OpenAI 연결을 유지하고 그 옆에 MartLLM을 추가하려면, 항목 사이에 세미콜론을 사용하여 복수형 변수를 사용하세요:
-e OPENAI_API_BASE_URLS="https://api.openai.com/v1;https://api.martllm.com/v1" \
-e OPENAI_API_KEYS="sk-your-openai-key;ull_your_key"
깔끔한 모델 목록
MartLLM에는 수백 개의 모델이 있습니다. 연결 설정의 고급 옵션 아래에 있는 두 가지 설정으로 모델 선택기를 간결하게 유지할 수 있습니다:
- Model IDs: 원하는 ID만 나열하세요. 예를 들어
deepseek/deepseek-v4.1-flash및google/gemini-3.5-flash과 같이요. 그러면 Open WebUI에 해당 모델만 표시됩니다. - Prefix ID:
uberllm와 같은 단어가 모든 모델 이름(uberllm.deepseek/deepseek-v4.1-flash) 앞에 추가되어, 다른 연결의 모델과 구별할 수 있습니다. 요청이 전송되기 전에 제거됩니다.
문제 해결
- 인증 실패: URL이
/v1으로 끝나고 그 뒤에 아무것도 없는지, 그리고 키에 공백이 없는지 확인하세요. - 모델 목록이 느리게 로드되거나 비어 있음: Open WebUI는 기본적으로 목록에 10초를 할당합니다. 전체 목록을 가져오는 것을 멈추도록 Model IDs 아래에 ID를 추가하거나
AIOHTTP_CLIENT_TIMEOUT_MODEL_LIST을(를) 늘리세요. - Docker 변수를 변경했지만 아무 일도 일어나지 않음: 위의 첫 시작 노트를 참조하세요.
- 402 크레딧 부족: 크레딧 페이지에서 크레딧을 추가하세요.
- 자체 nginx 뒤에서 텍스트가 버스트로 도착함: Open WebUI에 대한 프록시 버퍼링을 끄세요.
- 문서 및 웹 검색: Open WebUI는 기본적으로 자체 로컬 모델로 임베딩을 생성하며, 이것이 여러분이 원하는 것입니다. MartLLM은 임베딩을 제공하지 않습니다.
계속 읽기
- 참조 페이지: Open WebUI 문서
- LibreChat 설정
- 실시간 가격으로 모든 모델