NVIDIA가 제공하는 공식 호스팅 API(https://integrate.api.nvidia.com/v1)를 바로 사용할 수 있습니다.
- https://build.nvidia.com/nvidia/nemotron-3-ultra-550b-a55b 페이지로 이동합니다.
- NVIDIA 계정으로 로그인하세요 (없으면 회원가입).
- 페이지에서 “Generate API Key” 버튼을 클릭합니다.
- API 키가 생성되면 복사하세요. (환경 변수로 $NVIDIA_API_KEY처럼 사용)
-
Open WebUI에 NVIDIA API 추가 방법
- Open WebUI에 관리자(Admin) 권한으로 로그인하세요.
- Settings (설정) → Connections (또는 API Connections) 로 이동.
- OpenAI API 섹션에서 + (추가) 버튼 클릭.
- 아래처럼 입력:
- Base URL: https://integrate.api.nvidia.com/v1
- API Key: NVIDIA에서 발급받은 $NVIDIA_API_KEY (build.nvidia.com에서 생성한 키)
- Name (선택): NVIDIA Nemotron 같은 이름으로 구분
- 저장 후, 채팅 화면에서 모델 목록을 새로고침하면 nvidia/nemotron-3-ultra-550b-a55b 모델이 나타납니다.
주의사항
- NVIDIA의 hosted API는 사용량 제한이 있을 수 있어요 (무료 티어 기준).
- Reasoning 기능(생각 과정 표시)을 쓰려면 요청 시 extra_body에 옵션을 추가해야 할 수 있지만, Open WebUI 기본 채팅에서는 대부분 잘 동작합니다.
- 모델 이름은 정확히 nvidia/nemotron-3-ultra-550b-a55b로 선택하세요.
이 방법으로 대부분의 사용자들이 NVIDIA 모델들을 Open WebUI에서 편하게 쓰고 있어요.