작성자: webmaster

Try NVIDIA NIM APIs

NVIDIA가 제공하는 공식 호스팅 API(https://integrate.api.nvidia.com/v1)를 바로 사용할 수 있습니다.

1. https://build.nvidia.com/nvidia/nemotron-3-ultra-550b-a55b 페이지로 이동합니다.
2. NVIDIA 계정으로 로그인하세요 (없으면 회원가입).
3. 페이지에서 “Generate API Key” 버튼을 클릭합니다.
4. API 키가 생성되면 복사하세요. (환경 변수로 $NVIDIA_API_KEY처럼 사용)

5. Open WebUI에 NVIDIA API 추가 방법

   1. Open WebUI에 관리자(Admin) 권한으로 로그인하세요.
   2. Settings (설정) → Connections (또는 API Connections) 로 이동.
   3. OpenAI API 섹션에서 + (추가) 버튼 클릭.
   4. 아래처럼 입력:
      • Base URL: https://integrate.api.nvidia.com/v1
      • API Key: NVIDIA에서 발급받은 $NVIDIA_API_KEY (build.nvidia.com에서 생성한 키)
      • Name (선택): NVIDIA Nemotron 같은 이름으로 구분
   5. 저장 후, 채팅 화면에서 모델 목록을 새로고침하면 nvidia/nemotron-3-ultra-550b-a55b 모델이 나타납니다.

   주의사항

   • NVIDIA의 hosted API는 사용량 제한이 있을 수 있어요 (무료 티어 기준).
   • Reasoning 기능(생각 과정 표시)을 쓰려면 요청 시 extra_body에 옵션을 추가해야 할 수 있지만, Open WebUI 기본 채팅에서는 대부분 잘 동작합니다.
   • 모델 이름은 정확히 nvidia/nemotron-3-ultra-550b-a55b로 선택하세요.

   이 방법으로 대부분의 사용자들이 NVIDIA 모델들을 Open WebUI에서 편하게 쓰고 있어요.