NVIDIA NIM：跑通第一次 API 调用Make your first NVIDIA NIM API call

调用 NVIDIA API Catalog Free Endpoint

api

EndpointEndpoint

https://integrate.api.nvidia.com/v1

认证Authentication

Authorization: Bearer NVIDIA API key

前置条件Prerequisites

• NVIDIA accountNVIDIA account
• Free NVIDIA Developer ProgramFree NVIDIA Developer Program
• NVIDIA API KeyNVIDIA API Key

操作步骤Steps

1. 筛选 Free Endpoint

   打开 build.nvidia.com/models，使用 Free Endpoint 过滤器确认目标模型仍为免费云端 endpoint。

2. 生成 API Key

   登录后在目标模型 Integrate 页面或账户设置生成 API Key。

3. 复制当前集成代码

   直接复制目标模型页面给出的 endpoint / model ID / SDK 示例，避免手工猜测不同 NIM 的路径。

4. 小流量验证

   先发最小请求并观察 429 / rate-limit 响应；开发者免费层的限流会动态变化。

5. Python SDK 示例

   安装 OpenAI SDK；在运行环境设置 NVIDIA_API_KEY，示例代码通过环境变量读取密钥。

   可复制命令Copyable command复制命令Copy command

   python -m pip install -U openai
   
   import os
   from openai import OpenAI
   
   client = OpenAI(
       api_key=os.environ["NVIDIA_API_KEY"],
       base_url="https://integrate.api.nvidia.com/v1",
   )
   response = client.chat.completions.create(
       model="openai/gpt-oss-20b",
       messages=[{"role": "user", "content": "用一句话解释 API 是什么。"}],
       max_tokens=256,
   )
   print(response.choices[0].message.content)

   预期结果Expected：终端打印模型生成的回复；再到提供商控制台确认请求状态和额度扣减。

6. Node.js SDK 示例

   安装 OpenAI SDK；在运行环境设置 NVIDIA_API_KEY，示例代码通过环境变量读取密钥。

   可复制命令Copyable command复制命令Copy command

   npm install openai
   
   import OpenAI from "openai";
   
   const client = new OpenAI({
     apiKey: process.env.NVIDIA_API_KEY,
     baseURL: "https://integrate.api.nvidia.com/v1",
   });
   const response = await client.chat.completions.create({
     model: "openai/gpt-oss-20b",
     messages: [{ role: "user", content: "用一句话解释 API 是什么。" }],
     max_tokens: 256,
   });
   console.log(response.choices[0].message.content);

   预期结果Expected：Node.js 打印模型生成的回复；再到提供商控制台确认请求状态和额度扣减。

官方来源Official sources

• https://build.nvidia.com/models ↗
• https://docs.api.nvidia.com/nim/docs/product ↗
• https://docs.api.nvidia.com/nim/re/docs/api-quickstart ↗
• https://docs.api.nvidia.com/nim/reference/llm-apis ↗