NVIDIA NIM 是英伟达推出的企业级 AI 推理微服务。它以容器化形式封装了优化后的 AI 大模型，开发者无需手动配置复杂的底层环境，真正实现开箱即用。开发者注册并完成手机号核验后，即可申领 nvapi- 开头的 API Key 调用大模型。注意所有免费模型不能商用，且每分钟请求上限为 40 次。
第一步：注册NVIDIA NIM帐号，在API Keys页面创建并复制API Key：
Tips：创建API Key务必立即复制并自行保存，一旦关闭窗口就不能再复制了。
第二步：在模型页面选择带“Free Endpoint”标识的模型，点击查看详细信息：
部分免费大模型model清单：
■ deepseek-ai/deepseek-v4-flash
■ deepseek-ai/deepseek-v4-pro
■ qwen/qwen3.5-122b-a10b
■ qwen/qwen3.5-397b-a17b
■ qwen/qwen3-next-80b-a3b-instruct
■ qwen/qwen3-coder-480b-a35b-instruct
■ moonshotai/kimi-k2.6
■ minimaxai/minimax-m2.7
第三步：在腾讯云Lighthouse部署Hermes Agent，打开应用管理页面填写模型信息：
provider: deepseek
base_url: https://integrate.api.nvidia.com/v1
api: /chat/completions
api_key: nvapi-xxxxxx
model.id: deepseek-ai/deepseek-v4-pro
model.name: 自定义运行效果：
相关链接
[1].NVIDIA NIM官网：https://build.nvidia.com/
评论（0）
暂无评论。