腾讯云Lighthouse部署Hermes Agent接入NVIDIA NIM模型图解



NVIDIA NIM 是英伟达推出的企业级 AI 推理微服务。它以容器化形式封装了优化后的 AI 大模型,开发者无需手动配置复杂的底层环境,真正实现开箱即用。开发者注册并完成手机号核验后,即可申领 nvapi- 开头的 API Key 调用大模型。注意所有免费模型不能商用,且每分钟请求上限为 40 次。

第一步:注册NVIDIA NIM帐号,在API Keys页面创建并复制API Key:



Tips:创建API Key务必立即复制并自行保存,一旦关闭窗口就不能再复制了。

第二步:在模型页面选择带“Free Endpoint”标识的模型,点击查看详细信息:





部分免费大模型model清单:

引用内容 引用内容
■ deepseek-ai/deepseek-v4-flash
■ deepseek-ai/deepseek-v4-pro
■ qwen/qwen3.5-122b-a10b
■ qwen/qwen3.5-397b-a17b
■ qwen/qwen3-next-80b-a3b-instruct
■ qwen/qwen3-coder-480b-a35b-instruct
■ moonshotai/kimi-k2.6
■ minimaxai/minimax-m2.7

第三步:在腾讯云Lighthouse部署Hermes Agent,打开应用管理页面填写模型信息:



provider: deepseek
base_url: https://integrate.api.nvidia.com/v1
api: /chat/completions
api_key: nvapi-xxxxxx
model.id: deepseek-ai/deepseek-v4-pro
model.name: 自定义

运行效果:



相关链接

[1].NVIDIA NIM官网:https://build.nvidia.com/

评论: 0 | 引用: 0 | 查看次数: 305
发表评论
登录后再发表评论!