大模型API接口使用文档摘要本文档详细介绍如何调用大模型 API 接口不依赖额外的环境包括获取可用模型列表、使用 curl 或 Python OpenAI 库进行问答测试、常见错误排查以及 Postman 测试方法。文档涵盖无 API Key 和有 API Key 两种场景帮助业主快速上手。常见步骤首先是否ping通网络查看提供大模型接口是否存在api-key根据api-key不同情况,调用不同的方法目录大模型API接口使用文档接口基本信息前提条件一、获取可用模型列表(如果有模型名称跳过该步骤)情况 1无 API Key接口未启用认证使用 curl 获取使用 Python OpenAI 接口获取情况 2有 API Key接口已启用认证使用 curl 获取使用 Python OpenAI 接口获取预期输出示例二、使用代码测试, qwen3\.5 模型进行问答情况 1无 API Key接口未启用认证使用 curl 进行问答使用 Python OpenAI 接口进行问答情况 2有 API Key接口已启用认证使用 curl 进行问答使用 Python OpenAI 接口进行问答三、常见错误及解决方法1. 网页解析失败 / 不支持的网页类型2. 模型不存在3. 认证失败4. 连接失败四、使用postman进行测试获取模型名称根据上图获取的大模型名称(Qwen3.5-397B-A17B-w8a8-mtp) 进行测试接口基本信息根据提供的大模型API接口,推断出基础地址,一般常用的api接口如下所示基础地址http://127.0.0.1:31476/xxxxx/v1聊天补全接口http://127.0.0.1:31476/xxxxxx/v1/chat/completions模型列表接口http://127.0.0.1:31476/xxxxxxx/v1/models兼容标准OpenAI API 规范示例模型qwen3.5通义千问 3.5前提条件确保网络可以访问大模型地址已安装 curl 工具用于命令行测试可选已安装 Python 3.7 和 openai 库pip install openai一、获取可用模型列表(如果有模型名称跳过该步骤)重要提示模型名称不能从 URL 中推断必须通过/v1/models接口获取。情况 1无 API Key接口未启用认证使用 curl 获取curlhttp://127.0.0.1:31476/v1/models使用 Python OpenAI 接口获取fromopenaiimportOpenAI# 初始化客户端无API KeyclientOpenAI(base_urlhttp://127.0.0.1:31476/v1,api_keydummy_key# 即使不需要认证也需要填写任意非空字符串)# 获取模型列表modelsclient.models.list()# 打印所有可用模型print(可用模型列表)formodelinmodels.data:print(f-{model.id})情况 2有 API Key接口已启用认证使用 curl 获取curlhttp://127.0.0.1:31476/v1/models\-HAuthorization: Bearer YOUR_API_KEY使用 Python OpenAI 接口获取fromopenaiimportOpenAI# 初始化客户端有API KeyclientOpenAI(base_urlhttp://127.0.0.1:31476/v1,api_keyYOUR_API_KEY# 替换为实际的API Key)# 获取模型列表modelsclient.models.list()# 打印所有可用模型print(可用模型列表)formodelinmodels.data:print(f-{model.id})预期输出示例可用模型列表 - qwen3.5 - qwen3.5-72b - qwen3.5-14b - qwen3.5-7b二、使用代码测试, qwen3.5 模型进行问答一般需要修改api-key和model名称情况 1无 API Key接口未启用认证使用 curl 进行问答curlhttp://127.0.0.1:31476/v1/chat/completions\-HContent-Type: application/json\-d{ model: qwen3.5, messages: [ { role: user, content: 你好请介绍一下自己 } ], temperature: 0.7, max_tokens: 1000 }使用 Python OpenAI 接口进行问答fromopenaiimportOpenAI# 初始化客户端无API KeyclientOpenAI(base_urlhttp://127.0.0.1:31476/v1,api_keydummy_key# 即使不需要认证也需要填写任意非空字符串)# 发送聊天请求responseclient.chat.completions.create(modelqwen3.5,messages[{role:user,content:你好请介绍一下自己}],temperature0.7,max_tokens1000)# 打印响应结果print(模型回复)print(response.choices[0].message.content)流式输出demofromopenaiimportOpenAI clientOpenAI(base_urlhttp://127.0.0.1:31476/v1,api_keydummy_key)# 开启流式输出streamclient.chat.completions.create(modelqwen35_27b,messages[{role:user,content:你是谁?}],temperature0.8,extra_body{enable_thinking:True},streamTrue)print(AI(需要等待一段时间): ,end,flushTrue)forchunkinstream:# 跳过空内容块ifchunk.choicesandchunk.choices[0].delta.content:print(chunk.choices[0].delta.content,end,flushTrue)# print(chunk)print(\n)情况 2有 API Key接口已启用认证使用 curl 进行问答curlhttp://127.0.0.1:31476/v1/chat/completions\-HContent-Type: application/json\-HAuthorization: Bearer YOUR_API_KEY\-d{ model: qwen3.5, messages: [ { role: user, content: 你好请介绍一下自己 } ], temperature: 0.7, max_tokens: 1000 }使用 Python OpenAI 接口进行问答fromopenaiimportOpenAI# 初始化客户端有API KeyclientOpenAI(base_urlhttp://127.0.0.1:31476/v1,api_keyYOUR_API_KEY# 替换为实际的API Key)# 发送聊天请求responseclient.chat.completions.create(modelqwen3.5,messages[{role:user,content:你好请介绍一下自己}],temperature0.7,max_tokens1000)# 打印响应结果print(模型回复)print(response.choices[0].message.content)三、常见错误及解决方法1. 网页解析失败 / 不支持的网页类型错误信息“网页解析失败可能是不支持的网页类型请检查网页或稍后重试”原因直接在浏览器中访问 API 接口地址浏览器无法解析 JSON 响应解决方法使用 curl 命令、Postman 或 Python 代码等工具访问不要直接在浏览器中打开2. 模型不存在错误信息“The modelxxxdoes not exist”原因使用了错误的模型名称解决方法通过/v1/models接口获取正确的模型名称3. 认证失败错误信息“Invalid API Key” 或 “Unauthorized或者Token is missing”原因API Key 错误或接口需要认证但未提供解决方法检查 API Key 是否正确或联系管理员获取有效的 API Key4. 连接失败错误信息“Connection refused” 或 “无法连接到服务器”原因网络不通或服务未启动解决方法检查网络是否可以访问目标网络和端口联系管理员确认服务是否正常运行四、使用postman进行测试一种方法可以在postman点击import 根据curl命令导入到postman中直接测试访问第二种方法如图获取模型名称根据上图获取的大模型名称(Qwen3.5-397B-A17B-w8a8-mtp) 进行测试