统一入口,接入多种模型
使用统一 API 调用站点开放的模型,减少重复配置,沿用熟悉的开发方式。
面向开发者的多模型 API 网关。沿用 OpenAI SDK 的接入方式,为不同应用管理 API Key、额度与调用用量。
一个 API 入口连接多种模型,为不同应用集中管理密钥、额度和调用用量。
使用统一 API 调用站点开放的模型,减少重复配置,沿用熟悉的开发方式。
为不同应用创建独立 API Key,并按账号配置管理访问范围与可用额度。
查看调用记录与 Token 用量,了解资源消耗,为应用调优提供依据。
配置站点提供的 API 地址和密钥,选择当前可用模型,即可从熟悉的 SDK 调用方式开始接入。
import os
from openai import OpenAI
# 使用站点提供的 API 地址、密钥和可用模型
client = OpenAI(
base_url=os.environ["API_BASE_URL"],
api_key=os.environ["API_KEY"],
)
response = client.chat.completions.create(
model=os.environ["MODEL_NAME"],
messages=[{"role": "user", "content": "Hello!"}],
)
print(response.choices[0].message.content)
import OpenAI from "openai";
const client = new OpenAI({
baseURL: process.env.API_BASE_URL,
apiKey: process.env.API_KEY,
});
const response = await client.chat.completions.create({
model: process.env.MODEL_NAME,
messages: [{ role: "user", content: "Hello!" }],
});
console.log(response.choices[0].message.content);
curl "$API_BASE_URL/chat/completions" \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"MODEL_NAME","messages":[{"role":"user","content":"Hello!"}]}'
进入控制台并登录,在 API 密钥页面创建密钥。按照站点提供的 API 地址和可用模型配置客户端,即可开始调用。
支持 OpenAI 兼容接口的应用通常只需配置 API 地址、密钥和模型名称。不同模型的参数与功能可能不同,具体请以对应接入说明为准。
登录控制台后,查看当前账号可用的模型和分组,并在用量记录中了解调用消耗。可用范围取决于站点配置与账号权限。
进入控制台创建 API Key,按站点说明配置并开始调用。
进入控制台