AI 网关：三行代码切换客户端

前提条件：安装您首选的 SDK

在发起请求之前，请确保你的开发环境已安装适当的 SDK。由于我们的接口遵循 openai compatible api 标准，你可以使用官方库或任何兼容的客户端。对于 Python，请运行 pip install openai。对于 Node.js，请使用 npm install openai。除了你将在下一步设置的环境变量外，无需其他配置文件。

步骤 1：配置基础 URL 和 API 密钥

我们的 ai gateway 接口运行在独立的 Base URL 上。你需要从仪表板获取 API 密钥，并将 SDK 客户端配置为指向 https://api.openaigatewayapi.com/v1。这确保所有请求绕过标准 OpenAI 基础设施，直接路由到我们的无审查模型服务器。你无需更改模型名称；只需设置 Base URL 并提供密钥即可。

步骤 2：发送标准聊天补全请求

配置好客户端后，你可以发送标准的聊天补全请求。模型 ID 为 uncensored。此请求演示了基本的文本输入、文本输出功能。系统将处理你的提示词并返回补全结果，且不会应用大型提供商通常使用的内容过滤器，除非内容涉及未成年人且为性内容。使用以下命令验证连接。

步骤 3：启用服务器发送事件 (SSE) 流式输出

为了降低延迟并提升用户体验，请通过设置 stream=true 启用流式输出。该接口支持服务器发送事件 (SSE)，允许您在生成 token 时接收它们。这对于长文本生成或交互式应用特别有用。响应流将发出部分数据块，直到补全完成，提供实时反馈，无需等待整个上下文窗口处理完毕。

步骤 4：使用函数调用进行工具集成

该接口支持工具调用，允许您定义函数并让模型决定何时调用它们。这通过将外部 API 或数据源直接集成到 LLM 逻辑中，实现复杂的工作流。在 tools 参数中定义您的工具，模型将在适当时返回结构化的 JSON 输出。此功能与标准 OpenAI 格式完全相同，使得在不重写工具集成逻辑的情况下轻松更换提供商。

步骤 5：处理错误和速率限制

监控 API 密钥使用情况并优雅地处理潜在错误。如果密钥无效，你将收到 401 错误。如果预付额度耗尽，402 错误表示你需要充值。系统对每个密钥实施每分钟 300 次请求的限制；超出此限制将触发 429 速率限制错误。此外，将请求体保持在 8 MB 以下以避免被拒绝。上下文窗口支持提示词和补全 token 总数最多 100,000 个。

cURL

复制curl https://api.openaigatewayapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Python

复制from openai import OpenAI

client = OpenAI(base_url="https://api.openaigatewayapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

复制import OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaigatewayapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

流式输出

复制stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)