AI 閘道：三行程式碼切換客戶端

先決條件：安裝您偏好的 SDK

在發出請求之前，請確保你的開發環境已安裝適當的 SDK。由於我們的端點遵循 OpenAI 相容 API 標準，你可以使用官方函式庫或任何相容的用戶端。對於 Python，請執行 pip install openai。對於 Node.js，請使用 npm install openai。除了你在下一步設定的環境變數外，無需其他設定檔。

步驟 1：設定基礎 URL 與 API 金鑰

我們的 AI 閘道器 端點運作於不同的基礎 URL。你需要從儀表板取得 API 金鑰，並將 SDK 用戶端設定指向 https://api.openaigatewayapi.com/v1。這可確保所有請求繞過標準 OpenAI 基礎設施，直接路由至我們的無審查模型伺服器。你無需更改模型名稱；只需設定基礎 URL 並提供金鑰即可。

步驟 2：發送標準聊天補全請求

客戶端設定完成後，您可以發送標準的聊天補全請求。模型 ID 為 uncensored。此請求展示了基本的文字輸入、文字輸出功能。系統將處理您的提示詞並返回補全內容，且不會套用大型供應商通常使用的內容篩選器（除非內容涉及未成年人的性相關內容）。使用以下指令來驗證連線。

步驟 3：啟用伺服器發送事件串流輸出

為了降低延遲並提升使用者體驗，請透過設定 stream=true 來啟用串流輸出。該端點支援伺服器發送事件（SSE），允許您在 token 生成時接收它們。這對於長篇生成或互動式應用程式特別有用。回應串流將發出部分區塊，直到補全完成，提供即時回饋，無需等待整個上下文視窗處理完畢。

步驟 4：使用函式呼叫進行工具整合

該端點支援工具呼叫，允許您定義函式並讓模型決定何時呼叫它們。這透過將外部 API 或資料來源直接整合至您的 LLM 邏輯中，實現複雜的工作流程。在 tools 參數中定義您的工具，模型將在適當時返回結構化的 JSON 輸出。此功能與標準 OpenAI 格式完全相同，使得在不重寫工具整合邏輯的情況下輕鬆切換供應商。

步驟 5：處理錯誤與速率限制

監控您的 API 金鑰使用情況並優雅地處理潛在錯誤。如果金鑰無效，您將收到 401 錯誤。如果您的預付額度已耗盡，402 錯誤表示您需要儲值。系統對每個金鑰實施每分鐘 300 次請求的限制；超過此限制將觸發 429 速率限制錯誤。此外，請將請求主體保持在 8 MB 以下以避免被拒絕。上下文視窗支援最多 100,000 個 token，包含提示詞與補全內容。

cURL

複製curl https://api.openaigatewayapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Python

複製from openai import OpenAI

client = OpenAI(base_url="https://api.openaigatewayapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

複製import OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaigatewayapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

串流輸出

複製stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)