API Gateway: Cambia tu cliente en tres líneas

Requisitos previos: Instala tu SDK preferido

Antes de realizar peticiones, asegúrate de que tu entorno de desarrollo tenga instalado el SDK adecuado. Dado que nuestro endpoint sigue el estándar API compatible con OpenAI, puedes usar la biblioteca oficial o cualquier cliente compatible. Para Python, ejecuta pip install openai. Para Node.js, usa npm install openai. No se requieren archivos de configuración adicionales más allá de las variables de entorno que configurarás en el siguiente paso.

Paso 1: Configurar URL base y clave de API

Nuestro endpoint de gateway de IA opera en una URL base distinta. Debes obtener tu clave de API desde el panel de control y configurar tu cliente SDK para que apunte a https://api.openaigatewayapi.com/v1. Esto asegura que todas las peticiones eviten la infraestructura estándar de OpenAI y se enruten directamente a los servidores de nuestro modelo sin censura. No necesitas cambiar el nombre del modelo; simplemente establece la URL base y proporciona tu clave.

Paso 2: Enviar una petición estándar de chat

Con el cliente configurado, puedes enviar una petición estándar de completado de chat. El ID del modelo es uncensored. Esta petición demuestra la capacidad básica de entrada y salida de texto. El sistema procesará tu prompt y devolverá un completado sin los filtros de contenido típicos de los principales proveedores, siempre que el contenido no sea sexualmente explícito que involucre a menores. Usa el siguiente comando para verificar la conectividad.

Paso 3: Habilitar streaming con Server-Sent Events

Para una menor latencia y una mejor experiencia de usuario, activa el streaming estableciendo stream=true. El endpoint admite Server-Sent Events (SSE), lo que te permite recibir tokens a medida que se generan. Esto es especialmente útil para la generación de textos largos o aplicaciones interactivas. El flujo de respuesta emitirá fragmentos parciales hasta que finalice el completado, proporcionando retroalimentación en tiempo real sin esperar a que se procese toda la ventana de contexto.

Paso 4: Usar llamadas a funciones para integración de herramientas

El endpoint admite llamadas a funciones, permitiéndote definir funciones y dejar que el modelo decida cuándo invocarlas. Esto habilita flujos de trabajo complejos al integrar APIs externas o fuentes de datos directamente en la lógica de tu LLM. Define tus herramientas en el parámetro tools, y el modelo devolverá una salida JSON estructurada cuando sea apropiado. Esta función funciona idénticamente al formato estándar de OpenAI, facilitando el cambio de proveedores sin reescribir la lógica de integración de tus herramientas.

Paso 5: Manejar errores y límites de peticiones

Monitorea el uso de tu clave de API y maneja errores potenciales de forma elegante. Si la clave no es válida, recibirás un error 401. Si tus créditos prepago se agotan, un error 402 indica que necesitas recargar. El sistema aplica un límite de 300 peticiones por minuto por clave; excederlo activará un error de límite de peticiones 429. Además, mantén el cuerpo de la petición por debajo de 8 MB para evitar el rechazo. La ventana de contexto admite hasta 100.000 tokens para prompt y finalización combinados.

cURL

Copiarcurl https://api.openaigatewayapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Python

Copiarfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaigatewayapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copiarimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaigatewayapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streaming

Copiarstream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)