SDK OpenAI

Usa l'SDK OpenAI ufficiale Python o Node.js con Pura LLM impostando base_url e api_key.

Drop-in replacement

Pura LLM è un sostituto drop-in di OpenAI. Cambia due righe di configurazione e il codice esistente funziona senza modifiche.

Python

Installa il pacchetto openai ufficiale e configura il client:

Install

pip install openai

python

from openai import OpenAI

client = OpenAI(
    api_key="YOUR_API_KEY",
    base_url="https://llm.puradigital.it/v1",
)

response = client.chat.completions.create(
    model="gpt-4o",
    messages=[
        {"role": "system", "content": "You are a helpful assistant."},
        {"role": "user", "content": "Explain EU data residency in one sentence."},
    ],
)

print(response.choices[0].message.content)

Streaming

Le risposte in streaming sono pienamente supportate:

python

from openai import OpenAI

client = OpenAI(
    api_key="YOUR_API_KEY",
    base_url="https://llm.puradigital.it/v1",
)

stream = client.chat.completions.create(
    model="gpt-4o",
    messages=[{"role": "user", "content": "Write a haiku about privacy."}],
    stream=True,
)

for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="")

Node.js / TypeScript

Installa il pacchetto npm openai:

Install

npm install openai

typescript

import OpenAI from "openai";

const client = new OpenAI({
  apiKey: process.env.PURA_LLM_API_KEY,
  baseURL: "https://llm.puradigital.it/v1",
});

const completion = await client.chat.completions.create({
  model: "gpt-4o",
  messages: [{ role: "user", content: "Hello from the OpenAI SDK!" }],
});

console.log(completion.choices[0].message.content);

Embeddings

Genera embedding con lo stesso client:

python

from openai import OpenAI

client = OpenAI(
    api_key="YOUR_API_KEY",
    base_url="https://llm.puradigital.it/v1",
)

response = client.embeddings.create(
    model="text-embedding-3-small",
    input="Document text to embed",
)

print(len(response.data[0].embedding))

Elenco modelli

Recupera il catalogo modelli programmaticamente:

python

from openai import OpenAI

client = OpenAI(
    api_key="YOUR_API_KEY",
    base_url="https://llm.puradigital.it/v1",
)

models = client.models.list()
for model in models.data:
    print(model.id)

Variabili d'ambiente

Molti tool leggono automaticamente OPENAI_API_KEY e OPENAI_BASE_URL:

.env

OPENAI_API_KEY=YOUR_API_KEY
OPENAI_BASE_URL=https://llm.puradigital.it/v1

Tracciabilità delle richieste: compliance_metadata v2

Quando presenti, i metadati di compliance descrivono la tracciabilità della singola richiesta. Leggi i campi e la versione restituiti nella risposta; consulta le condizioni del servizio per i requisiti di residenza applicabili.

Il contratto v2 garantisce provider, modello effettivo, data_zone UE, ingress_region, upstream_request_id originale, gateway_request_id e timestamp UTC. La regione di ingresso non identifica la regione effettiva di elaborazione: Azure Data Zone Standard e i profili geografici Bedrock possono distribuire le richieste tra regioni della zona certificata. Il campo region resta riservato ai deployment regionali v1.

provider_raw è facoltativo e può variare per provider. Non usarlo come dipendenza del tuo codice: per correlare una richiesta usa i campi di tracciabilità documentati.

Consulta il contratto e gli esempi del gateway

Gli identificativi di tracciabilità disponibili nei log possono aiutarti nelle richieste di assistenza. Per il trattamento dei contenuti e dei metadati consulta la guida sulla conservazione dei dati.