Proveedores de inferencia

Las páginas de modelos de Hugging Face ofrecen inferencia de pago por uso para miles de modelos, por lo que puedes probarlos todos directamente en el navegador. El servicio está impulsado por Inference Providers, con créditos mensuales incluidos para usuarios PRO y organizaciones Team & Enterprise.

Inference Providers ofrece a los desarrolladores un acceso unificado y simplificado a cientos de modelos de aprendizaje automático, impulsado por los mejores partners de inferencia serverless. 👉 Para la documentación completa, visita la Documentación de Inference Providers.

Proveedores de inferencia en el Hub

Inference Providers está profundamente integrado con Hugging Face Hub y puedes usarlo de varias formas:

• Widgets interactivos - Prueba los modelos directamente en las páginas de modelos mediante widgets interactivos que utilizan Inference Providers en segundo plano. Consulta la página del modelo DeepSeek-R1-0528 como ejemplo.
• Inference Playground - Prueba y compara fácilmente modelos de completado de chat con tus indicaciones. Consulta el Inference Playground para comenzar.
• Buscar - Filtra los modelos por proveedor de inferencia en la página de modelos para encontrar modelos disponibles a través de proveedores específicos.
• Data Studio - Usa la IA para explorar conjuntos de datos en el Hub. Prueba Data Studio con tu conjunto de datos favorito.

Construir con proveedores de inferencia

Puedes integrar Inference Providers en tus propias aplicaciones usando nuestros SDK o clientes HTTP. Aquí tienes una introducción rápida con Python y JavaScript; para más detalles, consulta la Documentación de Inference Providers.

from huggingface_hub import InferenceClient

import os

client = InferenceClient(
    api_key=os.environ["HF_TOKEN"],
    provider="auto",   # Automatically selects best provider
)

# Chat completion
completion = client.chat.completions.create(
    model="deepseek-ai/DeepSeek-V3-0324",
    messages=[{"role": "user", "content": "A story about hiking in the mountains"}]
)

# Image generation
image = client.text_to_image(
    prompt="A serene lake surrounded by mountains at sunset, photorealistic style",
    model="black-forest-labs/FLUX.1-dev"
)

import os
from openai import OpenAI

client = OpenAI(
    base_url="/static-proxy?url=https%3A%2F%2Frouter.huggingface.co%2Fv1%26quot%3B%3C%2Fspan%3E%2C
    api_key=os.environ["HF_TOKEN"],
)

completion = client.chat.completions.create(
    model="deepseek-ai/DeepSeek-V3-0324",
    messages=[
        {
            "role": "user",
            "content": "A story about hiking in the mountains"
        }
    ],
)

import { InferenceClient } from "@huggingface/inference";

const client = new InferenceClient(process.env.HF_TOKEN);

const chatCompletion = await client.chatCompletion({
    provider: "auto",  // Automatically selects best provider  
    model: "deepseek-ai/DeepSeek-V3-0324",
    messages: [{ role: "user", content: "Hello!" }]
});

const imageBlob = await client.textToImage({
  model: "black-forest-labs/FLUX.1-dev",
  inputs:
    "A serene lake surrounded by mountains at sunset, photorealistic style",
});

import { OpenAI } from "openai";

const client = new OpenAI({
  baseURL: "/static-proxy?url=https%3A%2F%2Frouter.huggingface.co%2Fv1%26quot%3B%3C%2Fspan%3E%2C
  apiKey: process.env.HF_TOKEN,
});

const completion = await client.chat.completions.create({
  model: "meta-llama/Llama-3.1-8B-Instruct",
  messages: [{ role: "user", content: "A story about hiking in the mountains" }],
});

Necesitarás un token de Hugging Face con permisos de inferencia. Crea uno en Settings > Tokens.

Cómo funciona Inference Providers

Para profundizar en Inference Providers, consulte la Documentación de Inference Providers. A continuación se presentan algunos recursos clave:

• Inicio rápido
• Guía de precios y facturación
• Detalles de la integración con Hub

¿Qué era la API de HF-Inference?

HF-Inference API es uno de los proveedores disponibles a través de Inference Providers. Anteriormente se llamaba “Inference API (serverless)” y está impulsado por Inference Endpoints en el fondo.

Para más detalles sobre el proveedor HF-Inference en particular, consulta su página dedicada.