Penyedia Inferensi

Halaman model Hugging Face memiliki inferensi berbasis penggunaan (pay-as-you-go) untuk ribuan model, sehingga Anda dapat mencobanya langsung di browser. Layanan ini didukung oleh Inference Providers, dengan kredit bulanan yang disertakan untuk pengguna PRO serta organisasi Team & Enterprise.

Inference Providers memberikan akses yang terpadu dan efisien bagi pengembang ke ratusan model machine learning, didukung oleh mitra inferensi serverless terbaik. 👉 Untuk dokumentasi lengkap, kunjungi Dokumentasi Inference Providers.

Penyedia Inferensi di Hub

Inference Providers terintegrasi secara mendalam dengan Hugging Face Hub, dan Anda dapat menggunakannya dengan beberapa cara yang berbeda:

• Widget Interaktif - Uji model langsung di halaman model dengan widget interaktif yang menggunakan Inference Providers di baliknya. Lihat halaman model DeepSeek-R1-0528 sebagai contoh.
• Inference Playground - Uji dan bandingkan model penyelesaian chat dengan prompt Anda dengan mudah. Lihat Inference Playground untuk memulai.
• Cari - Saring model berdasarkan penyedia inferensi di halaman model untuk menemukan model yang tersedia melalui penyedia tertentu.
• Data Studio - Gunakan AI untuk menjelajahi dataset di Hub. Coba Data Studio pada dataset favorit Anda.

Bangun dengan Penyedia Inferensi

Anda dapat mengintegrasikan Inference Providers ke dalam aplikasi Anda sendiri menggunakan SDK atau klien HTTP kami. Berikut adalah panduan cepat dengan Python dan JavaScript; untuk detail lebih lanjut, lihat Dokumentasi Inference Providers.

from huggingface_hub import InferenceClient

import os

client = InferenceClient(
    api_key=os.environ["HF_TOKEN"],
    provider="auto",   # Automatically selects best provider
)

# Chat completion
completion = client.chat.completions.create(
    model="deepseek-ai/DeepSeek-V3-0324",
    messages=[{"role": "user", "content": "A story about hiking in the mountains"}]
)

# Image generation
image = client.text_to_image(
    prompt="A serene lake surrounded by mountains at sunset, photorealistic style",
    model="black-forest-labs/FLUX.1-dev"
)

import os
from openai import OpenAI

client = OpenAI(
    base_url="/static-proxy?url=https%3A%2F%2Frouter.huggingface.co%2Fv1%26quot%3B%3C%2Fspan%3E%2C
    api_key=os.environ["HF_TOKEN"],
)

completion = client.chat.completions.create(
    model="deepseek-ai/DeepSeek-V3-0324",
    messages=[
        {
            "role": "user",
            "content": "A story about hiking in the mountains"
        }
    ],
)

import { InferenceClient } from "@huggingface/inference";

const client = new InferenceClient(process.env.HF_TOKEN);

const chatCompletion = await client.chatCompletion({
    provider: "auto",  // Automatically selects best provider  
    model: "deepseek-ai/DeepSeek-V3-0324",
    messages: [{ role: "user", content: "Hello!" }]
});

const imageBlob = await client.textToImage({
  model: "black-forest-labs/FLUX.1-dev",
  inputs:
    "A serene lake surrounded by mountains at sunset, photorealistic style",
});

import { OpenAI } from "openai";

const client = new OpenAI({
  baseURL: "/static-proxy?url=https%3A%2F%2Frouter.huggingface.co%2Fv1%26quot%3B%3C%2Fspan%3E%2C
  apiKey: process.env.HF_TOKEN,
});

const completion = await client.chat.completions.create({
  model: "meta-llama/Llama-3.1-8B-Instruct",
  messages: [{ role: "user", content: "A story about hiking in the mountains" }],
});

Anda memerlukan token Hugging Face dengan izin inferensi. Buat satu di Settings > Tokens.

Cara kerja Inference Providers

Untuk menyelami lebih dalam Inference Providers, lihat Dokumentasi Inference Providers. Berikut adalah beberapa sumber daya utama:

• Mulai Cepat
• Panduan Harga & Penagihan
• Detail Integrasi Hub

Apa itu API HF-Inference?

HF-Inference API adalah salah satu penyedia yang tersedia melalui Inference Providers. Sebelumnya, penyedia ini bernama “Inference API (serverless)” dan didukung oleh Inference Endpoints di baliknya.

Untuk detail lebih lanjut tentang penyedia HF-Inference secara khusus, lihat halaman khususnya.