Çıkarım Sağlayıcıları

Hugging Face model sayfaları, binlerce model için kullan-dıkça-ödeme (pay-as-you-go) çıkarım (inference) sunar; böylece hepsini doğrudan tarayıcıda deneyebilirsiniz. Hizmet, Inference Providers tarafından desteklenir ve PRO kullanıcıları ile Team & Enterprise kuruluşları için aylık dahil kredi sağlar.

Inference Providers, en iyi sunucusuz çıkarım ortaklarının desteğiyle, yüzlerce makine öğrenimi modeline geliştiricilere akıcı ve birleşik erişim sağlar. 👉 Tam dokümantasyon için Inference Providers Dokümantasyonu'nu ziyaret edin.

Hub'daki Çıkarım Sağlayıcıları

Inference Providers, Hugging Face Hub ile derinlemesine entegre edilmiştir ve birkaç farklı şekilde kullanılabilir:

• Etkileşimli Bileşenler - Modelleri, altta Inference Providers kullanan etkileşimli bileşenlerle doğrudan model sayfalarında test edin. Örnek olarak DeepSeek-R1-0528 model sayfasına göz atın.
• Inference Playground - Prompt'larınızla sohbet tamamlama modellerini kolayca test edin ve karşılaştırın. Başlamak için Inference Playground'a göz atın.
• Ara - Belirli sağlayıcılar üzerinden kullanılabilir modelleri bulmak için modeller sayfasında çıkarım sağlayıcısına göre modelleri filtreleyin.
• Data Studio - Hub'daki veri setlerini keşfetmek için yapay zekayı kullanın. Favori veri setinizde Data Studio'yu deneyin.

Inference Providers ile Oluşturun

Inference Providers'ı SDK'larımızı veya HTTP istemcilerimizi kullanarak kendi uygulamalarınıza entegre edebilirsiniz. Python ve JavaScript ile hızlı bir başlangıç için aşağıdaki adımları izleyin; daha fazla ayrıntı için Inference Providers Belgesine göz atın.

from huggingface_hub import InferenceClient

import os

client = InferenceClient(
    api_key=os.environ["HF_TOKEN"],
    provider="auto",   # Automatically selects best provider
)

# Chat completion
completion = client.chat.completions.create(
    model="deepseek-ai/DeepSeek-V3-0324",
    messages=[{"role": "user", "content": "A story about hiking in the mountains"}]
)

# Image generation
image = client.text_to_image(
    prompt="A serene lake surrounded by mountains at sunset, photorealistic style",
    model="black-forest-labs/FLUX.1-dev"
)

import os
from openai import OpenAI

client = OpenAI(
    base_url="/static-proxy?url=https%3A%2F%2Frouter.huggingface.co%2Fv1%26quot%3B%3C%2Fspan%3E%2C
    api_key=os.environ["HF_TOKEN"],
)

completion = client.chat.completions.create(
    model="deepseek-ai/DeepSeek-V3-0324",
    messages=[
        {
            "role": "user",
            "content": "A story about hiking in the mountains"
        }
    ],
)

import { InferenceClient } from "@huggingface/inference";

const client = new InferenceClient(process.env.HF_TOKEN);

const chatCompletion = await client.chatCompletion({
    provider: "auto",  // Automatically selects best provider  
    model: "deepseek-ai/DeepSeek-V3-0324",
    messages: [{ role: "user", content: "Hello!" }]
});

const imageBlob = await client.textToImage({
  model: "black-forest-labs/FLUX.1-dev",
  inputs:
    "A serene lake surrounded by mountains at sunset, photorealistic style",
});

import { OpenAI } from "openai";

const client = new OpenAI({
  baseURL: "/static-proxy?url=https%3A%2F%2Frouter.huggingface.co%2Fv1%26quot%3B%3C%2Fspan%3E%2C
  apiKey: process.env.HF_TOKEN,
});

const completion = await client.chat.completions.create({
  model: "meta-llama/Llama-3.1-8B-Instruct",
  messages: [{ role: "user", content: "A story about hiking in the mountains" }],
});

Çıkarım (inference) izinlerine sahip bir Hugging Face jetonuna ihtiyacınız olacak. Bir tane Ayarlar > Jetonlar bölümünde oluşturabilirsiniz.

Inference Providers Nasıl Çalışır

Inference Providers hakkında daha derine inmek için Inference Providers Belgeleme'na göz atın. İşte bazı önemli kaynaklar:

• Hızlı Başlangıç
• Fiyatlandırma ve Faturalama Kılavuzu
• Hub Entegrasyonu Detayları

HF-Inference API neydi?

HF-Inference API, Inference Providers üzerinden kullanılabilir sağlayıcılardan biridir. Daha önce “Inference API (serverless)” olarak adlandırılıyordu ve altyapıda Inference Endpoints tarafından desteklenmektedir.

HF-Inference sağlayıcısına özgü daha fazla ayrıntı için özel sayfasını inceleyin.