Datasets:

Languages:
Turkish
ArXiv:
License:
Dataset Viewer
The dataset viewer is not available for this subset.
Cannot get the split names for the config 'default' of the dataset.
Exception:    SplitsNotFoundError
Message:      The split names could not be parsed from the dataset config.
Traceback:    Traceback (most recent call last):
                File "/usr/local/lib/python3.14/site-packages/datasets/inspect.py", line 286, in get_dataset_config_info
                  for split_generator in builder._split_generators(
                                         ~~~~~~~~~~~~~~~~~~~~~~~~~^
                      StreamingDownloadManager(base_path=builder.base_path, download_config=download_config)
                      ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
                  )
                  ^
                File "/usr/local/lib/python3.14/site-packages/datasets/packaged_modules/webdataset/webdataset.py", line 84, in _split_generators
                  raise ValueError(
                  ...<2 lines>...
                  )
              ValueError: The TAR archives of the dataset should be in WebDataset format, but the files in the archive don't share the same prefix or the same types.
              
              The above exception was the direct cause of the following exception:
              
              Traceback (most recent call last):
                File "/src/services/worker/src/worker/job_runners/config/split_names.py", line 68, in compute_split_names_from_streaming_response
                  for split in get_dataset_split_names(
                               ~~~~~~~~~~~~~~~~~~~~~~~^
                      path=dataset,
                      ^^^^^^^^^^^^^
                      config_name=config,
                      ^^^^^^^^^^^^^^^^^^^
                      token=hf_token,
                      ^^^^^^^^^^^^^^^
                  )
                  ^
                File "/usr/local/lib/python3.14/site-packages/datasets/inspect.py", line 340, in get_dataset_split_names
                  info = get_dataset_config_info(
                      path,
                  ...<6 lines>...
                      **config_kwargs,
                  )
                File "/usr/local/lib/python3.14/site-packages/datasets/inspect.py", line 291, in get_dataset_config_info
                  raise SplitsNotFoundError("The split names could not be parsed from the dataset config.") from err
              datasets.inspect.SplitsNotFoundError: The split names could not be parsed from the dataset config.

Need help to make the dataset viewer work? Make sure to review how to configure the dataset viewer, and open a discussion for direct support.

Not: Bu ses veri seti orijinal olarak turkic-nlp tarafından geliştirilmiş olup, VeriPazarı tarafından Türk yapay zeka topluluğuna katkı sağlamak amacıyla dokümantasyonu Türkçeye çevrilerek arşivlenmiştir.

🔗 Orijinal Kaynak: turkic-nlp/turkicnlp 🔗 Derleyen Platform: VeriPazarı

TurkicNLP — Türk Dilleri Ailesinin Altı Kolu

TurkicNLP

20'den fazla Türk dili için NLP araç seti — Stanza'dan esinlenilmiş, düşük kaynaklı ve morfolojik açıdan zengin Türk dilleri ailesine uyarlanmış, pip ile kurulabilen bir Python kütüphanesidir.

Bakımını Sherzod Hakimov yapmaktadır.

License: Apache-2.0 Python 3.10 | 3.11 | 3.12 Status: Alpha 24 Turkic Languages Package Installation Tests

Kurulum · Hızlı başlangıç · Yol Haritası · Katkıda Bulunma · Değişiklik Günlüğü · Makale · Not Defterleri · 🤗 Modeller & veri · Discord

Her Türk dilini kapsamamıza yardımcı olun. Anadili konuşanlar, dilbilimciler ve geliştiricilerin katılımını bekliyoruz — nasıl başlayacağınızı öğrenmek için CONTRIBUTING.md dosyasını, planlanan özellikler ve üzerinde çalışabileceğiniz açık fikirler için ise ROADMAP.md dosyasını inceleyebilirsiniz.

Atıf

TurkicNLP'yi araştırmalarınızda kullanırsanız, lütfen şu şekilde atıfta bulunun:

@misc{hakimov2026turkicnlpnlptoolkit,
      title={TurkicNLP: An NLP Toolkit for Turkic Languages}, 
      author={Sherzod Hakimov},
      year={2026},
      eprint={2602.19174},
      archivePrefix={arXiv},
      primaryClass={cs.CL},
      url={https://arxiv.org/abs/2602.19174}, 
}

Bağlantılar

Makale (arXiv) arxiv.org/abs/2602.19174
Kod örnekleri (Jupyter not defterleri) turkic-nlp/turkic-nlp-code-samples
Veri setleri & modeller 🤗 huggingface.co/turkicnlp
Topluluk Discord
Planlanan çalışmalar ve bilinen sorunlar ROADMAP.md
Nasıl katkıda bulunulur CONTRIBUTING.md

Özellikler

  • 24 Türk dili: Türkçeden Sahaya, Kazakçadan Uygurcaya kadar.
  • Temelden alfabe farkındalığı: Latin, Kiril, Fars-Arap ve Eski Türk Runik alfabeleri desteği.
  • Otomatik alfabe algılama ve çift yönlü harf çevirisi (transliterasyon).
  • Apertium FST morfolojisi: Python yerel hfst bağlamaları aracılığıyla ~20 Türk dili için (sistem kurulumu gerektirmez).
  • Stanza/UD entegrasyonu: Universal Dependencies ağaç bankaları üzerinde eğitilmiş Stanza modelleri aracılığıyla önceden eğitilmiş tokenleştirme, POS etiketleme, kök bulma ve bağımlılık ayrıştırma (9 dil, 5'i özel olarak eğitilmiştir), ayrıca Türkçe ve Kazakça için NER desteği.
  • Morfem segmentasyonu (MorphemeTokenizer): Apertium ve sinirsel çözümleyiciyi birleştirerek kelimeleri etiketli morfemlere ayırır (20 dilde 483 kelimelik test setinde %89 tam segmentasyon başarısı).
  • Morfem farkındalıklı alt kelime tokenleştirme (sp_tokenize): Dil modellerini eğitmek için morfemlere ayrılmış metin üzerinde SentencePiece kullanımı.
  • NLLB gömmeleri + çeviri altyapısı: NLLB-200 aracılığıyla cümle/belge vektörleri ve makine çevirisi (11 Türk dili).
  • Dil tanımlama (LanguageDetection, GlotLID modeli): 1.000'den fazla Glottolog dil etiketi içeren FastText tabanlı LID.
  • Konuşma tanıma (SpeechRecognizer): Meta'nın Omnilingual ASR modeli aracılığıyla 20 Türk dili için konuşmadan metne dönüştürme; TurkicNLP alfabelerinde çıktı ve konuşma → metin → analiz hattı.
  • Çok dilli Glot500 sinirsel modelleri: Paylaşımlı Glot500 omurgası üzerinden POS etiketleme & bağımlılık ayrıştırma (15 dil), morfolojik analiz & kök bulma (22 TurkicNLP dili).
  • LLM altyapısı: 24 dilin tamamında morfoloji, NER, çeviri, duygu analizi ve yazım düzeltme için herhangi bir LLM'i kullanın: vLLM veya Ollama ile sunulan yerel bir model, OpenAI, Claude veya süreç içi Hugging Face modeli (detaylar).
  • Çoklu altyapı: İşlemci başına kural tabanlı, Apertium FST, Stanza, Glot500 sinirsel veya LLM altyapıları arasından seçim yapın.
  • Lisans yalıtımı: Kütüphane Apache-2.0 lisanslıdır; Apertium GPL-3.0 verileri ayrı olarak indirilir.
  • Stanza uyumlu API: Pipeline, Document, Sentence, Word.

Kurulum

Gereksinimler: Python 3.10 – 3.12.

TurkicNLP küçük bir çekirdeğe ve bileşen grupları için isteğe bağlı eklentilere sahiptir:

pip install turkicnlp                    # çekirdek — tokenleştirme, kural tabanlı işleme, harf çevirisi, CoNLL-U G/Ç
pip install "turkicnlp[hfst]"           # + Apertium FST morfolojisi (yalnızca Linux ve macOS)
pip install "turkicnlp[stanza]"         # + Stanza sinirsel modelleri (tokenleştirme, POS, kök bulma, bağımlılık ayrıştırma, NER)
pip install "turkicnlp[lid]"            # + Dil tanımlama (GlotLID modeli; FastText + HF ağırlıkları)
pip install "turkicnlp[translation]"    # + NLLB gömmeleri ve makine çevirisi
pip install "turkicnlp[transformers]"   # + Glot500 çok dilli POS/DepParse/Morph modelleri
pip install "turkicnlp[all]"            # yukarıdaki tüm metin bileşenleri (yalnızca Linux ve macOS)
pip install "turkicnlp[asr]"            # + konuşma tanıma (Omnilingual ASR) — aşağıya bakın, ayrı bir ortam kullanın
pip install "turkicnlp[dev]"            # geliştirme araçları (pytest, black, ruff, mypy)

Ortam seçimi: yalnızca metin vs. konuşma + metin

Konuşma tanıma, bağımlılığı torch==2.8, numpy<2 ve huggingface_hub<1 olan ve dolayısıyla transformers 4.x sürümünü gerektiren omnilingual-asr üzerine kuruludur. Diğer tüm TurkicNLP bileşenleri de bu sürümlerle çalışır, bu nedenle iki test edilmiş kurulum mevcuttur:

Metin ortamı Konuşma + metin ortamı
Eklentiler [all] [all,asr]
Kullanım amacı tüm metin bileşenleri konuşma tanıma ve tüm metin bileşenleri
Python 3.10 – 3.12 3.10 – 3.12
torch / torchaudio 2.10 / – 2.8 / 2.8
numpy 2.x 1.26
transformers / huggingface_hub 5.x / 1.x 4.57 / 0.36
stanza 1.11 1.11
Kesin sürümler requirements/lock-text.txt requirements/lock-speech.txt

⚠️ Mevcut bir metin ortamına [asr] eklemeyin: bu işlem torch, numpy ve huggingface_hub sürümlerini düşürerek transformers 5.x sürümünü bozar. Bunun yerine temiz bir ortam oluşturun.

Metin ortamı

python3 -m venv venv
source venv/bin/activate              # Windows: venv\Scripts\activate
pip install --upgrade pip
pip install "turkicnlp[all]"          # PyPI'den
# veya, bu deponun bir kopyasından:
pip install -e ".[all]"

Konuşma + metin ortamı

Sistem gereksinimleri: libsndfile ve CMake içeren bir C++ derleyicisi (omnilingual-asr'ın bir bağımlılığı olan kenlm kaynaktan derlenir).

# macOS
brew install libsndfile cmake
# Ubuntu / Debian
sudo apt-get install libsndfile1 cmake build-essential

python3.10 -m venv venv-asr
source venv-asr/bin/activate
pip install --upgrade pip
pip install "turkicnlp[all,asr]"      # PyPI'den
# veya, bu deponun bir kopyasından:
pip install -e ".[all,asr]"

Test edilen sürümleri yeniden oluşturma

Kilit dosyaları, test edilen iki ortamın (Python 3.10, macOS arm64) her paketini sabitler:

pip install -r requirements/lock-text.txt   && pip install -e .   # metin ortamı
pip install -r requirements/lock-speech.txt && pip install -e .   # konuşma + metin ortamı

Sürüm kısıtlamaları ve bilinen sorunlar

  • **Stanza < 1.12.** Özel Azerbaycan, Özbek, Türkmen, Tatar ve Başkurt Stanza modelleri Stanza 1.11 ile eğitilmiştir; Stanza 1.15 bunların ayrıştırıcılarını yükleyemez (size mismatch for deprel.scorer). Eklentiler stanza>=1.8,<1.12 sürümünü zorunlu kılar.
  • sentencepiece, transformers 4.x ile Glot500 (XLM-R) tokenleştiricisini oluşturmak için gereklidir; [transformers], [translation] ve [all] eklentilerine dahildir.
  • torchaudio 2.8. omnilingual-asr torchaudio sürümünü sabitlemez; daha yeni sürümler torch 2.8 ile yüklenemez (Symbol not found: _torch_library_impl). [asr] eklentisi torchaudio>=2.8,<2.9 sürümünü sabitler.
  • **kenlm derlemesi macOS'te 'climits' file not found hatası veriyor.** Eski bir Command Line Tools kurulumundan kalan /Library/Developer/CommandLineTools/usr/include/c++/v1` dizini, SDK'nın C++ başlıklarını gölgelemektedir. Ya bir kereliğine silin:
    sudo mv /Library/Developer/CommandLineTools/usr/include/c++ /Library/Developer/CommandLineTools/usr/include/c++.old
    
    ya da kurulum için derleyiciyi SDK başlıklarına yönlendirin:
    export CXXFLAGS="-nostdinc++ -isystem $(xcrun --show-sdk-path)/usr/include/c++/v1"
    export CMAKE_POLICY_VERSION_MINIMUM=3.5      # kenlm'in CMakeLists dosyası CMake 4'ten öncedir
    pip install -e ".[all,asr]"
    
  • Konuşma tanıma için bellek. omniASR_LLM_1B (9 GB kontrol noktası), varsayılan düşük bellek yüklemesiyle (bellek eşlemeli kontrol noktası, bfloat16 ağırlıkları) yaklaşık 6 GB RAM ile çalışır. Daha küçük makineler için omniASR_LLM_300M veya bir CTC modeli (omniASR_CTC_300M, 1.3 GB) kullanın.

Bileşenlerin kendi açık sorunları (örneğin bazı diller için düşük Apertium kapsamı) ROADMAP.md → Known issues kısmında takip edilmektedir.

Kurulumu doğrulama

import turkicnlp

# Çekirdek (indirme gerektirmez)
from turkicnlp.scripts import Script
from turkicnlp.scripts.transliterator import Transliterator
print(Transliterator("kaz", Script.CYRILLIC, Script.LATIN).transliterate("Қазақстан"))   # Qazaqstan

# Metin bileşenleri (ilk kullanımda modelleri indirir)
nlp = turkicnlp.Pipeline("kaz", processors=["tokenize", "pos", "lemma", "depparse"])
doc = nlp("Мен мектепке бардым.")
print([(w.text, w.upos, w.lemma) for w in doc.words])
# [('Мен', 'PRON', 'мен'), ('мектепке', 'NOUN', 'мектеп'), ('бардым', 'VERB', 'бар'), ('.', 'PUNCT', '.')]

# Sadece konuşma ortamı
print(turkicnlp.list_asr_languages(check_model=True))   # {'tur': {'Latn': 'tur_Latn'}, 'aze': {...}, ...}

Platform uyumluluğu

Kurulum testleri her push, pull request ve gece (nightly) işlemlerinde; işletim sistemi, Python sürümü ve aşağıdaki ek kurulum kombinasyonlarının tamamında çalıştırılır. Test paketi (pytest -m "not slow") Ubuntu ve macOS üzerinde çalışır (bkz. CI iş akışı).

Ekstra Ubuntu 22.04 / 24.04 macOS 14 / 15 Windows 2025
base ✅ 3.9 – 3.12 ✅ 3.9 – 3.12 ✅ 3.9 – 3.12
[hfst] ✅ 3.9 – 3.12 ✅ 3.9 – 3.12 ❌ mevcut değil
[stanza] ✅ 3.9 – 3.12 ✅ 3.9 – 3.12 ✅ 3.9 – 3.12
[lid] ✅ 3.9 – 3.12 ✅ 3.9 – 3.12 ✅ 3.9 – 3.12
[transformers] ✅ 3.9 – 3.12 ✅ 3.9 – 3.12 ✅ 3.9 – 3.12
[translation] ✅ 3.9 – 3.12 ✅ 3.9 – 3.12 ✅ 3.9 – 3.12
[all] ✅ 3.9 – 3.12 ✅ 3.9 – 3.12 ❌ mevcut değil
[asr] henüz CI'da değil ✅ 3.10 (manuel test edildi) test edilmedi

Windows kullanıcıları: hfst Python paketi, Windows üzerinde Python 3.7 veya daha yeni sürümler için yayınlanmış tekerleklere (wheel) sahip değildir; bu, şu an için geçici çözümü olmayan bir üst kaynak (upstream) kısıtlamasıdır. Apertium FST morfolojisi dışındaki tüm özellikler Windows üzerinde normal şekilde çalışır; bunun yerine turkicnlp[stanza] veya turkicnlp[translation] kullanın. Windows üzerinde Apertium FST morfolojisine ihtiyacınız varsa, önerilen yaklaşım hfst paketinin normal şekilde kurulabildiği Windows için Linux Alt Sistemi (WSL) kullanmaktır.

Hızlı Başlangıç

import turkicnlp

# Bir dil için modelleri indir
turkicnlp.download("kaz")

# Bir pipeline oluştur
nlp = turkicnlp.Pipeline("kaz", processors=["tokenize", "pos", "lemma", "ner", "depparse"])

# Metni işle
doc = nlp("Мен мектепке бардым")

# Ek açıklamalara (annotations) eriş
for sentence in doc.sentences:
    for word in sentence.words:
        print(f"{word.text}\t{word.lemma}\t{word.upos}\t{word.feats}")

# CoNLL-U formatına aktar
print(doc.to_conllu())

processors= parametresi olmadan kullanılan turkicnlp.Pipeline("kaz"), ilgili dil için varsayılan seti yükler: katalogda listelenen tokenizer, morfoloji, POS, lemma, özellikler, ayrıştırma (parsing) ve NER işlemcileri (her ikisi de mevcut olduğunda Apertium morfolojisi, sinirsel analizörden tercih edilir). Büyük modelleri indiren veya ekstra bir ortam gerektiren işlemciler — translate, embeddings, sp_tokenize, asr — yalnızca siz onları belirttiğinizde yüklenir. Tüm isimler için İşlemciler ve arka uçlar bölümüne bakın.

Gömülü Vektörler (Embeddings - NLLB)

import math
import turkicnlp

turkicnlp.download("tur", processors=["embeddings"])
nlp = turkicnlp.Pipeline("tur", processors=["embeddings"])

doc1 = nlp("Bugün hava çok güzel ve parkta yürüyüş yaptım.")
doc2 = nlp("Parkta yürüyüş yapmak bugün çok keyifliydi çünkü hava güzeldi.")

def cosine_similarity(a, b):
    dot = sum(x * y for x, y in zip(a, b))
    norm_a = math.sqrt(sum(x * x for x in a))
    norm_b = math.sqrt(sum(y * y for y in b))
    return dot / (norm_a * norm_b)

print(len(doc1.embedding), len(doc2.embedding))
print(f"cosine = {cosine_similarity(doc1.embedding, doc2.embedding):.4f}")
print(doc1._processor_log)  # ['embeddings:nllb']

Dil Tanımlama (LanguageDetection, GlotLID modeli)

import turkicnlp

lid = turkicnlp.LanguageDetection()  # varsayılan olarak TurkicNLP tarafından desteklenen tüm Türk dilleri
labels, probs = lid.predict("salam, hemmelere!", k=3)
print(labels, probs)

# Belirli etiketlerle sınırla
limited = turkicnlp.LanguageDetection(
    languages=[
        "__label__eng_Latn",
        "__label__tur_Latn",
        "__label__kaz_Cyrl",
    ]
)
print(limited.predict("Merhaba dünya!", k=1))

Konuşma Tanıma (Omnilingual ASR)

SpeechRecognizer, Meta'nın Omnilingual ASR modellerini (varsayılan olarak omniASR_LLM_1B) TurkicNLP kuralları altında sarmalar:

  • diller, TurkicNLP ISO 639-3 kodları (kaz, uzb, …) olarak verilir ve Omnilingual kodlarına (kaz_Cyrl, uzn_Latn, …) eşlenir;
  • yalnızca aşağıdaki 20 Türk dili kabul edilir; her kod modelin supported_langs (desteklenen diller) listesiyle karşılaştırılır ve Türk dilleri dışındaki diller (eng, rus, …) reddedilir;
  • transkriptler, dilin birincil TurkicNLP alfabesinde (veya talep ettiğiniz alfabede) döndürülür; modelin farklı bir alfabe ile çıktı ürettiği durumlarda araç setinin çeviri (transliterator) özelliği kullanılır;
  • modelin 40 saniyelik sınırından daha uzun kayıtlar duraklamalardan bölünür, parçalar ayrı ayrı yazıya dökülür ve birleştirilir;
  • model bir kez yüklenir ve tüm diller tarafından paylaşılır; varsayılan olarak bfloat16 formatında bellek eşlemeli (memory-mapped) olarak yüklenir (≈ 6 GB RAM).

Konuşma + metin ortamı gerektirir. Model ağırlıkları ilk kullanımda indirilir (omniASR_LLM_1B için 9.1 GB) ve ~/.cache/fairseq2/assets/ dizininde önbelleğe alınır.

Ses dosyalarını yazıya dökme

import turkicnlp

asr = turkicnlp.SpeechRecognizer(
    model_card="omniASR_LLM_1B",   # varsayılan; aşağıdaki model tablosuna bakın
    device="cpu",                  # varsayılan: "cuda" mevcutsa, değilse "cpu"
    dtype="bfloat16",              # varsayılan ("auto"): bfloat16 veya Apple "mps" üzerinde float16
    low_memory=True,               # varsayılan: yükleme sırasında kontrol noktasını bellek eşle
)

files = ["asr_samples/kaz_sample.wav", "asr_samples/tur_sample.wav"]
texts = asr.transcribe(files, lang=["kaz", "tur"], batch_size=2)
print(texts)
# ['мен бүгін мектепке бардым алматы қазақстанның ең үлкен қаласы',
#  "bugün hava çok güzel ali dün ankara'ya gitti"]

Arayüz, Omnilingual ASR'nin ASRInferencePipeline.transcribe(audio_files, lang=..., batch_size=...) metodunu yansıtır; lang parametresi tüm girdiler için tek bir kod veya her girdi için bir kod içeren bir liste olabilir. Tek bir girdi bir dize (string), liste ise bir liste döndürür.

Segmentler, detaylar ve çıktı alfabesi

res = asr.transcribe("asr_samples/kaz_sample.wav", lang="kaz", return_details=True)
print(res.lang, res.model_lang, res.script)   # kaz kaz_Cyrl Cyrl
print(res.text)
for seg in res.segments:                      # zaman hizalı parçalar (uzun sesler duraklamalardan bölünür)
    print(f"[{seg.start:.2f}-{seg.end:.2f}] {seg.text}")

# Başka bir alfabe talep etme: 2021 Latin alfabesiyle Kazakça
print(asr.transcribe("asr_samples/kaz_sample.wav", lang="kaz", script="Latn"))
# men bügın mektepke bardym almaty qazaqstannyñ eñ ülken qalasy

# Model, Karakalpakça ve Kırım Tatarca'yı Kiril alfabesiyle yazar; TurkicNLP bunların birincil Latin alfabesini döndürür
res = asr.transcribe("kaa_audio.wav", lang="kaa", return_details=True)
print(res.model_text)   # Modelin ürettiği gibi Kiril alfabesi
print(res.text)         # Latin (2016 Karakalpak alfabesi)

Diğer girdi türleri

import soundfile as sf

wav, sr = sf.read("asr_samples/tur_sample.wav")
asr.transcribe(wav, lang="tur", sample_rate=sr)                         # dalga formu dizisi
asr.transcribe({"waveform": wav, "sample_rate": sr}, lang="tur")        # sözlük
asr.transcribe(open("asr_samples/tur_sample.wav", "rb").read(), lang="tur")   # kodlanmış baytlar

# Hugging Face veri setlerinin ses sütunları doğrudan çalışır
# from datasets import load_dataset
# ds = load_dataset(..., split="test")
# asr.transcribe(list(ds["audio"][:8]), lang="kir", batch_size=4)

Stereo sesler otomatik olarak mono formata dönüştürülür ve 16 kHz hızında yeniden örneklenir.

Konuşma → metin → analiz

nlp = turkicnlp.Pipeline(
    "kaz",
    processors=["asr", "tokenize", "pos", "lemma", "depparse"],
    asr_model_card="omniASR_LLM_1B",   # asr_* seçenekleri tanıyıcıyı yapılandırır
    asr_device="cpu",                  # ayrıca: asr_dtype, asr_batch_size, asr_max_segment_seconds
)
doc = nlp.from_audio("asr_samples/kaz_sample.wav")
print(doc.text)
print(doc.audio_segments)              # [{'start': 0.0, 'end': 4.86, 'text': '...'}]
for w in doc.words:
    print(w.text, w.upos, w.lemma, w.head, w.deprel)

Omnilingual ASR, noktalama işareti içermeyen küçük harfli metinler üretir; bu nedenle transkriptler üzerindeki etiketleme ve ayrıştırma kalitesi, düzenlenmiş metinlere göre daha düşük olabilir.

Komut satırı

python run_asr.py asr_samples/kaz_sample.wav asr_samples/tur_sample.wav --lang kaz tur --device cpu
python run_asr.py lecture.wav --lang tat --model omniASR_LLM_300M      # daha küçük model
python run_asr.py interview.wav --lang uzb --script Cyrl --analyze      # + tokenize/POS/depparse

asr_samples/ dizini iki kısa sentetik test kaydı (Kazakça ve Türkçe) içerir.

Modeller ve bellek

Herhangi bir Omnilingual ASR model kartı model_card olarak geçirilebilir:

Model kartı Kontrol noktası Notlar
omniASR_LLM_300M 6.5 GB en küçük LLM modeli
omniASR_LLM_1B (varsayılan) 9.1 GB düşük bellek yüklemesiyle ≈ 6 GB RAM (16 GB MacBook'ta test edilmiştir)
omniASR_LLM_3B 17.5 GB GPU önerilir
omniASR_LLM_7B 31.2 GB en iyi kalite; pratikte GPU gereklidir
omniASR_CTC_300M / _1B / _3B 1.3 / 3.9 / 12.3 GB daha hızlı, dil koşullandırması yok (dil kodu yoksayılır)

İşlem bellek yetersizliğinden dolayı sonlandırılırsa, low_memory=True ve dtype="bfloat16" (varsayılanlar) ayarlarını koruyun veya daha küçük bir model kullanın. dtype="float32" gerekli belleği iki katına çıkarır.

Desteklenen diller

Dil Kod Omnilingual kod(lar) Çıktı alfabesi
Türkçe tur tur_Latn Latin
Azerbaycan Türkçesi aze aze_Latn, aze_Cyrl Latin
Güney Azerbaycan Türkçesi azb aze_Arab Fars-Arap
Türkmence tuk tuk_Latn Latin
Gagavuzca gag gag_Latn Latin
Kazakça kaz kaz_Cyrl Kiril (çeviri ile Latin)
Kırgızca kir kir_Cyrl Kiril
Tatarca tat tat_Cyrl Kiril (çeviri ile Latin)
Başkurtça bak bak_Cyrl Kiril
Kırım Tatarca crh crh_Cyrl Latin (çevrilmiş)
Karakalpakça kaa kaa_Cyrl Latin (2016 Karakalpak alfabesi)
Nogayca nog nog_Cyrl Kiril
Kumukça kum kum_Cyrl Kiril
Karaçay-Balkarca krc krc_Cyrl Kiril
Özbekçe uzb uzn_Latn, uzb_Cyrl Latin
Uygurca uig uig_Arab, uig_Cyrl Fars-Arap
Sahaca (Yakutça) sah sah_Cyrl Kiril
Altayca alt alt_Cyrl Kiril
Hakasça kjh kjh_Cyrl Kiril
Çuvaşça chv chv_Cyrl Kiril

Mevcut olmayanlar: Tuvaca, Halaçça, Osmanlı Türkçesi ve Eski Türk dili (Omnilingual dil kodu bulunmamaktadır). turkicnlp.list_asr_languages(check_model=True) komutu, yüklü model tarafından desteklenen kodları listeler.

Makine Çevirisi (NLLB)

import turkicnlp

# ~/.turkicnlp/models/huggingface/facebook--nllb-200-distilled-600M dizinine bir kez indirir
turkicnlp.download("tur", processors=["translate"])

nlp = turkicnlp.Pipeline(
    "tur",
    processors=["translate"],
    translate_tgt_lang="eng",
)

doc = nlp("Bugün hava çok güzel ve parkta yürüyüş yaptım.")
print(doc.translation)
print(doc._processor_log)  # ['translate:nllb']

NLLB tarafından bazen üretilen HTML varlıkları (&apos;, &quot;) düz karakterlere geri dönüştürülür. translate_tgt_lang, ISO-639-3 ("eng", "tuk", "kaz") veya açık Flores-200 kodlarını ("eng_Latn", "kaz_Cyrl") kabul eder.

LLM Arka Ucu (yerel vLLM / Ollama, OpenAI, Claude veya bir Hugging Face modeli)

Beş işlemci (altı arka uç), Hakasça, Tuvaca veya Nogayca gibi eğitilmiş herhangi bir modeli bulunmayan diller de dahil olmak üzere tüm 24 dil için büyük bir dil modeli kullanabilir. Araç seti isteği gönderir, bu nedenle yalnızca hangi LLM'in kullanılacağını belirtmeniz yeterlidir: bir sunucu URL'si ve API anahtarı veya yerel bir Hugging Face model kimliği. OpenAI tarzı API; OpenAI, Azure OpenAI, vLLM, Ollama, llama.cpp, LM Studio, OpenRouter ve diğerleri tarafından desteklenmektedir; Claude ise Anthropic'in OpenAI uyumlu uç noktası aracılığıyla desteklenir. API durumu için ekstra bir paket gerekmez.

Arka Uç LLM'in Yaptığı İş Yazılanlar
morph=llm her belirteç (token) için lemma, UPOS ve UD özellikleri word.lemma/upos/feats
morph=apertium_llm her zamanki gibi Apertium analizleri; belirsiz kelimeler için LLM, dönüştürücünün okumalarından birini seçer (kendi başına analiz uyduramaz); yapılandırılmış bir apertium_tagger_cmd yine de önce karar verir ve tüm cümleler LLM'e tek bir paralel yığın olarak gönderilir word.lemma/upos/feats
ner=llm araç setinin belirteçleri üzerinde varlık aralıkları (etiketler: ner_labels=["PER", "LOC", "ORG"]) word.ner, sentence.entities
translate=llm translate_tgt_lang (ISO kodu veya dil adı) diline çeviri sentence.translation, doc.translation
sentiment=llm positive / negative / neutral (veya sentiment_labels=[...]) sentence.sentiment
spellcheck=llm yazım denetimi; bir cümlenin %30'undan fazlasını yeniden yazan yanıtlar reddedilir sentence.correction, sentence.corrections, doc.corrected_text

1. vLLM ile yerel model (GPU sunucusu)

Küçük bir modelle OpenAI uyumlu bir sunucu başlatın (Linux + NVIDIA GPU; vLLM'i kendi ortamına kurun, pip install vllm):

bash scripts/start_vllm_server.sh                                   # :8000 üzerinde Qwen/Qwen2.5-1.5B-Instruct
MODEL=Qwen/Qwen3-8B PORT=8001 bash scripts/start_vllm_server.sh     # başka bir model / port
GPUS=0,1 TP=2 MODEL=Qwen/Qwen3-32B bash scripts/start_vllm_server.sh # iki GPU

Ardından TurkicNLP'den kullanın (başka bir makineden kullanıyorsanız localhost yerine sunucu adını yazın):

import turkicnlp

nlp = turkicnlp.Pipeline(
    "kaz",
    processors=["tokenize", "morph", "ner", "sentiment", "spellcheck", "translate"],
    morph_backend="llm", ner_backend="llm", sentiment_backend="llm", translate_backend="llm",
    translate_tgt_lang="eng",
    llm_model="Qwen/Qwen2.5-1.5B-Instruct",       # sunucunun başlatıldığı model
    llm_base_url="http://localhost:8000/v1",
    llm_api_key="turkicnlp-local",                # start_vllm_server.sh'nin API_KEY değeri
)
doc = nlp("Қасым-Жомарт Тоқаев кеше Астанада шетелдік инвесторлармен кездесті.")

for w in doc.words:
    print(w.text, w.lemma, w.upos, w.feats)
print(doc.entities, doc.sentences[0].sentiment, doc.corrected_text, doc.translation)

GPU olmadan (örneğin Mac'te) Ollama kullanın: ollama pull qwen2.5:7b, ardından llm_model="qwen2.5:7b", llm_base_url="http://localhost:11434/v1", llm_api_key="ollama".

2. OpenAI

import os, turkicnlp

os.environ["OPENAI_API_KEY"] = "sk-..."           # veya llm_api_key="sk-..." parametresini geçin

nlp = turkicnlp.Pipeline(
    "uzb",
    processors=["tokenize", "ner", "translate"],
    ner_backend="llm", translate_backend="llm", translate_tgt_lang="deu",
    llm_model="gpt-4.1-mini",                     # hesabınızdaki herhangi bir sohbet modeli
)                                                  # llm_base_url varsayılan olarak https://api.openai.com/v1'dir
doc = nlp("Shavkat Mirziyoyev Toshkentda yangi maktabni ochdi.")
print(doc.entities, doc.translation)

3. Claude (Anthropic)

import os, turkicnlp

os.environ["ANTHROPIC_API_KEY"] = "sk-ant-..."    # veya llm_api_key="sk-ant-..." parametresini geçin

nlp = turkicnlp.Pipeline(
    "tyv",
    processors=["tokenize", "morph", "spellcheck"],
    morph_backend="llm",
    llm_provider="anthropic",                     # https://api.anthropic.com/v1, ANTHROPIC_API_KEY'den alınan anahtar
    llm_model="claude-sonnet-4-6",
)
doc = nlp("Мен бөгүн школага бардым.")
print([(w.text, w.lemma, w.upos, w.feats) for w in doc.words], doc.corrected_text)

Model isimleri değişebilir; hesabınızın sunduğu herhangi bir modeli kullanın. llm_provider="anthropic" ile temperature parametresi gönderilmez, çünkü güncel Claude modelleri yalnızca varsayılan değeri kabul eder.

4. Süreç içi Hugging Face modeli (sunucusuz)

nlp = turkicnlp.Pipeline("tur", processors=["tokenize", "ner"], ner_backend="llm",
                         llm_provider="hf", llm_model="Qwen/Qwen2.5-1.5B-Instruct")

pip install "turkicnlp[transformers]" gerektirir; istekler tek tek çalıştırılır, bu nedenle küçük modeller ve az miktarda metin içindir. Daha büyük işler için modeli vLLM ile sunun.

Örnek çalışma

examples/llm_backend_demo.py tüm LLM arka uçlarını tek bir metin üzerinde çalıştırır (--backend vllm | ollama | openai | claude | hf):

$ python examples/llm_backend_demo.py --backend hf --model Qwen/Qwen2.5-1.5B-Instruct --lang kaz
...

Bu çalışma, bir dizüstü bilgisayarda 1.5B parametreli bir model kullanmıştır; bu da arka ucun nasıl çalıştığını ve modelin neden önemli olduğunu gösterir:

  • Doğrulanmış çıktı. İlk cümle için modelin morfoloji yanıtı, geri bildirimle yapılan yeniden denemeden sonra bile belirteçleri kapsamadı, bu nedenle bu alanlar boş kalır ve günlükte [1 failed] yazar — araç seti kaydırılmış veya uydurulmuş analizler yazmaz. morph_on_error="raise" ile bunun yerine dururdu.
  • Yazım koruması. Yazım düzeltmesi olmayan kelime değişiklikleri (yeniden yazılan ekler, eklenen kelimeler) geri alınır; Қасым → Қазым gibi makul görünen tek harfli bir değişiklik yine de geçer, bu bir model hatasıdır.
  • Kalite. Lemmalar, özellikler, ORG etiketi ve "metalled" yanlıştır: 1.5B'lik bir model kurulumu test etmek için yeterlidir, Kazakça analizi için değil. Gerçek işler için daha büyük bir model (örneğin vLLM üzerinde Qwen3-32B, GPT veya Claude) kullanın ve önce kendi dilinizde değerlendirin.

Nasıl çalışır ve istem (prompt) nerededir?

Her LLM arka ucu sıradan bir işlem hattı işlemcisidir. turkicnlp/resources/prompts/*.json içindeki görev başına sürümlü bir dosyadan oluşan istem şablonunu; dil, alfabe, araç setinin belirteçleri ve birkaç örnekle doldurur, modelden JSON ister, yanıtı doğrular (kullanılamaz durumdaysa bir kez daha sorar) ve normal Document alanlarını yazar. doc._processor_log, model ve istem sürümünü kaydeder, örneğin ner:llm(Qwen/Qwen2.5-1.5B-Instruct, ner/v1). Bir istemi ner_prompt_file="my_ner.json" ile değiştirin (şablonda yalnızca bilinen değişkenlerin {name} yer tutucuları doldurulur; diğer parantezler, örneğin bir JSON örneği, yazıldığı gibi bırakılır) veya ner_examples=[{"vars": {"tokens": [...]}, "answer": {...}}] ile örnekler ekleyin.

Ayarlar (llm_* tüm LLM işlemcileri için geçerlidir; <processor>_llm_* bunlardan birini geçersiz kılar, örn. ner_llm_model="gpt-4.1"):

Seçenek Varsayılan
llm_model TURKICNLP_LLM_MODEL ortam değişkeni model adı / Hugging Face kimliği
llm_base_url TURKICNLP_LLM_BASE_URL ortam değişkeni, aksi takdirde https://api.openai.com/v1 örn. http://localhost:8000/v1 (vLLM), http://localhost:11434/v1 (Ollama)
llm_api_key TURKICNLP_LLM_API_KEY ortam değişkeni; llm_base_url api.openai.com olduğunda OPENAI_API_KEY; anthropic için ANTHROPIC_API_KEY Authorization: Bearer … olarak gönderilir; repr(LLMConfig) içinde (başlık değerleri gibi) maskelenir
llm_provider openai anthropic (Claude), hf (yerel transformers modeli)
llm_headers, llm_extra_body – ek HTTP başlıkları (örn. Azure api-key) / istek alanları
llm_temperature, llm_max_tokens 0.0, 2048 llm_temperature=None sıcaklık değeri göndermez
llm_timeout, llm_max_retries, llm_max_workers 120 sn, 3, 4 belge başına paralel istekler; Retry-After bekleme süreleri 60 sn ile sınırlandırılmıştır
llm_json_mode auto JSON şeması → JSON nesnesi → düz istem; yalnızca sunucu response_format değerinin desteklenmediğini yanıtladığında bir alt seviyeye iner
llm_cache, llm_cache_dir açık, ~/.turkicnlp/llm_cache.sqlite aynı istekler önbellekten yanıtlanır; yalnızca doğrulamadan geçen yanıtlar saklanır; yazılabilir olmayan bir önbellek konumu, uyarı vererek önbelleği devre dışı bırakır
<processor>_on_error warn kullanılamaz yanıtlar (geçersiz JSON, HTML hata sayfası, kopan bağlantı gibi) durumunda durmak için raise kullanılır (kullanılamaz bir yanıt yalnızca kendi cümlesini etkiler)
translate_tgt_lang, translate_tgt_script eng kod olarak hedef (uzb), alfabe ile kod (uzb_Cyrl) veya isim; istem alfabeyi belirtir, örn. "Özbekçe (Kiril alfabesi)"
llm_client – paylaşmak için bir turkicnlp.LLMClient nesnesi iletin

Araç setinin analizlerini bağlam olarak kullanan serbest biçimli sorular:

doc = turkicnlp.Pipeline("kaz", processors=["tokenize", "morph"])("Мен кеше мектепке бардым.")
print(turkicnlp.llm.ask("Explain the verb form in this sentence.", doc=doc,
                        llm_provider="anthropic", llm_model="claude-sonnet-4-6"))

Soruyla birlikte gönderilen bağlam max_words=400 kelime ile sınırlıdır (ask(..., max_words=...)).

LLM kalitesi diller arasında büyük farklılıklar gösterir (Türkçe, Kazakça, Özbekçe, Azerbaycan Türkçesi için iyidir; Hakasça, Tuvaca, Nogayca veya Kumukça için genellikle zayıftır). Bir modele güvenmeden önce diliniz için değerlendirin ve metnin yapılandırdığınız sunucuya gönderildiğini unutmayın.

Stanza Arka Ucunu Kullanma

from turkicnlp.processors.stanza_backend import (
    StanzaTokenizer, StanzaPOSTagger, StanzaLemmatizer, StanzaNERProcessor, StanzaDepParser
)
from turkicnlp.models.document import Document

# Modeller ilk kullanımda otomatik olarak indirilir
doc = Document(text="Merhaba dünya.", lang="tur")

for Proc in [StanzaTokenizer, StanzaPOSTagger, StanzaLemmatizer, StanzaNERProcessor, StanzaDepParser]:
    proc = Proc(lang="tur")
    proc.load()
    doc = proc.process(doc)

for word in doc.words:
    print(f"{word.text:12} {word.upos:6} {word.lemma:12} head={word.head} {word.deprel}")

# CoNLL-U formatına aktar
print(doc.to_conllu())

Karma Arka Uçlar

from turkicnlp.processors.tokenizer import RegexTokenizer
from turkicnlp.processors.stanza_backend import StanzaPOSTagger, StanzaNERProcessor, StanzaDepParser
from turkicnlp.models.document import Document

doc = Document(text="Мен мектепке бардым.", lang="kaz")

# Kural tabanlı belirteçleyici + Stanza POS/ayrıştırma (önceden belirlenmiş mod)
tokenizer = RegexTokenizer(lang="kaz")
tokenizer.load()
doc = tokenizer.process(doc)

pos = StanzaPOSTagger(lang="kaz")
pos.load()
doc = pos.process(doc)

ner = StanzaNERProcessor(lang="kaz")
ner.load()
doc = ner.process(doc)

parser = StanzaDepParser(lang="kaz")
parser.load()
doc = parser.process(doc)

Çoklu Alfabe Desteği

# Kazakça — Kiril ve Latin alfabesini otomatik algılar
doc = nlp("Мен мектепке бардым")    # Kiril
doc = nlp("Men mektepke bardym")     # Latin

# Açık alfabe seçimi
nlp_cyrl = turkicnlp.Pipeline("kaz", script="Cyrl")
nlp_latn = turkicnlp.Pipeline("kaz", script="Latn")

# Transliterasyon köprüsü — Latin girdisi üzerinde Kiril modelini çalıştır
nlp = turkicnlp.Pipeline("kaz", script="Latn", transliterate_to="Cyrl")

Uygurca (Fars-Arap)

nlp_ug = turkicnlp.Pipeline("uig", script="Arab")
doc = nlp_ug("مەن مەكتەپكە باردىم")

Transliterasyon

Transliterator sınıfı, desteklenen herhangi bir dil çifti için metni alfabeler arasında dönüştürür:

from turkicnlp.scripts import Script
from turkicnlp.scripts.transliterator import Transliterator

# Kazakça Kiril → Latin (2021 resmi alfabe)
t = Transliterator("kaz", Script.CYRILLIC, Script.LATIN)
print(t.transliterate("Қазақстан Республикасы"))
# → Qazaqstan Respublikasy

# Özbekçe Latin → Kiril
t = Transliterator("uzb", Script.LATIN, Script.CYRILLIC)
print(t.transliterate("O'zbekiston Respublikasi"))
# → Ўзбекистон Республикаси

# Uygurca Fars-Arap → Latin (ULY)
t = Transliterator("uig", Script.PERSO_ARABIC, Script.LATIN)
print(t.transliterate("مەكتەپ"))
# → mektep

# Azerbaycan Türkçesi Latin → Kiril
t = Transliterator("aze", Script.LATIN, Script.CYRILLIC)
print(t.transliterate("Azərbaycan"))
# → Азәрбайҹан

# Türkmence Latin → Kiril
t = Transliterator("tuk", Script.LATIN, Script.CYRILLIC)
print(t.transliterate("Türkmenistan"))
# → Түркменистан

# Tatarca Kiril → Latin (Zamanälif)
t = Transliterator("tat", Script.CYRILLIC, Script.LATIN)
print(t.transliterate("Татарстан Республикасы"))
# → Tatarstan Respublikası

Ortak Türk Alfabesi (CTS)

Eski Türk dili hariç desteklenen her dil (23 dil), Türk dilleri arasında diller arası birlikte çalışabilirlik için tasarlanmış birleşik (34 harfli) Latin tabanlı bir alfabe olan Ortak Türk Alfabesi'ne dönüştürülebilir. Zaten CTS uyumlu bir alfabe kullanan Türkçede, çoğu harf değişikliğe uğramadan dönüştürülür:

from turkicnlp.scripts import Script
from turkicnlp.scripts.transliterator import Transliterator

# Türkçe Latin → CTS (neredeyse aynı alfabeler)
t = Transliterator("tur", Script.LATIN, Script.COMMON_TURKIC)
print(t.transliterate("Türkçe güzel bir dil"))
# → Türkçe güzel bir dil

# Diğer diller ortak bir gösterim kazanır
t = Transliterator("kaz", Script.CYRILLIC, Script.COMMON_TURKIC)
print(t.transliterate("Қазақстан"))
# → Qazaqstan

t = Transliterator("aze", Script.LATIN, Script.COMMON_TURKIC)
print(t.transliterate("Azərbaycan dili"))
# → Azärbaycan dili

t = Transliterator("tuk", Script.LATIN, Script.COMMON_TURKIC)
print(t.transliterate("Türkmen dili baýdyr"))
# → Türkmen dili baydır

Eski Türk Rünik Alfabesi

TurkicNLP, Eski Türk rünik yazıtlarının (Orhun-Yenisey alfabesi, Unicode bloğu U+10C00–U+10C4F) Latin alfabesine transliterasyonunu destekler:

from turkicnlp.scripts import Script
from turkicnlp.scripts.transliterator import Transliterator

t = Transliterator("otk", Script.OLD_TURKIC_RUNIC, Script.LATIN)

# Bireysel rünik karakterler
print(t.transliterate("\U00010C45\U00010C07\U00010C3C\U00010C1A"))  # 𐱅𐰇𐰼𐰚
# → törk  (Türk)

# Transliteratör, her rünik karakteri standart Türkolojik Latin karşılığına eşler
# ve hem Orhun hem de Yenisey varyant biçimlerini (örn. arka ve ön 
# ünlü bağlamlarına sahip ünsüzler için ayrı glifler) işler.

Sinirsel POS Etiketleyici & Bağımlılık Ayrıştırıcı (Glot500)

Çok dilli Glot500 tabanlı model, 15 Türk dili için (10 eğitimli + 5 sıfır örnekli) UPOS etiketleme ve bağımlılık ayrıştırma sağlar. pip install "turkicnlp[transformers]" gerektirir.

import turkicnlp

# Belirteçleyici + çok dilli Glot500 POS/DepParse modelini indir
turkicnlp.download("kaz", processors=["tokenize", "pos", "depparse"])

nlp = turkicnlp.Pipeline(
    "kaz",
    processors=["tokenize", "pos", "depparse"],
    pos_backend="multilingual_glot500",
    depparse_backend="multilingual_glot500",
)

doc = nlp("Мен мектепке бардым.")

for sentence in doc.sentences:
    for word in sentence.words:
        print(f"{word.text:12} {word.upos:6} head={word.head} {word.deprel}")

Morpheme Tokenizer (Hibrit FST + Sinir Ağı)

MorphemeTokenizer, çekimli Türk dillerindeki kelimeleri etiketli yüzey biçimbirimlerine (morpheme) ayırır. Her kelime için, Apertium HFST okumalarını, dilin kendine özgü sonek allomorf tablolarıyla (ünlü uyumu, ünsüz değişimleri, yardımcı ünsüzler) eşleştirerek bir çözümlemeye dönüştürür ve kelimenin tamamını açıklayan okumayı korur; çelişkileri ise sinir ağı (Glot500) tabanlı kök ve kelime türü tahminiyle uyum sağlayarak çözer. Türetim ekleri, yalnızca dönüştürücü (transducer) daha kısa bir kökü doğruladığında ayrıştırılır. Dönüştürücünün kullanılabilir bir okuma sunamadığı durumlarda, bunun yerine sinir ağı analizi kullanılır. pip install "turkicnlp[hfst,transformers]" komutuyla kurulması gerekir (yalnızca ikisinden biriyle de çalışabilir ancak doğruluk oranı daha düşüktür).

20 dilde 13 kelime kategorisini kapsayan 483 kelimelik bir test setinde, hibrit model kelimelerin %89'unu tam olarak doğru ayrıştırmıştır (yalnızca Apertium: %79, yalnızca sinir ağı: %68). Test seti ve değerlendirme betiği, makalenin eşlik eden deposunda mevcuttur; ayrıştırma işlemi türetimlerde ve Apertium sözlüğü küçük olan dillerde daha zayıftır (bkz. ROADMAP.md).

from turkicnlp.processors.morpheme_tokenizer import MorphemeTokenizer

# --- Kazakça ---
tok = MorphemeTokenizer(lang="kaz")
tok.load()

result = tok.segment("бармадым")
print(result.segments)
# ['бар', 'ма', 'ды', 'м']

print(result.labeled)
# [('бар', 'STEM'), ('ма', 'NEG'), ('ды', 'PST'), ('м', '1SG')]

result = tok.segment("оқығандар")
print(result.labeled)
# [('оқы', 'STEM'), ('ған', 'PTCP.PST'), ('дар', 'PLUR')]

# --- Türkçe ---
tok = MorphemeTokenizer(lang="tur")
tok.load()

result = tok.segment("evlerinden")
print(result.labeled)
# [('ev', 'STEM'), ('ler', 'PLUR'), ('in', 'POSS.2SG'), ('den', 'ABL')]

result = tok.segment("gidiyorlar")
print(result.labeled)
# [('gid', 'STEM'), ('iyor', 'PROG'), ('lar', '3PL')]

# Özel isimler için kesme işareti sınırları yönetilir
result = tok.segment("İstanbul'da")
print(result.labeled)
# [('İstanbul', 'STEM'), ("'da", 'LOC')]

# --- Özbekçe ---
tok = MorphemeTokenizer(lang="uzb")
tok.load()

result = tok.segment("kitobimdan")
print(result.labeled)
# [('kitob', 'STEM'), ('im', 'POSS.1SG'), ('dan', 'ABL')]

result = tok.segment("bolalarning")
print(result.labeled)
# [('bola', 'STEM'), ('lar', 'PLUR'), ('ning', 'GEN')]

Sonek allomorf tabloları 23 dil için mevcuttur (turkicnlp/resources/morpheme_rules.json; Eski Türkçe hariç hepsi); Apertium yolu, dönüştürücüsü olan 20 dil için kullanılabilir. Sonuçlar kelime bazında önbelleğe alınır (MorphemeTokenizer(lang, cache_size=...)).

Biçimbirim farkındalıklı alt kelime ayrıştırma (sp_tokenize)

sp_tokenize, biçimbirimlerine ayrılmış metinler üzerinde eğitilmiş bir SentencePiece modeliyle metni kodlar. Girdi kelimeleri önce MorphemeTokenizer ile ayrıştırılır, böylece parçalar biçimbirim sınırlarını aşmaz. Her cümleye sp_tokens ve sp_ids ekler. Önceden eğitilmiş modeller henüz yayınlanmamıştır (ROADMAP.md); kendi derleminiz üzerinde turkicnlp/tools/annotate_corpus.py + SentencePiece kullanarak bir model eğitebilir ve yolunu belirtebilirsiniz:

import turkicnlp

nlp = turkicnlp.Pipeline(
    "kaz",
    processors=["tokenize", "sp_tokenize"],
    sp_tokenize_model_path="models/sp/sp_kaz.model",
)
doc = nlp("Мен мектептерімізден оқыдым")
print(doc.sentences[0].sp_tokens)

Sinirsel Biçimbilimsel Analiz ve Lemmatizer (Glot500)

Çok dilli Glot500 tabanlı biçimbilim modeli, 23 Türk dili için UPOS etiketleme, UD biçimbilimsel özellikler ve lemmatizasyon sağlar. pip install "turkicnlp[transformers]" gerektirir.

import turkicnlp

# Tokenizer + çok dilli Glot500 biçimbilim modelini indir
turkicnlp.download("tur", processors=["tokenize", "morph_neural"])

nlp = turkicnlp.Pipeline(
    "tur",
    processors=["tokenize", "morph_neural"],
)

doc = nlp("Çocuklar okula gidiyorlar.")

for sentence in doc.sentences:
    for word in sentence.words:
        print(f"{word.text:20} {word.upos:6} {word.lemma:15} {word.feats}")

Çıktı:

Çocuklar             NOUN   çocuk           Case=Nom|Number=Plur
okula                NOUN   okul            Case=Dat|Number=Sing
gidiyorlar           VERB   gitmek          Aspect=Prog|Mood=Ind|Number=Plur|Person=3|Tense=Pres|VerbForm=Fin
.                    PUNCT  .               _

Biçimbilimsel analizör, düşük kaynaklı diller için de çalışır:

# Saha (Yakutça) — doğrudan eğitilmiş
turkicnlp.download("sah", processors=["tokenize", "morph_neural"])
nlp = turkicnlp.Pipeline("sah", processors=["tokenize", "morph_neural"])
doc = nlp("Мин оскуолаҕа бардым.")

# Karakalpakça — Özbekçe vekil gömmeleri (proxy embedding) üzerinden sıfır-atış (zero-shot)
turkicnlp.download("kaa", processors=["tokenize", "morph_neural"])
nlp = turkicnlp.Pipeline("kaa", processors=["tokenize", "morph_neural"])
doc = nlp("Men mektepke bardım.")

Desteklenen Diller ve Bileşenler

Türk dillerinin dağılım haritası

Türk dillerinin coğrafi dağılımı (kaynak: Wikimedia Commons)

Aşağıdaki tablo, desteklenen tüm dilleri, mevcut alfabelerini ve işlemci durumlarını göstermektedir.

Gösterge:

Sembol Altyapı Açıklama
■ Kural tabanlı Regex tokenizer, kısaltma listeleri
◆ Apertium FST hfst aracılığıyla sonlu durum biçimbilimi (GPL-3.0, ayrıca indirilir)
● Stanza/UD Universal Dependencies ağaç bankaları üzerinde eğitilmiş sinirsel modeller
▲ Özel Stanza turkic-nlp tarafından barındırılan özel eğitimli Stanza modelleri
◇ Glot500 Sinirsel Çok dilli POS etiketleyici ve bağımlılık ayrıştırıcı (Glot500 omurgası, 15 dil)
◈ Glot500 Sinirsel Biçimbilim Çok dilli biçimbilimsel analizör ve lemmatizer (Glot500 omurgası, 22 dil)
★ NLLB NLLB-200 aracılığıyla gömmeler ve makine çevirisi
◎ Omnilingual ASR Konuşma tanıma (SpeechRecognizer, konuşma + metin ortamı)
○ Planlanan Uygulanması planlanıyor
— Henüz mevcut değil

Oğuz Grubu

Dil Kod Alfabe(ler) Tokenize Morph POS Lemma DepParse NER Embed Translate ASR
Türkçe tur Latn ■ ● ◆ ◈ ● ◇ ● ◈ ● ◇ ● ★ ★ ◎
Azerbaycan Türkçesi aze Latn, Cyrl ■▲ ◆ ◈ ▲ ◇ ▲ ◈ ▲ ◇ — ★ ★ ◎
İran Azerbaycan Türkçesi azb Arab ■ — — — — — ★ ★ ◎
Türkmence tuk Latn, Cyrl ■▲ ◆ ◈ ▲ ◇ ▲ ◈ ▲ ◇ — ★ ★ ◎
Gagavuzca gag Latn ■ ◆ ◈ ◈ ◈ — — — — ◎

Kıpçak Grubu

Dil Kod Alfabe(ler) Tokenize Morph POS Lemma DepParse NER Embed Translate ASR
Kazakça kaz Cyrl, Latn ■ ● ◆ ◈ ● ◇ ● ◈ ● ◇ ● ★ ★ ◎
Kırgızca kir Cyrl ■ ● ◆ ◈ ● ◇ ● ◈ ● ◇ — ★ ★ ◎
Tatarca tat Cyrl, Latn ■▲ ◆ ◈ ▲ ◇ ▲ ◈ ▲ ◇ — ★ ★ ◎
Başkurtça bak Cyrl ■▲ ◆ ◈ ▲ ◇ ▲ ◈ ▲ ◇ — ★ ★ ◎
Kırım Tatarca crh Latn, Cyrl ■ ◆ ◈ ◈ ◈ — — ★ ★ ◎
Karakalpakça kaa Latn, Cyrl ■ ◆ ◈ ◇ ◈ ◈ ◇ — — — ◎
Nogayca nog Cyrl ■ ◆ ◈ ◇ ◈ ◈ ◇ — — — ◎
Kumukça kum Cyrl ■ ◆ ◈ ◇ ◈ ◈ ◇ — — — ◎
Karaçay-Balkarca krc Cyrl ■ ◆ ◈ ◇ ◈ ◈ ◇ — — — ◎

Karluk Grubu

Dil Kod Alfabe(ler) Tokenize Morph POS Lemma DepParse NER Embed Translate ASR
Özbekçe uzb Latn, Cyrl ■ ▲ ◆ ◈ ▲ ◇ ▲ ◈ ▲ ◇ — ★ ★ ◎
Uygurca uig Arab, Latn, Cyrl ■ ● ◆ ◈ ● ◇ ● ◈ ● ◇ — ★ ★ ◎

Sibirya Kolu

Dil Kod Alfabe(ler) Belirteçleme Morfoloji POS Lemma Bağımlılık Ayrıştırma NER Gömme Çeviri ASR
Saha (Yakut) sah Cyrl ■ ◆ ◈ ◇ ◈ ◈ ◇ — — — ◎
Altay alt Cyrl ■ ◆ ◈ ◈ ◈ — — — — ◎
Tuvaca tyv Cyrl ■ ◆ ◈ ◈ ◈ — — — — —
Hakasça kjh Cyrl ■ ◆ ◈ ◈ ◈ — — — — ◎

Ogur Kolu

Dil Kod Alfabe(ler) Belirteçleme Morfoloji POS Lemma Bağımlılık Ayrıştırma NER Gömme Çeviri ASR
Çuvaşça chv Cyrl ■ ◆ ◈ ◈ ◈ — — — — ◎

Argu Kolu

Dil Kod Alfabe(ler) Belirteçleme Morfoloji POS Lemma Bağımlılık Ayrıştırma NER Gömme Çeviri ASR
Halaçça klj Latn ■ ◈ ◈ ◈ — — — — —

Tarihi Diller

Dil Kod Alfabe(ler) Belirteçleme Morfoloji POS Lemma Bağımlılık Ayrıştırma NER Gömme Çeviri ASR
Osmanlı Türkçesi ota Arab, Latn ■ ◈ ◇ ◈ ◈ ◇ — — — —
Eski Türkçe otk Orkh, Latn ■ — — — — — — — —

Stanza/UD Model Detayları

Stanza arka ucu, Universal Dependencies ağaç bankaları üzerinde eğitilmiş sinirsel modeller sağlar. Resmi Stanza modelleri (●) Stanza'nın model merkezinden indirilir. Özel olarak eğitilmiş modeller (▲) turkic-nlp/trained-stanza-models adresinde barındırılır ve otomatik olarak indirilir.

Dil Stanza Kodu Tür UD Ağaç Bankası/Bankaları Stanza İşleyicileri NER Veri Seti
Türkçe tr ● IMST (varsayılan), BOUN, FrameNet, KeNet, ATIS, Penn, Tourism tokenize, pos, lemma, depparse, ner Starlang NER
Kazakça kk ● KTB tokenize, pos, lemma, depparse, ner KazNERD
Uygurca ug ● UDT tokenize, pos, lemma, depparse —
Kırgızca ky ● KTMU tokenize, pos, lemma, depparse —
Özbekçe uz ▲ UzUDT tokenize, pos, lemma, depparse —
Türkmence tk ▲ Tk-TUD tokenize, pos, lemma, depparse —
Azerbaycan Türkçesi az ▲ Az-TUD tokenize, pos, lemma, depparse —
Tatarca tt ▲ Ta-TUD tokenize, pos, lemma, depparse —
Başkurtça ba ▲ Ba-TUD tokenize, pos, lemma, depparse —

Çok Dilli Glot500 Sinirsel Modeller

TurkicNLP, alfabe bağdaştırıcıları, dil gömmeleri ve paylaşımlı BiLSTM katmanları ile dondurulmuş bir Glot500 omurgası üzerine inşa edilmiş iki çok dilli sinirsel model sunar. Her iki model de turkic-nlp/trained-stanza-models adresinde barındırılır ve otomatik olarak indirilir.

Model Sembol Görevler Diller Mimari
POS & Bağımlılık Ayrıştırıcı ◇ UPOS, bağımlılık ayrıştırma 10 eğitilmiş + 5 sıfır-atış (toplam 15) Glot500 → ScriptAdapter → LangEmbed → BiLSTM → POS Head + Biaffine Parser
Morfolojik Analizör ◈ UPOS, UD morfolojik özellikler, lemmatizasyon 20 eğitilmiş + 3 sıfır-atış (23 model dili = 22 TurkicNLP kodu; her iki Altay çeşidi alt ile eşleşir) Glot500 → ScriptAdapter → LangEmbed → BiLSTM → POS Head + MorphFeat Head + CharCNN LemmaHead

POS & Bağımlılık Ayrıştırıcı desteklenen diller: Türkçe, Azerbaycan Türkçesi, Özbekçe, Türkmence, Kazakça, Kırgızca, Başkurtça, Tatarca, Uygurca, Osmanlı Türkçesi + sıfır-atış: Karakalpakça, Kumukça, Saha, Karaçay-Balkarca, Nogayca

Morfolojik Analizör desteklenen diller: Türkçe, Azerbaycan Türkçesi, Özbekçe, Türkmence, Kazakça, Kırgızca, Başkurtça, Tatarca, Uygurca, Osmanlı Türkçesi, Kırım Tatarca, Hakasça, Saha, Tuvaca, Çuvaşça, Gagauzca, Kumukça, Güney Altayca, Halaçça, Kuzey Altayca + sıfır-atış: Karakalpakça, Karaçay-Balkarca, Nogayca

Transliterasyon Desteği

Çok alfabeli tüm diller için çift yönlü alfabe dönüşümü mevcuttur. Transliteratör, dile özgü eşleme tabloları ile açgözlü (greedy) en uzun eşleşme algoritmasını kullanır.

Dil Yön Alfabeler Standart
Kazakça ↔ Çift yönlü Kiril ↔ Latin 2021 resmi Latin alfabesi
Özbekçe ↔ Çift yönlü Kiril ↔ Latin 1995 resmi Latin alfabesi
Azerbaycan Türkçesi ↔ Çift yönlü Kiril ↔ Latin 1991 resmi Latin alfabesi
Tatarca ↔ Çift yönlü Kiril ↔ Latin Zamanälif
Türkmence ↔ Çift yönlü Kiril ↔ Latin 1993 resmi Latin alfabesi
Karakalpakça ↔ Çift yönlü Kiril ↔ Latin 2016 Latin alfabesi
Kırım Tatarca ↔ Çift yönlü Kiril ↔ Latin Standart Kırım Tatar Latin
Uygurca ↔ Çift yönlü Fars-Arap ↔ Latin, Fars-Arap ↔ Kiril, Latin ↔ Kiril Uygur Latin Yéziqi (ULY), Uygur Kiril
Osmanlı Türkçesi → Tek yönlü Latin → Fars-Arap Akademik transkripsiyon
Eski Türkçe → Tek yönlü Runik → Latin Türkoloji konvansiyonu
Eski Türkçe hariç hepsi (23) → Yerel alfabe -> CTS Latin / Kiril / Fars-Arap → CTS Ortak Türk Alfabesi

Apertium FST Kalite Seviyeleri

Seviye Açıklama Diller
Üretim (Production) Haber metinlerinde >%90 kapsam Türkçe, Kazakça, Tatarca
Kararlı (Stable) İyi kapsam, aktif olarak sürdürülüyor Kırgızca, Özbekçe
Beta Makul kapsam, bazı boşluklar var Azerbaycan Türkçesi (birçok yaygın fiil eksik), Türkmence, Başkurtça, Uygurca, Kırım Tatarca, Çuvaşça
Prototip Sınırlı kapsam, deneysel Gagauzca, Saha, Karakalpakça, Nogayca, Kumukça, Karaçay-Balkarca, Altayca, Tuvaca, Hakasça

Model Kataloğu ve Apertium İndirmeleri

TurkicNLP, dil/alfabe/işleyici başına indirme kaynaklarını tanımlamak için bir model kataloğu kullanır. Katalog şu konumda bulunur:

  • turkicnlp/resources/catalog.json (paketle gelen varsayılan)
  • Uzak geçersiz kılma: ModelRegistry.CATALOG_URL (veya TURKICNLP_CATALOG_URL)

Katalog, her dil ve alfabe için mevcut işleyicileri, bunların arka uçlarını, varsayılan arka ucu ve indirme kaynağını listeler. turkicnlp.download() bunu okur ve eksik olanları getirir: turkic-nlp/apertium-data sürümlerinden önceden derlenmiş Apertium .hfst dönüştürücüleri (yukarı akış Apertium depolarından CI tarafından oluşturulmuştur), turkic-nlp/trained-stanza-models adresinden özel Stanza ve Glot500 kontrol noktaları ve Hugging Face modelleri (Glot500 omurgası, NLLB). Bir sürüm birden fazla dönüştürücü içerdiğinde (örneğin krc@Seegmiller, uzb_guesser), ana <lang>.automorf.hfst dosyası kullanılır.

İndirme klasörü

Tüm modeller ve kaynaklar şu klasöre indirilir: ~/.turkicnlp.

Mimari

TurkicNLP, Stanza'nın modüler işlem hattı (pipeline) tasarımını takip eder:

Pipeline("tur", processors=["tokenize", "morph", "pos", "ner", "depparse"])
    │
    ▼
  Document ─── metin: "Ben okula vardım"
    │
    ├── script_detect    → alfabe = "Latn"
    ├── tokenize         → cümleler, belirteçler, kelimeler
    ├── morph (Apertium) → lemma, pos, özellikler (HFST aracılığıyla)
    ├── pos (Stanza)     → UPOS, XPOS, özellikler (bu alanlara sahiptir)
    ├── ner (Stanza)     → BIO etiketleri ve varlık aralıkları
    └── depparse         → baş (head), bağımlılık ilişkisi (deprel)
    │
    ▼
  Document ─── tüm katmanlarla açıklanmış
Pipeline("sah", processors=["tokenize", "morph_neural"])
    │
    ▼
  Document ─── metin: "Мин оскуолаҕа бардым"
    │
    ├── script_detect          → alfabe = "Cyrl"
    ├── tokenize               → cümleler, belirteçler, kelimeler
    └── morph_neural (Glot500) → upos, özellikler, lemma
    │
    ▼
  Document ─── morfolojik analiz ile açıklanmış
Pipeline("azb", processors=["embeddings", "translate"], translate_tgt_lang="eng")
    │
    ▼
  Document ─── metin: "من کتاب اوخویورام"
    │
    ├── script_detect          → alfabe = "Arab"
    ├── embeddings (NLLB)      → cümle/belge vektörleri
    └── translate (NLLB)       → cümle/belge çevirisi
           (src, FLORES haritasından çözümlendi: azb -> azb_Arab,
            tgt, ISO-3'ten çözümlendi: eng -> eng_Latn)
    │
    ▼
  Document ─── tüm katmanlarla açıklanmış

İşlemciler ve arka uçlar

Bu isimleri Pipeline(lang, processors=[...]) içinde kullanın; <name>_backend="..." ile bir arka uç seçin ve seçenekleri <name>_<option>=... (örneğin translate_tgt_lang="eng") şeklinde iletin. Bağımlılıklar otomatik olarak eklenir.

İşlemci Arka Uçlar (katalogda birden fazla varsa varsayılan ilk sıradadır) Ekledikleri Varsayılan olarak yüklü
tokenize rule, rule_arabic, stanza cümleler, belirteçler, kelimeler ✓
mwt neural (kural tabanlı), stanza çok kelimeli belirteç açılımı ✓ (mevcut olduğunda)
morph apertium, llm, apertium_llm kök, UPOS, özellikler (HFST / LLM / HFST + LLM seçimi) ✓ (apertium)
morph_neural multilingual_glot500_morph UPOS, özellikler, kök ✓ (morph yoksa)
pos stanza, multilingual_glot500_model UPOS, XPOS, özellikler ✓
feats multilingual_glot500_morph UD özellikleri ✓
lemma stanza, multilingual_glot500_morph kök ✓
depparse stanza, multilingual_glot500_model baş (head), deprel ✓
ner stanza (tur, kaz), llm (tümü) BIO etiketleri, varlık aralıkları ✓ (stanza)
embeddings nllb cümle/belge vektörleri –
translate nllb, llm cümle/belge çevirisi –
sentiment llm cümle duygu etiketi –
spellcheck llm sentence.correction, doc.corrected_text –
sp_tokenize sentencepiece sp_tokens, sp_ids –
asr Omnilingual ASR (Pipeline.from_audio aracılığıyla) döküm (transcript) –

turkicnlp.list_processors("kaz") komutu, bir dil için kataloğun neler sunduğunu listeler; llm arka uçları her dil için çalışır ve orada listelenmez. Arka uç seçeneği belirtilmeyen sentiment işlemi llm kullanır. tokenize=neural, morph=neural, pos=neural, lemma=neural, lemma=dictionary, depparse=neural ve sentiment=neural gibi yer tutucu arka uçlar kayıtlıdır ancak uygulanmamıştır; işlem hattı (pipeline) bunları kendi kendine asla seçmez.

Hangi işlemcinin hangi alanı yazdığı. Her kelime alanının işlem hattı başına bir sahibi vardır: o alanı sağlayan, yürütme sırasındaki son işlemci (UPOS/XPOS'un sahibi pos, FEATS'in sahibi feats, LEMMA'nın sahibi lemma, HEAD/DEPREL'in sahibi depparse'dır; morph gibi tam bir çözümleyici, sonraki hiçbir adımın sağlamadığı alanların sahibidir). Varsayılan Türkçe işlem hattında (morph, pos, lemma, depparse) Stanza bu nedenle UPOS, FEATS ve LEMMA'yı sağlar. Diğer işlemcilerin yazdıkları, kelime bazında word._provenance içinde tutulur (örneğin word._provenance["morph"] Apertium kökünü, UPOS ve FEATS değerlerini tutar) ve bir kelime için UPOS'un farklı bir işlemciden gelen FEATS değerleri, o işlemcinin kendi UPOS'u ile çeliştiğinde düşürülür. Varsayılan kümede morph=apertium olduğunda, aynı dilin Glot500 feats/lemma adımları devre dışı bırakılır.

Modelsiz alfabeler. Bir dilin girdi alfabesi için modeli yoksa (örneğin Özbekçe Kiril, Kazakça Latin), işlem hattı metni modellerin bulunduğu alfabeye çevirir (transliterasyon) ve sonuçları geri eşler: kelime metinleri ve karakter ofsetleri orijinal girdiye referans verir, kökler geri çevrilir ve doc._model_text çevrilmiş metni tutar.

Temel Soyutlamalar

  • Document → Sentence → Token → Word hiyerarşisi (CoNLL-U ile eşleşir)
  • Processor ABC: PROVIDES, REQUIRES, NAME sınıf öznitelikleri ile
  • Pipeline: Bağımlılık çözümleme ve alfabe farkındalıklı model yükleme ile orkestratör
  • ProcessorRegistry: Takılabilir arka uçlar için (kural, Apertium, Stanza, Glot500, NLLB)
  • ModelRegistry: Uzak katalog ve ~/.turkicnlp/models/ dizininde yerel önbellekleme ile
  • NLLB FLORES dil haritası: Çeviride ISO-3'ten NLLB koduna çözümleme için (örneğin tuk -> tuk_Latn)

Model Depolama Düzeni

~/.turkicnlp/models/
├── kaz/
│   ├── Cyrl/
│   │   ├── tokenize/rule/
│   │   └── morph/apertium/    ← GPL-3.0 (ayrıca indirilir)
│   │       ├── kaz.automorf.hfst
│   │       ├── LICENSE
│   │       └── metadata.json
│   └── ...
├── tur/
│   └── Latn/
│       └── ...
├── multilingual/
│   ├── multilingual_glot500.pt           ← POS/DepParse kontrol noktası
│   └── multilingual_morph_glot500.pt     ← Morph çözümleyici kontrol noktası
├── huggingface/
│   ├── cis-lmu--glot500-base/            ← Paylaşılan Glot500 omurgası
│   │   ├── config.json
│   │   ├── model.safetensors
│   │   └── ...
│   └── facebook--nllb-200-distilled-600M/
│       ├── config.json
│       ├── model.safetensors (veya pytorch_model.bin)
│       ├── tokenizer.json
│       └── ...
└── stanza/, stanza_custom/                ← Stanza modelleri

# Stanza modelleri (resmi ve özel) ~/.turkicnlp/models/stanza*/ altında saklanır

Notlar:

  • Omnilingual ASR kontrol noktaları fairseq2 tarafından yönetilir ve ~/.cache/fairseq2/assets/ dizininde önbelleğe alınır.
  • NLLB gömmeleri (embeddings) ve çevirisi, ~/.turkicnlp/models/huggingface/ altındaki paylaşılan bir Hugging Face modelini kullanır.
  • NLLB modeli bir kez indirilir ve desteklenen Türk dilleri genelinde yeniden kullanılır.
  • Glot500 omurgası, ~/.turkicnlp/models/huggingface/ altındaki POS/DepParse ve Morph çözümleyici modelleri arasında paylaşılır.
  • Apertium/Stanza bileşenlerinin aksine, NLLB ve Glot500 yapıları dil/alfabe dizini başına çoğaltılmaz.

Lisans

  • Kütüphane kodu: Apache License 2.0
  • Stanza modelleri: Apache License 2.0 — Stanza'nın kendi indirme mekanizması tarafından yönetilir
  • Apertium FST verisi: GPL-3.0 — çalışma zamanında ayrıca indirilir, pip paketine asla dahil edilmez
  • Omnilingual ASR modelleri ve kodu: Apache License 2.0 — çalışma zamanında fairseq2 tarafından indirilir
  • NLLB-200 model ağırlıkları/tokenizer: CC-BY-NC-4.0 — çalışma zamanında Hugging Face'ten indirilir ve ~/.turkicnlp/models/huggingface/ dizininden yeniden kullanılır (ticari olmayan lisans şartları geçerlidir)

Geliştirme

git clone https://github.com/turkic-nlp/turkicnlp.git
cd turkicnlp
pip install -e ".[dev]"
python -m pytest        # "python -m", aktif ortamın pytest'ini garanti eder

# Konuşma tanıma testleri model olmadan çalışır (arka uç taklit edilir);
# tam paketi konuşma + metin ortamında da çalıştırın:
source venv-asr/bin/activate && pip install pytest && python -m pytest

Katkıda Bulunma

Dilinizdeki analizleri kontrol etmekten yeni bileşenler eklemeye kadar her türlü katkı çok değerlidir. Geliştirme kurulumu, dil veya işlemci ekleme, testler, kod stili ve çekme isteği (pull-request) süreci için CONTRIBUTING.md dosyasını okuyun ve açık görevler için ROADMAP.md dosyasına göz atın (S ile işaretlenmiş öğeler başlangıç için uygundur). Sorularınız için Discord veya GitHub sorunları üzerinden iletişime geçebilirsiniz.

Teşekkür

TurkicNLP, birçok araştırmacının ve topluluğun çalışmalarının üzerine inşa edilmiştir. Aşağıdakilere katkılarından dolayı minnettarız:

Stanza

Stanza, tokenizasyon, POS etiketleme, kök bulma, bağımlılık ayrıştırma ve NER için önceden eğitilmiş sinirsel modelleri sağlar.

Peng Qi, Yuhao Zhang, Yuhui Zhang, Jason Bolton, and Christopher D. Manning. 2020. Stanza: A Python Natural Language Processing Toolkit for Many Human Languages. In Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics: System Demonstrations. [paper]

Universal Dependencies (Evrensel Bağımlılıklar) Ağaçbankları

Stanza modelleri, aşağıdaki ekipler tarafından oluşturulan Universal Dependencies ağaçbankları üzerinde eğitilmiştir:

Türkçe (UD_Turkish-IMST)

Umut Sulubacak, Memduh Gokirmak, Francis Tyers, Cagri Coltekin, Joakim Nivre, and Gulsen Cebiroglu Eryigit. Universal Dependencies for Turkish. COLING 2016. [paper]

Türkçe (UD_Turkish-BOUN)

Utku Turk, Furkan Atmaca, Saziye Betul Ozates, Gozde Berk, Seyyit Talha Bedir, Abdullatif Koksal, Balkiz Ozturk Basaran, Tunga Gungor, and Arzucan Ozgur. Resources for Turkish Dependency Parsing: Introducing the BOUN Treebank and the BoAT Annotation Tool. Language Resources and Evaluation 56(1), 2022. [paper]

Türkçe (UD_Turkish-FrameNet, KeNet, ATIS, Penn, Tourism)

Busra Marsan, Neslihan Kara, Merve Ozcelik, Bilge Nas Arican, Neslihan Cesur, Asli Kuzgun, Ezgi Saniyar, Oguzhan Kuyrukcu, and Olcay Taner Yildiz. Starlang Software ve Ozyegin University. Bu ağaçbankları; FrameNet çerçeveleri, WordNet örnekleri, havayolu seyahati, Penn Treebank çevirileri ve turizm incelemeleri dahil olmak üzere çeşitli alanları kapsar.

Kazakça (UD_Kazakh-KTB)

Aibek Makazhanov, Jonathan North Washington, and Francis Tyers. Towards a Free/Open-source Universal-dependency Treebank for Kazakh. TurkLang 2015. [paper]

Uygurca (UD_Uyghur-UDT)

Marhaba Eli (Xinjiang University), Daniel Zeman (Charles University), and Francis Tyers. [treebank]

Kırgızca (UD_Kyrgyz-KTMU)

Ibrahim Benli. [treebank]

Osmanlı Türkçesi (UD_Ottoman_Turkish-BOUN)

Saziye Betul Ozates, Tarik Emre Tiras, Efe Eren Genc, and Esma Fatima Bilgin Tasdemir. Dependency Annotation of Ottoman Turkish with Multilingual BERT. LAW-XVIII, 2024. [paper]

NER Veri Setleri

Türkçe NER (Starlang)

B. Ertopcu, A. B. Kanburoglu, O. Topsakal, O. Acikgoz, A. T. Gurkan, B. Ozenc, I. Cam, B. Avar, G. Ercan ve O. T. Yildiz. A New Approach for Named Entity Recognition. UBMK 2017. [makale]

Kazakça NER (KazNERD)

Rustem Yeshpanov, Yerbolat Khassanov ve Huseyin Atakan Varol (ISSAI, Nazarbayev Üniversitesi). KazNERD: Kazakh Named Entity Recognition Dataset. LREC 2022. [makale]

Glot500

Çok dilli Glot500 modeli, TurkicNLP'nin sinirsel POS/DepParse ve morfolojik analiz modelleri için dondurulmuş bir temel (backbone) görevi görür.

ImaniGooghari, Ayyoob, Peiqin Lin, Amir Hossein Kargaran, Silvia Severini, Masoud Jalili Sabet, Nora Kassner, Chunlan Ma, Helmut Schmid, André Martins, François Yvon ve Hinrich Schütze. 2023. Glot500: Scaling Multilingual Corpora and Language Technology to 500 Languages. In Proceedings of the 61st Annual Meeting of the Association for Computational Linguistics (Volume 1: Long Papers). [makale]

GlotLID

Dil tespit modeli.

Amir Hossein Kargaran, Ayyoob Imani, François Yvon, Hinrich Schütze (2023). GlotLID: Language Identification for Low-Resource Languages. The 2023 Conference on Empirical Methods in Natural Language Processing. Model

Wiktextract / Kaikki.org

Genişletilmiş Türk dilleri için morfolojik eğitim verileri, Wiktextract kullanılarak Wiktionary'den çıkarılmıştır. Yapılandırılmış verilere kaikki.org adresinden ulaşılabilir.

Tatu Ylonen. 2022. Wiktextract: Wiktionary as Machine-Readable Structured Data. In Proceedings of the 13th Conference on Language Resources and Evaluation (LREC 2022). [makale]

UniMorph

Universal Morphology (UniMorph) projesi, Türk dillerindeki çok dilli morfolojik analizörlerin eğitimi ve değerlendirilmesi için kullanılan morfolojik paradigmaları sağlar.

John Sylak-Glassman. 2016. The Composition and Use of the Universal Morphological Feature Schema (UniMorph Schema). Johns Hopkins University. [makale]

NLLB Gömme (Embeddings) & Makine Çevirisi

TurkicNLP gömme arka ucu, şu model üzerinde kodlayıcı havuzlama (encoder pooling) kullanır:

facebook/nllb-200-distilled-600M

Referans:

NLLB Team, Marta R. Costa-jussà, et al. 2022. No Language Left Behind: Scaling Human-Centered Machine Translation. [makale]

Omnilingual ASR

Konuşma tanıma, Meta'nın Omnilingual ASR modellerini kullanır:

facebookresearch/omnilingual-asr, facebook/omniASR-LLM-1B

Referans:

Omnilingual ASR Team. 2025. Omnilingual ASR: Open-Source Multilingual Speech Recognition for 1600+ Languages.

Ortak Türk Alfabesi

Ortak Türk Alfabesi

Uygurca Transliterasyon

Uyghur-Multi-Script-Converter

Referans:

Osman, T. Uyghur Multi-Script Converter (Version 1.0) [Bilgisayar yazılımı]

Diğer Organizasyonlar

  • Apertium — 20'den fazla Türk dilini kapsayan morfolojik dönüştürücüler
  • SIGTURK — ACL Türk Dilleri Özel İlgi Grubu
  • ISSAI — Nazarbayev Üniversitesi Akıllı Sistemler ve Yapay Zeka Enstitüsü (Kazakça NLP kaynakları için)
  • Universal Dependencies — Türk dilleri ağaç bankalarının arkasındaki çerçeve ve topluluk
  • Turkic Interlingua — Türk dilleri için makine çevirisi kaynakları
  • Turkic UD - Türk dilleri UD ağaç bankalarını uyumlu hale getirmek için çalışan grup
  • TurkLang - Türk Dillerinin Bilgisayarlı İşlenmesi Konferansı (2013-günümüz)
  • Türk Akademisi - Türk devletleri ve toplulukları arasında bilimsel ve eğitimsel iş birliğini kolaylaştırır ve teşvik eder.
  • Türk Devletleri Teşkilatı - temel amacı Türk Devletleri arasında kapsamlı iş birliğini geliştirmektir.

Bu dosya veripazari.com.tr topluluğu tarafından Hugging Face altyapısında barındırılmaktadır. Orijinal emeğe saygı gereği lisans, metadata ve kaynak referansları korunmuştur.

Downloads last month
44

Papers for veripazari/turkicnlp