The dataset viewer is not available for this subset.
Exception: SplitsNotFoundError
Message: The split names could not be parsed from the dataset config.
Traceback: Traceback (most recent call last):
File "/usr/local/lib/python3.14/site-packages/datasets/inspect.py", line 286, in get_dataset_config_info
for split_generator in builder._split_generators(
~~~~~~~~~~~~~~~~~~~~~~~~~^
StreamingDownloadManager(base_path=builder.base_path, download_config=download_config)
^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
)
^
File "/usr/local/lib/python3.14/site-packages/datasets/packaged_modules/webdataset/webdataset.py", line 84, in _split_generators
raise ValueError(
...<2 lines>...
)
ValueError: The TAR archives of the dataset should be in WebDataset format, but the files in the archive don't share the same prefix or the same types.
The above exception was the direct cause of the following exception:
Traceback (most recent call last):
File "/src/services/worker/src/worker/job_runners/config/split_names.py", line 68, in compute_split_names_from_streaming_response
for split in get_dataset_split_names(
~~~~~~~~~~~~~~~~~~~~~~~^
path=dataset,
^^^^^^^^^^^^^
config_name=config,
^^^^^^^^^^^^^^^^^^^
token=hf_token,
^^^^^^^^^^^^^^^
)
^
File "/usr/local/lib/python3.14/site-packages/datasets/inspect.py", line 340, in get_dataset_split_names
info = get_dataset_config_info(
path,
...<6 lines>...
**config_kwargs,
)
File "/usr/local/lib/python3.14/site-packages/datasets/inspect.py", line 291, in get_dataset_config_info
raise SplitsNotFoundError("The split names could not be parsed from the dataset config.") from err
datasets.inspect.SplitsNotFoundError: The split names could not be parsed from the dataset config.Need help to make the dataset viewer work? Make sure to review how to configure the dataset viewer, and open a discussion for direct support.
- Atıf
- Bağlantılar
- Özellikler
- Kurulum
- Hızlı Başlangıç
- Gömülü Vektörler (Embeddings - NLLB)
- Dil Tanımlama (
LanguageDetection, GlotLID modeli) - Konuşma Tanıma (Omnilingual ASR)
- Makine Çevirisi (NLLB)
- LLM Arka Ucu (yerel vLLM / Ollama, OpenAI, Claude veya bir Hugging Face modeli)
- Stanza Arka Ucunu Kullanma
- Karma Arka Uçlar
- Çoklu Alfabe Desteği
- Uygurca (Fars-Arap)
- Transliterasyon
- Sinirsel POS Etiketleyici & Bağımlılık Ayrıştırıcı (Glot500)
- Morpheme Tokenizer (Hibrit FST + Sinir Ağı)
- Biçimbirim farkındalıklı alt kelime ayrıştırma (
sp_tokenize) - Sinirsel Biçimbilimsel Analiz ve Lemmatizer (Glot500)
- Gömülü Vektörler (Embeddings - NLLB)
- Desteklenen Diller ve Bileşenler
- Mimari
- Lisans
- Geliştirme
- Katkıda Bulunma
- Teşekkür
Not: Bu ses veri seti orijinal olarak turkic-nlp tarafından geliştirilmiş olup, VeriPazarı tarafından Türk yapay zeka topluluğuna katkı sağlamak amacıyla dokümantasyonu Türkçeye çevrilerek arşivlenmiştir.
🔗 Orijinal Kaynak: turkic-nlp/turkicnlp 🔗 Derleyen Platform: VeriPazarı
TurkicNLP
20'den fazla Türk dili için NLP araç seti — Stanza'dan esinlenilmiş, düşük kaynaklı ve morfolojik açıdan zengin Türk dilleri ailesine uyarlanmış, pip ile kurulabilen bir Python kütüphanesidir.
Bakımını Sherzod Hakimov yapmaktadır.
Kurulum · Hızlı başlangıç · Yol Haritası · Katkıda Bulunma · Değişiklik Günlüğü · Makale · Not Defterleri · 🤗 Modeller & veri · Discord
Her Türk dilini kapsamamıza yardımcı olun. Anadili konuşanlar, dilbilimciler ve geliştiricilerin katılımını bekliyoruz — nasıl başlayacağınızı öğrenmek için CONTRIBUTING.md dosyasını, planlanan özellikler ve üzerinde çalışabileceğiniz açık fikirler için ise ROADMAP.md dosyasını inceleyebilirsiniz.
Atıf
TurkicNLP'yi araştırmalarınızda kullanırsanız, lütfen şu şekilde atıfta bulunun:
@misc{hakimov2026turkicnlpnlptoolkit,
title={TurkicNLP: An NLP Toolkit for Turkic Languages},
author={Sherzod Hakimov},
year={2026},
eprint={2602.19174},
archivePrefix={arXiv},
primaryClass={cs.CL},
url={https://arxiv.org/abs/2602.19174},
}
Bağlantılar
| Makale (arXiv) | arxiv.org/abs/2602.19174 |
| Kod örnekleri (Jupyter not defterleri) | turkic-nlp/turkic-nlp-code-samples |
| Veri setleri & modeller | 🤗 huggingface.co/turkicnlp |
| Topluluk | Discord |
| Planlanan çalışmalar ve bilinen sorunlar | ROADMAP.md |
| Nasıl katkıda bulunulur | CONTRIBUTING.md |
Özellikler
- 24 Türk dili: Türkçeden Sahaya, Kazakçadan Uygurcaya kadar.
- Temelden alfabe farkındalığı: Latin, Kiril, Fars-Arap ve Eski Türk Runik alfabeleri desteği.
- Otomatik alfabe algılama ve çift yönlü harf çevirisi (transliterasyon).
- Apertium FST morfolojisi: Python yerel
hfstbağlamaları aracılığıyla ~20 Türk dili için (sistem kurulumu gerektirmez). - Stanza/UD entegrasyonu: Universal Dependencies ağaç bankaları üzerinde eğitilmiş Stanza modelleri aracılığıyla önceden eğitilmiş tokenleştirme, POS etiketleme, kök bulma ve bağımlılık ayrıştırma (9 dil, 5'i özel olarak eğitilmiştir), ayrıca Türkçe ve Kazakça için NER desteği.
- Morfem segmentasyonu (
MorphemeTokenizer): Apertium ve sinirsel çözümleyiciyi birleştirerek kelimeleri etiketli morfemlere ayırır (20 dilde 483 kelimelik test setinde %89 tam segmentasyon başarısı). - Morfem farkındalıklı alt kelime tokenleştirme (
sp_tokenize): Dil modellerini eğitmek için morfemlere ayrılmış metin üzerinde SentencePiece kullanımı. - NLLB gömmeleri + çeviri altyapısı: NLLB-200 aracılığıyla cümle/belge vektörleri ve makine çevirisi (11 Türk dili).
- Dil tanımlama (
LanguageDetection, GlotLID modeli): 1.000'den fazla Glottolog dil etiketi içeren FastText tabanlı LID. - Konuşma tanıma (
SpeechRecognizer): Meta'nın Omnilingual ASR modeli aracılığıyla 20 Türk dili için konuşmadan metne dönüştürme; TurkicNLP alfabelerinde çıktı ve konuşma → metin → analiz hattı. - Çok dilli Glot500 sinirsel modelleri: Paylaşımlı Glot500 omurgası üzerinden POS etiketleme & bağımlılık ayrıştırma (15 dil), morfolojik analiz & kök bulma (22 TurkicNLP dili).
- LLM altyapısı: 24 dilin tamamında morfoloji, NER, çeviri, duygu analizi ve yazım düzeltme için herhangi bir LLM'i kullanın: vLLM veya Ollama ile sunulan yerel bir model, OpenAI, Claude veya süreç içi Hugging Face modeli (detaylar).
- Çoklu altyapı: İşlemci başına kural tabanlı, Apertium FST, Stanza, Glot500 sinirsel veya LLM altyapıları arasından seçim yapın.
- Lisans yalıtımı: Kütüphane Apache-2.0 lisanslıdır; Apertium GPL-3.0 verileri ayrı olarak indirilir.
- Stanza uyumlu API:
Pipeline,Document,Sentence,Word.
Kurulum
Gereksinimler: Python 3.10 – 3.12.
TurkicNLP küçük bir çekirdeğe ve bileşen grupları için isteğe bağlı eklentilere sahiptir:
pip install turkicnlp # çekirdek — tokenleştirme, kural tabanlı işleme, harf çevirisi, CoNLL-U G/Ç
pip install "turkicnlp[hfst]" # + Apertium FST morfolojisi (yalnızca Linux ve macOS)
pip install "turkicnlp[stanza]" # + Stanza sinirsel modelleri (tokenleştirme, POS, kök bulma, bağımlılık ayrıştırma, NER)
pip install "turkicnlp[lid]" # + Dil tanımlama (GlotLID modeli; FastText + HF ağırlıkları)
pip install "turkicnlp[translation]" # + NLLB gömmeleri ve makine çevirisi
pip install "turkicnlp[transformers]" # + Glot500 çok dilli POS/DepParse/Morph modelleri
pip install "turkicnlp[all]" # yukarıdaki tüm metin bileşenleri (yalnızca Linux ve macOS)
pip install "turkicnlp[asr]" # + konuşma tanıma (Omnilingual ASR) — aşağıya bakın, ayrı bir ortam kullanın
pip install "turkicnlp[dev]" # geliştirme araçları (pytest, black, ruff, mypy)
Ortam seçimi: yalnızca metin vs. konuşma + metin
Konuşma tanıma, bağımlılığı torch==2.8, numpy<2 ve huggingface_hub<1 olan ve dolayısıyla transformers 4.x sürümünü gerektiren omnilingual-asr üzerine kuruludur. Diğer tüm TurkicNLP bileşenleri de bu sürümlerle çalışır, bu nedenle iki test edilmiş kurulum mevcuttur:
| Metin ortamı | Konuşma + metin ortamı | |
|---|---|---|
| Eklentiler | [all] |
[all,asr] |
| Kullanım amacı | tüm metin bileşenleri | konuşma tanıma ve tüm metin bileşenleri |
| Python | 3.10 – 3.12 | 3.10 – 3.12 |
| torch / torchaudio | 2.10 / – | 2.8 / 2.8 |
| numpy | 2.x | 1.26 |
| transformers / huggingface_hub | 5.x / 1.x | 4.57 / 0.36 |
| stanza | 1.11 | 1.11 |
| Kesin sürümler | requirements/lock-text.txt |
requirements/lock-speech.txt |
⚠️ Mevcut bir metin ortamına
[asr]eklemeyin: bu işlem torch, numpy ve huggingface_hub sürümlerini düşürerektransformers5.x sürümünü bozar. Bunun yerine temiz bir ortam oluşturun.
Metin ortamı
python3 -m venv venv
source venv/bin/activate # Windows: venv\Scripts\activate
pip install --upgrade pip
pip install "turkicnlp[all]" # PyPI'den
# veya, bu deponun bir kopyasından:
pip install -e ".[all]"
Konuşma + metin ortamı
Sistem gereksinimleri: libsndfile ve CMake içeren bir C++ derleyicisi (omnilingual-asr'ın bir bağımlılığı olan kenlm kaynaktan derlenir).
# macOS
brew install libsndfile cmake
# Ubuntu / Debian
sudo apt-get install libsndfile1 cmake build-essential
python3.10 -m venv venv-asr
source venv-asr/bin/activate
pip install --upgrade pip
pip install "turkicnlp[all,asr]" # PyPI'den
# veya, bu deponun bir kopyasından:
pip install -e ".[all,asr]"
Test edilen sürümleri yeniden oluşturma
Kilit dosyaları, test edilen iki ortamın (Python 3.10, macOS arm64) her paketini sabitler:
pip install -r requirements/lock-text.txt && pip install -e . # metin ortamı
pip install -r requirements/lock-speech.txt && pip install -e . # konuşma + metin ortamı
Sürüm kısıtlamaları ve bilinen sorunlar
- **Stanza < 1.12.** Özel Azerbaycan, Özbek, Türkmen, Tatar ve Başkurt Stanza modelleri Stanza 1.11 ile eğitilmiştir; Stanza 1.15 bunların ayrıştırıcılarını yükleyemez (
size mismatch for deprel.scorer). Eklentilerstanza>=1.8,<1.12sürümünü zorunlu kılar. - sentencepiece,
transformers4.x ile Glot500 (XLM-R) tokenleştiricisini oluşturmak için gereklidir;[transformers],[translation]ve[all]eklentilerine dahildir. - torchaudio 2.8.
omnilingual-asrtorchaudio sürümünü sabitlemez; daha yeni sürümler torch 2.8 ile yüklenemez (Symbol not found: _torch_library_impl).[asr]eklentisitorchaudio>=2.8,<2.9sürümünü sabitler. - **
kenlmderlemesi macOS'te'climits' file not found hatası veriyor.** Eski bir Command Line Tools kurulumundan kalan/Library/Developer/CommandLineTools/usr/include/c++/v1` dizini, SDK'nın C++ başlıklarını gölgelemektedir. Ya bir kereliğine silin:ya da kurulum için derleyiciyi SDK başlıklarına yönlendirin:sudo mv /Library/Developer/CommandLineTools/usr/include/c++ /Library/Developer/CommandLineTools/usr/include/c++.oldexport CXXFLAGS="-nostdinc++ -isystem $(xcrun --show-sdk-path)/usr/include/c++/v1" export CMAKE_POLICY_VERSION_MINIMUM=3.5 # kenlm'in CMakeLists dosyası CMake 4'ten öncedir pip install -e ".[all,asr]" - Konuşma tanıma için bellek.
omniASR_LLM_1B(9 GB kontrol noktası), varsayılan düşük bellek yüklemesiyle (bellek eşlemeli kontrol noktası, bfloat16 ağırlıkları) yaklaşık 6 GB RAM ile çalışır. Daha küçük makineler içinomniASR_LLM_300Mveya bir CTC modeli (omniASR_CTC_300M, 1.3 GB) kullanın.
Bileşenlerin kendi açık sorunları (örneğin bazı diller için düşük Apertium kapsamı) ROADMAP.md → Known issues kısmında takip edilmektedir.
Kurulumu doğrulama
import turkicnlp
# Çekirdek (indirme gerektirmez)
from turkicnlp.scripts import Script
from turkicnlp.scripts.transliterator import Transliterator
print(Transliterator("kaz", Script.CYRILLIC, Script.LATIN).transliterate("Қазақстан")) # Qazaqstan
# Metin bileşenleri (ilk kullanımda modelleri indirir)
nlp = turkicnlp.Pipeline("kaz", processors=["tokenize", "pos", "lemma", "depparse"])
doc = nlp("Мен мектепке бардым.")
print([(w.text, w.upos, w.lemma) for w in doc.words])
# [('Мен', 'PRON', 'мен'), ('мектепке', 'NOUN', 'мектеп'), ('бардым', 'VERB', 'бар'), ('.', 'PUNCT', '.')]
# Sadece konuşma ortamı
print(turkicnlp.list_asr_languages(check_model=True)) # {'tur': {'Latn': 'tur_Latn'}, 'aze': {...}, ...}
Platform uyumluluğu
Kurulum testleri her push, pull request ve gece (nightly) işlemlerinde; işletim sistemi, Python sürümü ve aşağıdaki ek kurulum kombinasyonlarının tamamında çalıştırılır. Test paketi (pytest -m "not slow") Ubuntu ve macOS üzerinde çalışır (bkz. CI iş akışı).
| Ekstra | Ubuntu 22.04 / 24.04 | macOS 14 / 15 | Windows 2025 |
|---|---|---|---|
| base | ✅ 3.9 – 3.12 | ✅ 3.9 – 3.12 | ✅ 3.9 – 3.12 |
[hfst] |
✅ 3.9 – 3.12 | ✅ 3.9 – 3.12 | ❌ mevcut değil |
[stanza] |
✅ 3.9 – 3.12 | ✅ 3.9 – 3.12 | ✅ 3.9 – 3.12 |
[lid] |
✅ 3.9 – 3.12 | ✅ 3.9 – 3.12 | ✅ 3.9 – 3.12 |
[transformers] |
✅ 3.9 – 3.12 | ✅ 3.9 – 3.12 | ✅ 3.9 – 3.12 |
[translation] |
✅ 3.9 – 3.12 | ✅ 3.9 – 3.12 | ✅ 3.9 – 3.12 |
[all] |
✅ 3.9 – 3.12 | ✅ 3.9 – 3.12 | ❌ mevcut değil |
[asr] |
henüz CI'da değil | ✅ 3.10 (manuel test edildi) | test edilmedi |
Windows kullanıcıları:
hfstPython paketi, Windows üzerinde Python 3.7 veya daha yeni sürümler için yayınlanmış tekerleklere (wheel) sahip değildir; bu, şu an için geçici çözümü olmayan bir üst kaynak (upstream) kısıtlamasıdır. Apertium FST morfolojisi dışındaki tüm özellikler Windows üzerinde normal şekilde çalışır; bunun yerineturkicnlp[stanza]veyaturkicnlp[translation]kullanın. Windows üzerinde Apertium FST morfolojisine ihtiyacınız varsa, önerilen yaklaşımhfstpaketinin normal şekilde kurulabildiği Windows için Linux Alt Sistemi (WSL) kullanmaktır.
Hızlı Başlangıç
import turkicnlp
# Bir dil için modelleri indir
turkicnlp.download("kaz")
# Bir pipeline oluştur
nlp = turkicnlp.Pipeline("kaz", processors=["tokenize", "pos", "lemma", "ner", "depparse"])
# Metni işle
doc = nlp("Мен мектепке бардым")
# Ek açıklamalara (annotations) eriş
for sentence in doc.sentences:
for word in sentence.words:
print(f"{word.text}\t{word.lemma}\t{word.upos}\t{word.feats}")
# CoNLL-U formatına aktar
print(doc.to_conllu())
processors= parametresi olmadan kullanılan turkicnlp.Pipeline("kaz"), ilgili dil için varsayılan seti yükler: katalogda listelenen tokenizer, morfoloji, POS, lemma, özellikler, ayrıştırma (parsing) ve NER işlemcileri (her ikisi de mevcut olduğunda Apertium morfolojisi, sinirsel analizörden tercih edilir). Büyük modelleri indiren veya ekstra bir ortam gerektiren işlemciler — translate, embeddings, sp_tokenize, asr — yalnızca siz onları belirttiğinizde yüklenir. Tüm isimler için İşlemciler ve arka uçlar bölümüne bakın.
Gömülü Vektörler (Embeddings - NLLB)
import math
import turkicnlp
turkicnlp.download("tur", processors=["embeddings"])
nlp = turkicnlp.Pipeline("tur", processors=["embeddings"])
doc1 = nlp("Bugün hava çok güzel ve parkta yürüyüş yaptım.")
doc2 = nlp("Parkta yürüyüş yapmak bugün çok keyifliydi çünkü hava güzeldi.")
def cosine_similarity(a, b):
dot = sum(x * y for x, y in zip(a, b))
norm_a = math.sqrt(sum(x * x for x in a))
norm_b = math.sqrt(sum(y * y for y in b))
return dot / (norm_a * norm_b)
print(len(doc1.embedding), len(doc2.embedding))
print(f"cosine = {cosine_similarity(doc1.embedding, doc2.embedding):.4f}")
print(doc1._processor_log) # ['embeddings:nllb']
Dil Tanımlama (LanguageDetection, GlotLID modeli)
import turkicnlp
lid = turkicnlp.LanguageDetection() # varsayılan olarak TurkicNLP tarafından desteklenen tüm Türk dilleri
labels, probs = lid.predict("salam, hemmelere!", k=3)
print(labels, probs)
# Belirli etiketlerle sınırla
limited = turkicnlp.LanguageDetection(
languages=[
"__label__eng_Latn",
"__label__tur_Latn",
"__label__kaz_Cyrl",
]
)
print(limited.predict("Merhaba dünya!", k=1))
Konuşma Tanıma (Omnilingual ASR)
SpeechRecognizer, Meta'nın Omnilingual ASR modellerini (varsayılan olarak omniASR_LLM_1B) TurkicNLP kuralları altında sarmalar:
- diller, TurkicNLP ISO 639-3 kodları (
kaz,uzb, …) olarak verilir ve Omnilingual kodlarına (kaz_Cyrl,uzn_Latn, …) eşlenir; - yalnızca aşağıdaki 20 Türk dili kabul edilir; her kod modelin
supported_langs(desteklenen diller) listesiyle karşılaştırılır ve Türk dilleri dışındaki diller (eng,rus, …) reddedilir; - transkriptler, dilin birincil TurkicNLP alfabesinde (veya talep ettiğiniz alfabede) döndürülür; modelin farklı bir alfabe ile çıktı ürettiği durumlarda araç setinin çeviri (transliterator) özelliği kullanılır;
- modelin 40 saniyelik sınırından daha uzun kayıtlar duraklamalardan bölünür, parçalar ayrı ayrı yazıya dökülür ve birleştirilir;
- model bir kez yüklenir ve tüm diller tarafından paylaşılır; varsayılan olarak bfloat16 formatında bellek eşlemeli (memory-mapped) olarak yüklenir (≈ 6 GB RAM).
Konuşma + metin ortamı gerektirir. Model ağırlıkları ilk kullanımda indirilir (omniASR_LLM_1B için 9.1 GB) ve ~/.cache/fairseq2/assets/ dizininde önbelleğe alınır.
Ses dosyalarını yazıya dökme
import turkicnlp
asr = turkicnlp.SpeechRecognizer(
model_card="omniASR_LLM_1B", # varsayılan; aşağıdaki model tablosuna bakın
device="cpu", # varsayılan: "cuda" mevcutsa, değilse "cpu"
dtype="bfloat16", # varsayılan ("auto"): bfloat16 veya Apple "mps" üzerinde float16
low_memory=True, # varsayılan: yükleme sırasında kontrol noktasını bellek eşle
)
files = ["asr_samples/kaz_sample.wav", "asr_samples/tur_sample.wav"]
texts = asr.transcribe(files, lang=["kaz", "tur"], batch_size=2)
print(texts)
# ['мен бүгін мектепке бардым алматы қазақстанның ең үлкен қаласы',
# "bugün hava çok güzel ali dün ankara'ya gitti"]
Arayüz, Omnilingual ASR'nin ASRInferencePipeline.transcribe(audio_files, lang=..., batch_size=...) metodunu yansıtır; lang parametresi tüm girdiler için tek bir kod veya her girdi için bir kod içeren bir liste olabilir. Tek bir girdi bir dize (string), liste ise bir liste döndürür.
Segmentler, detaylar ve çıktı alfabesi
res = asr.transcribe("asr_samples/kaz_sample.wav", lang="kaz", return_details=True)
print(res.lang, res.model_lang, res.script) # kaz kaz_Cyrl Cyrl
print(res.text)
for seg in res.segments: # zaman hizalı parçalar (uzun sesler duraklamalardan bölünür)
print(f"[{seg.start:.2f}-{seg.end:.2f}] {seg.text}")
# Başka bir alfabe talep etme: 2021 Latin alfabesiyle Kazakça
print(asr.transcribe("asr_samples/kaz_sample.wav", lang="kaz", script="Latn"))
# men bügın mektepke bardym almaty qazaqstannyñ eñ ülken qalasy
# Model, Karakalpakça ve Kırım Tatarca'yı Kiril alfabesiyle yazar; TurkicNLP bunların birincil Latin alfabesini döndürür
res = asr.transcribe("kaa_audio.wav", lang="kaa", return_details=True)
print(res.model_text) # Modelin ürettiği gibi Kiril alfabesi
print(res.text) # Latin (2016 Karakalpak alfabesi)
Diğer girdi türleri
import soundfile as sf
wav, sr = sf.read("asr_samples/tur_sample.wav")
asr.transcribe(wav, lang="tur", sample_rate=sr) # dalga formu dizisi
asr.transcribe({"waveform": wav, "sample_rate": sr}, lang="tur") # sözlük
asr.transcribe(open("asr_samples/tur_sample.wav", "rb").read(), lang="tur") # kodlanmış baytlar
# Hugging Face veri setlerinin ses sütunları doğrudan çalışır
# from datasets import load_dataset
# ds = load_dataset(..., split="test")
# asr.transcribe(list(ds["audio"][:8]), lang="kir", batch_size=4)
Stereo sesler otomatik olarak mono formata dönüştürülür ve 16 kHz hızında yeniden örneklenir.
Konuşma → metin → analiz
nlp = turkicnlp.Pipeline(
"kaz",
processors=["asr", "tokenize", "pos", "lemma", "depparse"],
asr_model_card="omniASR_LLM_1B", # asr_* seçenekleri tanıyıcıyı yapılandırır
asr_device="cpu", # ayrıca: asr_dtype, asr_batch_size, asr_max_segment_seconds
)
doc = nlp.from_audio("asr_samples/kaz_sample.wav")
print(doc.text)
print(doc.audio_segments) # [{'start': 0.0, 'end': 4.86, 'text': '...'}]
for w in doc.words:
print(w.text, w.upos, w.lemma, w.head, w.deprel)
Omnilingual ASR, noktalama işareti içermeyen küçük harfli metinler üretir; bu nedenle transkriptler üzerindeki etiketleme ve ayrıştırma kalitesi, düzenlenmiş metinlere göre daha düşük olabilir.
Komut satırı
python run_asr.py asr_samples/kaz_sample.wav asr_samples/tur_sample.wav --lang kaz tur --device cpu
python run_asr.py lecture.wav --lang tat --model omniASR_LLM_300M # daha küçük model
python run_asr.py interview.wav --lang uzb --script Cyrl --analyze # + tokenize/POS/depparse
asr_samples/ dizini iki kısa sentetik test kaydı (Kazakça ve Türkçe) içerir.
Modeller ve bellek
Herhangi bir Omnilingual ASR model kartı model_card olarak geçirilebilir:
| Model kartı | Kontrol noktası | Notlar |
|---|---|---|
omniASR_LLM_300M |
6.5 GB | en küçük LLM modeli |
omniASR_LLM_1B (varsayılan) |
9.1 GB | düşük bellek yüklemesiyle ≈ 6 GB RAM (16 GB MacBook'ta test edilmiştir) |
omniASR_LLM_3B |
17.5 GB | GPU önerilir |
omniASR_LLM_7B |
31.2 GB | en iyi kalite; pratikte GPU gereklidir |
omniASR_CTC_300M / _1B / _3B |
1.3 / 3.9 / 12.3 GB | daha hızlı, dil koşullandırması yok (dil kodu yoksayılır) |
İşlem bellek yetersizliğinden dolayı sonlandırılırsa, low_memory=True ve dtype="bfloat16" (varsayılanlar) ayarlarını koruyun veya daha küçük bir model kullanın. dtype="float32" gerekli belleği iki katına çıkarır.
Desteklenen diller
| Dil | Kod | Omnilingual kod(lar) | Çıktı alfabesi |
|---|---|---|---|
| Türkçe | tur |
tur_Latn |
Latin |
| Azerbaycan Türkçesi | aze |
aze_Latn, aze_Cyrl |
Latin |
| Güney Azerbaycan Türkçesi | azb |
aze_Arab |
Fars-Arap |
| Türkmence | tuk |
tuk_Latn |
Latin |
| Gagavuzca | gag |
gag_Latn |
Latin |
| Kazakça | kaz |
kaz_Cyrl |
Kiril (çeviri ile Latin) |
| Kırgızca | kir |
kir_Cyrl |
Kiril |
| Tatarca | tat |
tat_Cyrl |
Kiril (çeviri ile Latin) |
| Başkurtça | bak |
bak_Cyrl |
Kiril |
| Kırım Tatarca | crh |
crh_Cyrl |
Latin (çevrilmiş) |
| Karakalpakça | kaa |
kaa_Cyrl |
Latin (2016 Karakalpak alfabesi) |
| Nogayca | nog |
nog_Cyrl |
Kiril |
| Kumukça | kum |
kum_Cyrl |
Kiril |
| Karaçay-Balkarca | krc |
krc_Cyrl |
Kiril |
| Özbekçe | uzb |
uzn_Latn, uzb_Cyrl |
Latin |
| Uygurca | uig |
uig_Arab, uig_Cyrl |
Fars-Arap |
| Sahaca (Yakutça) | sah |
sah_Cyrl |
Kiril |
| Altayca | alt |
alt_Cyrl |
Kiril |
| Hakasça | kjh |
kjh_Cyrl |
Kiril |
| Çuvaşça | chv |
chv_Cyrl |
Kiril |
Mevcut olmayanlar: Tuvaca, Halaçça, Osmanlı Türkçesi ve Eski Türk dili (Omnilingual dil kodu bulunmamaktadır).
turkicnlp.list_asr_languages(check_model=True) komutu, yüklü model tarafından desteklenen kodları listeler.
Makine Çevirisi (NLLB)
import turkicnlp
# ~/.turkicnlp/models/huggingface/facebook--nllb-200-distilled-600M dizinine bir kez indirir
turkicnlp.download("tur", processors=["translate"])
nlp = turkicnlp.Pipeline(
"tur",
processors=["translate"],
translate_tgt_lang="eng",
)
doc = nlp("Bugün hava çok güzel ve parkta yürüyüş yaptım.")
print(doc.translation)
print(doc._processor_log) # ['translate:nllb']
NLLB tarafından bazen üretilen HTML varlıkları (', ") düz karakterlere geri dönüştürülür.
translate_tgt_lang, ISO-639-3 ("eng", "tuk", "kaz") veya açık Flores-200 kodlarını ("eng_Latn", "kaz_Cyrl") kabul eder.
LLM Arka Ucu (yerel vLLM / Ollama, OpenAI, Claude veya bir Hugging Face modeli)
Beş işlemci (altı arka uç), Hakasça, Tuvaca veya Nogayca gibi eğitilmiş herhangi bir modeli bulunmayan diller de dahil olmak üzere tüm 24 dil için büyük bir dil modeli kullanabilir. Araç seti isteği gönderir, bu nedenle yalnızca hangi LLM'in kullanılacağını belirtmeniz yeterlidir: bir sunucu URL'si ve API anahtarı veya yerel bir Hugging Face model kimliği. OpenAI tarzı API; OpenAI, Azure OpenAI, vLLM, Ollama, llama.cpp, LM Studio, OpenRouter ve diğerleri tarafından desteklenmektedir; Claude ise Anthropic'in OpenAI uyumlu uç noktası aracılığıyla desteklenir. API durumu için ekstra bir paket gerekmez.
| Arka Uç | LLM'in Yaptığı İş | Yazılanlar |
|---|---|---|
morph=llm |
her belirteç (token) için lemma, UPOS ve UD özellikleri | word.lemma/upos/feats |
morph=apertium_llm |
her zamanki gibi Apertium analizleri; belirsiz kelimeler için LLM, dönüştürücünün okumalarından birini seçer (kendi başına analiz uyduramaz); yapılandırılmış bir apertium_tagger_cmd yine de önce karar verir ve tüm cümleler LLM'e tek bir paralel yığın olarak gönderilir |
word.lemma/upos/feats |
ner=llm |
araç setinin belirteçleri üzerinde varlık aralıkları (etiketler: ner_labels=["PER", "LOC", "ORG"]) |
word.ner, sentence.entities |
translate=llm |
translate_tgt_lang (ISO kodu veya dil adı) diline çeviri |
sentence.translation, doc.translation |
sentiment=llm |
positive / negative / neutral (veya sentiment_labels=[...]) |
sentence.sentiment |
spellcheck=llm |
yazım denetimi; bir cümlenin %30'undan fazlasını yeniden yazan yanıtlar reddedilir | sentence.correction, sentence.corrections, doc.corrected_text |
1. vLLM ile yerel model (GPU sunucusu)
Küçük bir modelle OpenAI uyumlu bir sunucu başlatın (Linux + NVIDIA GPU; vLLM'i kendi ortamına kurun, pip install vllm):
bash scripts/start_vllm_server.sh # :8000 üzerinde Qwen/Qwen2.5-1.5B-Instruct
MODEL=Qwen/Qwen3-8B PORT=8001 bash scripts/start_vllm_server.sh # başka bir model / port
GPUS=0,1 TP=2 MODEL=Qwen/Qwen3-32B bash scripts/start_vllm_server.sh # iki GPU
Ardından TurkicNLP'den kullanın (başka bir makineden kullanıyorsanız localhost yerine sunucu adını yazın):
import turkicnlp
nlp = turkicnlp.Pipeline(
"kaz",
processors=["tokenize", "morph", "ner", "sentiment", "spellcheck", "translate"],
morph_backend="llm", ner_backend="llm", sentiment_backend="llm", translate_backend="llm",
translate_tgt_lang="eng",
llm_model="Qwen/Qwen2.5-1.5B-Instruct", # sunucunun başlatıldığı model
llm_base_url="http://localhost:8000/v1",
llm_api_key="turkicnlp-local", # start_vllm_server.sh'nin API_KEY değeri
)
doc = nlp("Қасым-Жомарт Тоқаев кеше Астанада шетелдік инвесторлармен кездесті.")
for w in doc.words:
print(w.text, w.lemma, w.upos, w.feats)
print(doc.entities, doc.sentences[0].sentiment, doc.corrected_text, doc.translation)
GPU olmadan (örneğin Mac'te) Ollama kullanın:
ollama pull qwen2.5:7b, ardından llm_model="qwen2.5:7b", llm_base_url="http://localhost:11434/v1", llm_api_key="ollama".
2. OpenAI
import os, turkicnlp
os.environ["OPENAI_API_KEY"] = "sk-..." # veya llm_api_key="sk-..." parametresini geçin
nlp = turkicnlp.Pipeline(
"uzb",
processors=["tokenize", "ner", "translate"],
ner_backend="llm", translate_backend="llm", translate_tgt_lang="deu",
llm_model="gpt-4.1-mini", # hesabınızdaki herhangi bir sohbet modeli
) # llm_base_url varsayılan olarak https://api.openai.com/v1'dir
doc = nlp("Shavkat Mirziyoyev Toshkentda yangi maktabni ochdi.")
print(doc.entities, doc.translation)
3. Claude (Anthropic)
import os, turkicnlp
os.environ["ANTHROPIC_API_KEY"] = "sk-ant-..." # veya llm_api_key="sk-ant-..." parametresini geçin
nlp = turkicnlp.Pipeline(
"tyv",
processors=["tokenize", "morph", "spellcheck"],
morph_backend="llm",
llm_provider="anthropic", # https://api.anthropic.com/v1, ANTHROPIC_API_KEY'den alınan anahtar
llm_model="claude-sonnet-4-6",
)
doc = nlp("Мен бөгүн школага бардым.")
print([(w.text, w.lemma, w.upos, w.feats) for w in doc.words], doc.corrected_text)
Model isimleri değişebilir; hesabınızın sunduğu herhangi bir modeli kullanın. llm_provider="anthropic" ile temperature parametresi gönderilmez, çünkü güncel Claude modelleri yalnızca varsayılan değeri kabul eder.
4. Süreç içi Hugging Face modeli (sunucusuz)
nlp = turkicnlp.Pipeline("tur", processors=["tokenize", "ner"], ner_backend="llm",
llm_provider="hf", llm_model="Qwen/Qwen2.5-1.5B-Instruct")
pip install "turkicnlp[transformers]" gerektirir; istekler tek tek çalıştırılır, bu nedenle küçük modeller ve az miktarda metin içindir. Daha büyük işler için modeli vLLM ile sunun.
Örnek çalışma
examples/llm_backend_demo.py tüm LLM arka uçlarını tek bir metin üzerinde çalıştırır (--backend vllm | ollama | openai | claude | hf):
$ python examples/llm_backend_demo.py --backend hf --model Qwen/Qwen2.5-1.5B-Instruct --lang kaz
...
Bu çalışma, bir dizüstü bilgisayarda 1.5B parametreli bir model kullanmıştır; bu da arka ucun nasıl çalıştığını ve modelin neden önemli olduğunu gösterir:
- Doğrulanmış çıktı. İlk cümle için modelin morfoloji yanıtı, geri bildirimle yapılan yeniden denemeden sonra bile belirteçleri kapsamadı, bu nedenle bu alanlar boş kalır ve günlükte
[1 failed]yazar — araç seti kaydırılmış veya uydurulmuş analizler yazmaz.morph_on_error="raise"ile bunun yerine dururdu. - Yazım koruması. Yazım düzeltmesi olmayan kelime değişiklikleri (yeniden yazılan ekler, eklenen kelimeler) geri alınır; Қасым → Қазым gibi makul görünen tek harfli bir değişiklik yine de geçer, bu bir model hatasıdır.
- Kalite. Lemmalar, özellikler, ORG etiketi ve "metalled" yanlıştır: 1.5B'lik bir model kurulumu test etmek için yeterlidir, Kazakça analizi için değil. Gerçek işler için daha büyük bir model (örneğin vLLM üzerinde Qwen3-32B, GPT veya Claude) kullanın ve önce kendi dilinizde değerlendirin.
Nasıl çalışır ve istem (prompt) nerededir?
Her LLM arka ucu sıradan bir işlem hattı işlemcisidir. turkicnlp/resources/prompts/*.json içindeki görev başına sürümlü bir dosyadan oluşan istem şablonunu; dil, alfabe, araç setinin belirteçleri ve birkaç örnekle doldurur, modelden JSON ister, yanıtı doğrular (kullanılamaz durumdaysa bir kez daha sorar) ve normal Document alanlarını yazar. doc._processor_log, model ve istem sürümünü kaydeder, örneğin ner:llm(Qwen/Qwen2.5-1.5B-Instruct, ner/v1). Bir istemi ner_prompt_file="my_ner.json" ile değiştirin (şablonda yalnızca bilinen değişkenlerin {name} yer tutucuları doldurulur; diğer parantezler, örneğin bir JSON örneği, yazıldığı gibi bırakılır) veya ner_examples=[{"vars": {"tokens": [...]}, "answer": {...}}] ile örnekler ekleyin.
Ayarlar (llm_* tüm LLM işlemcileri için geçerlidir; <processor>_llm_* bunlardan birini geçersiz kılar, örn. ner_llm_model="gpt-4.1"):
| Seçenek | Varsayılan | |
|---|---|---|
llm_model |
TURKICNLP_LLM_MODEL ortam değişkeni |
model adı / Hugging Face kimliği |
llm_base_url |
TURKICNLP_LLM_BASE_URL ortam değişkeni, aksi takdirde https://api.openai.com/v1 |
örn. http://localhost:8000/v1 (vLLM), http://localhost:11434/v1 (Ollama) |
llm_api_key |
TURKICNLP_LLM_API_KEY ortam değişkeni; llm_base_url api.openai.com olduğunda OPENAI_API_KEY; anthropic için ANTHROPIC_API_KEY |
Authorization: Bearer … olarak gönderilir; repr(LLMConfig) içinde (başlık değerleri gibi) maskelenir |
llm_provider |
openai |
anthropic (Claude), hf (yerel transformers modeli) |
llm_headers, llm_extra_body |
– | ek HTTP başlıkları (örn. Azure api-key) / istek alanları |
llm_temperature, llm_max_tokens |
0.0, 2048 | llm_temperature=None sıcaklık değeri göndermez |
llm_timeout, llm_max_retries, llm_max_workers |
120 sn, 3, 4 | belge başına paralel istekler; Retry-After bekleme süreleri 60 sn ile sınırlandırılmıştır |
llm_json_mode |
auto |
JSON şeması → JSON nesnesi → düz istem; yalnızca sunucu response_format değerinin desteklenmediğini yanıtladığında bir alt seviyeye iner |
llm_cache, llm_cache_dir |
açık, ~/.turkicnlp/llm_cache.sqlite |
aynı istekler önbellekten yanıtlanır; yalnızca doğrulamadan geçen yanıtlar saklanır; yazılabilir olmayan bir önbellek konumu, uyarı vererek önbelleği devre dışı bırakır |
<processor>_on_error |
warn |
kullanılamaz yanıtlar (geçersiz JSON, HTML hata sayfası, kopan bağlantı gibi) durumunda durmak için raise kullanılır (kullanılamaz bir yanıt yalnızca kendi cümlesini etkiler) |
translate_tgt_lang, translate_tgt_script |
eng |
kod olarak hedef (uzb), alfabe ile kod (uzb_Cyrl) veya isim; istem alfabeyi belirtir, örn. "Özbekçe (Kiril alfabesi)" |
llm_client |
– | paylaşmak için bir turkicnlp.LLMClient nesnesi iletin |
Araç setinin analizlerini bağlam olarak kullanan serbest biçimli sorular:
doc = turkicnlp.Pipeline("kaz", processors=["tokenize", "morph"])("Мен кеше мектепке бардым.")
print(turkicnlp.llm.ask("Explain the verb form in this sentence.", doc=doc,
llm_provider="anthropic", llm_model="claude-sonnet-4-6"))
Soruyla birlikte gönderilen bağlam max_words=400 kelime ile sınırlıdır (ask(..., max_words=...)).
LLM kalitesi diller arasında büyük farklılıklar gösterir (Türkçe, Kazakça, Özbekçe, Azerbaycan Türkçesi için iyidir; Hakasça, Tuvaca, Nogayca veya Kumukça için genellikle zayıftır). Bir modele güvenmeden önce diliniz için değerlendirin ve metnin yapılandırdığınız sunucuya gönderildiğini unutmayın.
Stanza Arka Ucunu Kullanma
from turkicnlp.processors.stanza_backend import (
StanzaTokenizer, StanzaPOSTagger, StanzaLemmatizer, StanzaNERProcessor, StanzaDepParser
)
from turkicnlp.models.document import Document
# Modeller ilk kullanımda otomatik olarak indirilir
doc = Document(text="Merhaba dünya.", lang="tur")
for Proc in [StanzaTokenizer, StanzaPOSTagger, StanzaLemmatizer, StanzaNERProcessor, StanzaDepParser]:
proc = Proc(lang="tur")
proc.load()
doc = proc.process(doc)
for word in doc.words:
print(f"{word.text:12} {word.upos:6} {word.lemma:12} head={word.head} {word.deprel}")
# CoNLL-U formatına aktar
print(doc.to_conllu())
Karma Arka Uçlar
from turkicnlp.processors.tokenizer import RegexTokenizer
from turkicnlp.processors.stanza_backend import StanzaPOSTagger, StanzaNERProcessor, StanzaDepParser
from turkicnlp.models.document import Document
doc = Document(text="Мен мектепке бардым.", lang="kaz")
# Kural tabanlı belirteçleyici + Stanza POS/ayrıştırma (önceden belirlenmiş mod)
tokenizer = RegexTokenizer(lang="kaz")
tokenizer.load()
doc = tokenizer.process(doc)
pos = StanzaPOSTagger(lang="kaz")
pos.load()
doc = pos.process(doc)
ner = StanzaNERProcessor(lang="kaz")
ner.load()
doc = ner.process(doc)
parser = StanzaDepParser(lang="kaz")
parser.load()
doc = parser.process(doc)
Çoklu Alfabe Desteği
# Kazakça — Kiril ve Latin alfabesini otomatik algılar
doc = nlp("Мен мектепке бардым") # Kiril
doc = nlp("Men mektepke bardym") # Latin
# Açık alfabe seçimi
nlp_cyrl = turkicnlp.Pipeline("kaz", script="Cyrl")
nlp_latn = turkicnlp.Pipeline("kaz", script="Latn")
# Transliterasyon köprüsü — Latin girdisi üzerinde Kiril modelini çalıştır
nlp = turkicnlp.Pipeline("kaz", script="Latn", transliterate_to="Cyrl")
Uygurca (Fars-Arap)
nlp_ug = turkicnlp.Pipeline("uig", script="Arab")
doc = nlp_ug("مەن مەكتەپكە باردىم")
Transliterasyon
Transliterator sınıfı, desteklenen herhangi bir dil çifti için metni alfabeler arasında dönüştürür:
from turkicnlp.scripts import Script
from turkicnlp.scripts.transliterator import Transliterator
# Kazakça Kiril → Latin (2021 resmi alfabe)
t = Transliterator("kaz", Script.CYRILLIC, Script.LATIN)
print(t.transliterate("Қазақстан Республикасы"))
# → Qazaqstan Respublikasy
# Özbekçe Latin → Kiril
t = Transliterator("uzb", Script.LATIN, Script.CYRILLIC)
print(t.transliterate("O'zbekiston Respublikasi"))
# → Ўзбекистон Республикаси
# Uygurca Fars-Arap → Latin (ULY)
t = Transliterator("uig", Script.PERSO_ARABIC, Script.LATIN)
print(t.transliterate("مەكتەپ"))
# → mektep
# Azerbaycan Türkçesi Latin → Kiril
t = Transliterator("aze", Script.LATIN, Script.CYRILLIC)
print(t.transliterate("Azərbaycan"))
# → Азәрбайҹан
# Türkmence Latin → Kiril
t = Transliterator("tuk", Script.LATIN, Script.CYRILLIC)
print(t.transliterate("Türkmenistan"))
# → Түркменистан
# Tatarca Kiril → Latin (Zamanälif)
t = Transliterator("tat", Script.CYRILLIC, Script.LATIN)
print(t.transliterate("Татарстан Республикасы"))
# → Tatarstan Respublikası
Ortak Türk Alfabesi (CTS)
Eski Türk dili hariç desteklenen her dil (23 dil), Türk dilleri arasında diller arası birlikte çalışabilirlik için tasarlanmış birleşik (34 harfli) Latin tabanlı bir alfabe olan Ortak Türk Alfabesi'ne dönüştürülebilir. Zaten CTS uyumlu bir alfabe kullanan Türkçede, çoğu harf değişikliğe uğramadan dönüştürülür:
from turkicnlp.scripts import Script
from turkicnlp.scripts.transliterator import Transliterator
# Türkçe Latin → CTS (neredeyse aynı alfabeler)
t = Transliterator("tur", Script.LATIN, Script.COMMON_TURKIC)
print(t.transliterate("Türkçe güzel bir dil"))
# → Türkçe güzel bir dil
# Diğer diller ortak bir gösterim kazanır
t = Transliterator("kaz", Script.CYRILLIC, Script.COMMON_TURKIC)
print(t.transliterate("Қазақстан"))
# → Qazaqstan
t = Transliterator("aze", Script.LATIN, Script.COMMON_TURKIC)
print(t.transliterate("Azərbaycan dili"))
# → Azärbaycan dili
t = Transliterator("tuk", Script.LATIN, Script.COMMON_TURKIC)
print(t.transliterate("Türkmen dili baýdyr"))
# → Türkmen dili baydır
Eski Türk Rünik Alfabesi
TurkicNLP, Eski Türk rünik yazıtlarının (Orhun-Yenisey alfabesi, Unicode bloğu U+10C00–U+10C4F) Latin alfabesine transliterasyonunu destekler:
from turkicnlp.scripts import Script
from turkicnlp.scripts.transliterator import Transliterator
t = Transliterator("otk", Script.OLD_TURKIC_RUNIC, Script.LATIN)
# Bireysel rünik karakterler
print(t.transliterate("\U00010C45\U00010C07\U00010C3C\U00010C1A")) # 𐱅𐰇𐰼𐰚
# → törk (Türk)
# Transliteratör, her rünik karakteri standart Türkolojik Latin karşılığına eşler
# ve hem Orhun hem de Yenisey varyant biçimlerini (örn. arka ve ön
# ünlü bağlamlarına sahip ünsüzler için ayrı glifler) işler.
Sinirsel POS Etiketleyici & Bağımlılık Ayrıştırıcı (Glot500)
Çok dilli Glot500 tabanlı model, 15 Türk dili için (10 eğitimli + 5 sıfır örnekli) UPOS etiketleme ve bağımlılık ayrıştırma sağlar. pip install "turkicnlp[transformers]" gerektirir.
import turkicnlp
# Belirteçleyici + çok dilli Glot500 POS/DepParse modelini indir
turkicnlp.download("kaz", processors=["tokenize", "pos", "depparse"])
nlp = turkicnlp.Pipeline(
"kaz",
processors=["tokenize", "pos", "depparse"],
pos_backend="multilingual_glot500",
depparse_backend="multilingual_glot500",
)
doc = nlp("Мен мектепке бардым.")
for sentence in doc.sentences:
for word in sentence.words:
print(f"{word.text:12} {word.upos:6} head={word.head} {word.deprel}")
Morpheme Tokenizer (Hibrit FST + Sinir Ağı)
MorphemeTokenizer, çekimli Türk dillerindeki kelimeleri etiketli yüzey biçimbirimlerine (morpheme) ayırır. Her kelime için, Apertium HFST okumalarını, dilin kendine özgü sonek allomorf tablolarıyla (ünlü uyumu, ünsüz değişimleri, yardımcı ünsüzler) eşleştirerek bir çözümlemeye dönüştürür ve kelimenin tamamını açıklayan okumayı korur; çelişkileri ise sinir ağı (Glot500) tabanlı kök ve kelime türü tahminiyle uyum sağlayarak çözer. Türetim ekleri, yalnızca dönüştürücü (transducer) daha kısa bir kökü doğruladığında ayrıştırılır. Dönüştürücünün kullanılabilir bir okuma sunamadığı durumlarda, bunun yerine sinir ağı analizi kullanılır. pip install "turkicnlp[hfst,transformers]" komutuyla kurulması gerekir (yalnızca ikisinden biriyle de çalışabilir ancak doğruluk oranı daha düşüktür).
20 dilde 13 kelime kategorisini kapsayan 483 kelimelik bir test setinde, hibrit model kelimelerin %89'unu tam olarak doğru ayrıştırmıştır (yalnızca Apertium: %79, yalnızca sinir ağı: %68). Test seti ve değerlendirme betiği, makalenin eşlik eden deposunda mevcuttur; ayrıştırma işlemi türetimlerde ve Apertium sözlüğü küçük olan dillerde daha zayıftır (bkz. ROADMAP.md).
from turkicnlp.processors.morpheme_tokenizer import MorphemeTokenizer
# --- Kazakça ---
tok = MorphemeTokenizer(lang="kaz")
tok.load()
result = tok.segment("бармадым")
print(result.segments)
# ['бар', 'ма', 'ды', 'м']
print(result.labeled)
# [('бар', 'STEM'), ('ма', 'NEG'), ('ды', 'PST'), ('м', '1SG')]
result = tok.segment("оқығандар")
print(result.labeled)
# [('оқы', 'STEM'), ('ған', 'PTCP.PST'), ('дар', 'PLUR')]
# --- Türkçe ---
tok = MorphemeTokenizer(lang="tur")
tok.load()
result = tok.segment("evlerinden")
print(result.labeled)
# [('ev', 'STEM'), ('ler', 'PLUR'), ('in', 'POSS.2SG'), ('den', 'ABL')]
result = tok.segment("gidiyorlar")
print(result.labeled)
# [('gid', 'STEM'), ('iyor', 'PROG'), ('lar', '3PL')]
# Özel isimler için kesme işareti sınırları yönetilir
result = tok.segment("İstanbul'da")
print(result.labeled)
# [('İstanbul', 'STEM'), ("'da", 'LOC')]
# --- Özbekçe ---
tok = MorphemeTokenizer(lang="uzb")
tok.load()
result = tok.segment("kitobimdan")
print(result.labeled)
# [('kitob', 'STEM'), ('im', 'POSS.1SG'), ('dan', 'ABL')]
result = tok.segment("bolalarning")
print(result.labeled)
# [('bola', 'STEM'), ('lar', 'PLUR'), ('ning', 'GEN')]
Sonek allomorf tabloları 23 dil için mevcuttur (turkicnlp/resources/morpheme_rules.json; Eski Türkçe hariç hepsi); Apertium yolu, dönüştürücüsü olan 20 dil için kullanılabilir. Sonuçlar kelime bazında önbelleğe alınır (MorphemeTokenizer(lang, cache_size=...)).
Biçimbirim farkındalıklı alt kelime ayrıştırma (sp_tokenize)
sp_tokenize, biçimbirimlerine ayrılmış metinler üzerinde eğitilmiş bir SentencePiece modeliyle metni kodlar. Girdi kelimeleri önce MorphemeTokenizer ile ayrıştırılır, böylece parçalar biçimbirim sınırlarını aşmaz. Her cümleye sp_tokens ve sp_ids ekler. Önceden eğitilmiş modeller henüz yayınlanmamıştır (ROADMAP.md); kendi derleminiz üzerinde turkicnlp/tools/annotate_corpus.py + SentencePiece kullanarak bir model eğitebilir ve yolunu belirtebilirsiniz:
import turkicnlp
nlp = turkicnlp.Pipeline(
"kaz",
processors=["tokenize", "sp_tokenize"],
sp_tokenize_model_path="models/sp/sp_kaz.model",
)
doc = nlp("Мен мектептерімізден оқыдым")
print(doc.sentences[0].sp_tokens)
Sinirsel Biçimbilimsel Analiz ve Lemmatizer (Glot500)
Çok dilli Glot500 tabanlı biçimbilim modeli, 23 Türk dili için UPOS etiketleme, UD biçimbilimsel özellikler ve lemmatizasyon sağlar. pip install "turkicnlp[transformers]" gerektirir.
import turkicnlp
# Tokenizer + çok dilli Glot500 biçimbilim modelini indir
turkicnlp.download("tur", processors=["tokenize", "morph_neural"])
nlp = turkicnlp.Pipeline(
"tur",
processors=["tokenize", "morph_neural"],
)
doc = nlp("Çocuklar okula gidiyorlar.")
for sentence in doc.sentences:
for word in sentence.words:
print(f"{word.text:20} {word.upos:6} {word.lemma:15} {word.feats}")
Çıktı:
Çocuklar NOUN çocuk Case=Nom|Number=Plur
okula NOUN okul Case=Dat|Number=Sing
gidiyorlar VERB gitmek Aspect=Prog|Mood=Ind|Number=Plur|Person=3|Tense=Pres|VerbForm=Fin
. PUNCT . _
Biçimbilimsel analizör, düşük kaynaklı diller için de çalışır:
# Saha (Yakutça) — doğrudan eğitilmiş
turkicnlp.download("sah", processors=["tokenize", "morph_neural"])
nlp = turkicnlp.Pipeline("sah", processors=["tokenize", "morph_neural"])
doc = nlp("Мин оскуолаҕа бардым.")
# Karakalpakça — Özbekçe vekil gömmeleri (proxy embedding) üzerinden sıfır-atış (zero-shot)
turkicnlp.download("kaa", processors=["tokenize", "morph_neural"])
nlp = turkicnlp.Pipeline("kaa", processors=["tokenize", "morph_neural"])
doc = nlp("Men mektepke bardım.")
Desteklenen Diller ve Bileşenler
Türk dillerinin coğrafi dağılımı (kaynak: Wikimedia Commons)
Aşağıdaki tablo, desteklenen tüm dilleri, mevcut alfabelerini ve işlemci durumlarını göstermektedir.
Gösterge:
| Sembol | Altyapı | Açıklama |
|---|---|---|
| ■ | Kural tabanlı | Regex tokenizer, kısaltma listeleri |
| ◆ | Apertium FST | hfst aracılığıyla sonlu durum biçimbilimi (GPL-3.0, ayrıca indirilir) |
| ● | Stanza/UD | Universal Dependencies ağaç bankaları üzerinde eğitilmiş sinirsel modeller |
| ▲ | Özel Stanza | turkic-nlp tarafından barındırılan özel eğitimli Stanza modelleri |
| ◇ | Glot500 Sinirsel | Çok dilli POS etiketleyici ve bağımlılık ayrıştırıcı (Glot500 omurgası, 15 dil) |
| ◈ | Glot500 Sinirsel Biçimbilim | Çok dilli biçimbilimsel analizör ve lemmatizer (Glot500 omurgası, 22 dil) |
| ★ | NLLB | NLLB-200 aracılığıyla gömmeler ve makine çevirisi |
| ◎ | Omnilingual ASR | Konuşma tanıma (SpeechRecognizer, konuşma + metin ortamı) |
| ○ | Planlanan | Uygulanması planlanıyor |
| — | Henüz mevcut değil |
Oğuz Grubu
| Dil | Kod | Alfabe(ler) | Tokenize | Morph | POS | Lemma | DepParse | NER | Embed | Translate | ASR |
|---|---|---|---|---|---|---|---|---|---|---|---|
| Türkçe | tur |
Latn | ■ ● | ◆ ◈ | ● ◇ | ● ◈ | ● ◇ | ● | ★ | ★ | ◎ |
| Azerbaycan Türkçesi | aze |
Latn, Cyrl | ■▲ | ◆ ◈ | ▲ ◇ | ▲ ◈ | ▲ ◇ | — | ★ | ★ | ◎ |
| İran Azerbaycan Türkçesi | azb |
Arab | ■ | — | — | — | — | — | ★ | ★ | ◎ |
| Türkmence | tuk |
Latn, Cyrl | ■▲ | ◆ ◈ | ▲ ◇ | ▲ ◈ | ▲ ◇ | — | ★ | ★ | ◎ |
| Gagavuzca | gag |
Latn | ■ | ◆ ◈ | ◈ | ◈ | — | — | — | — | ◎ |
Kıpçak Grubu
| Dil | Kod | Alfabe(ler) | Tokenize | Morph | POS | Lemma | DepParse | NER | Embed | Translate | ASR |
|---|---|---|---|---|---|---|---|---|---|---|---|
| Kazakça | kaz |
Cyrl, Latn | ■ ● | ◆ ◈ | ● ◇ | ● ◈ | ● ◇ | ● | ★ | ★ | ◎ |
| Kırgızca | kir |
Cyrl | ■ ● | ◆ ◈ | ● ◇ | ● ◈ | ● ◇ | — | ★ | ★ | ◎ |
| Tatarca | tat |
Cyrl, Latn | ■▲ | ◆ ◈ | ▲ ◇ | ▲ ◈ | ▲ ◇ | — | ★ | ★ | ◎ |
| Başkurtça | bak |
Cyrl | ■▲ | ◆ ◈ | ▲ ◇ | ▲ ◈ | ▲ ◇ | — | ★ | ★ | ◎ |
| Kırım Tatarca | crh |
Latn, Cyrl | ■ | ◆ ◈ | ◈ | ◈ | — | — | ★ | ★ | ◎ |
| Karakalpakça | kaa |
Latn, Cyrl | ■ | ◆ ◈ | ◇ ◈ | ◈ | ◇ | — | — | — | ◎ |
| Nogayca | nog |
Cyrl | ■ | ◆ ◈ | ◇ ◈ | ◈ | ◇ | — | — | — | ◎ |
| Kumukça | kum |
Cyrl | ■ | ◆ ◈ | ◇ ◈ | ◈ | ◇ | — | — | — | ◎ |
| Karaçay-Balkarca | krc |
Cyrl | ■ | ◆ ◈ | ◇ ◈ | ◈ | ◇ | — | — | — | ◎ |
Karluk Grubu
| Dil | Kod | Alfabe(ler) | Tokenize | Morph | POS | Lemma | DepParse | NER | Embed | Translate | ASR |
|---|---|---|---|---|---|---|---|---|---|---|---|
| Özbekçe | uzb |
Latn, Cyrl | ■ ▲ | ◆ ◈ | ▲ ◇ | ▲ ◈ | ▲ ◇ | — | ★ | ★ | ◎ |
| Uygurca | uig |
Arab, Latn, Cyrl | ■ ● | ◆ ◈ | ● ◇ | ● ◈ | ● ◇ | — | ★ | ★ | ◎ |
Sibirya Kolu
| Dil | Kod | Alfabe(ler) | Belirteçleme | Morfoloji | POS | Lemma | Bağımlılık Ayrıştırma | NER | Gömme | Çeviri | ASR |
|---|---|---|---|---|---|---|---|---|---|---|---|
| Saha (Yakut) | sah |
Cyrl | ■ | ◆ ◈ | ◇ ◈ | ◈ | ◇ | — | — | — | ◎ |
| Altay | alt |
Cyrl | ■ | ◆ ◈ | ◈ | ◈ | — | — | — | — | ◎ |
| Tuvaca | tyv |
Cyrl | ■ | ◆ ◈ | ◈ | ◈ | — | — | — | — | — |
| Hakasça | kjh |
Cyrl | ■ | ◆ ◈ | ◈ | ◈ | — | — | — | — | ◎ |
Ogur Kolu
| Dil | Kod | Alfabe(ler) | Belirteçleme | Morfoloji | POS | Lemma | Bağımlılık Ayrıştırma | NER | Gömme | Çeviri | ASR |
|---|---|---|---|---|---|---|---|---|---|---|---|
| Çuvaşça | chv |
Cyrl | ■ | ◆ ◈ | ◈ | ◈ | — | — | — | — | ◎ |
Argu Kolu
| Dil | Kod | Alfabe(ler) | Belirteçleme | Morfoloji | POS | Lemma | Bağımlılık Ayrıştırma | NER | Gömme | Çeviri | ASR |
|---|---|---|---|---|---|---|---|---|---|---|---|
| Halaçça | klj |
Latn | ■ | ◈ | ◈ | ◈ | — | — | — | — | — |
Tarihi Diller
| Dil | Kod | Alfabe(ler) | Belirteçleme | Morfoloji | POS | Lemma | Bağımlılık Ayrıştırma | NER | Gömme | Çeviri | ASR |
|---|---|---|---|---|---|---|---|---|---|---|---|
| Osmanlı Türkçesi | ota |
Arab, Latn | ■ | ◈ | ◇ ◈ | ◈ | ◇ | — | — | — | — |
| Eski Türkçe | otk |
Orkh, Latn | ■ | — | — | — | — | — | — | — | — |
Stanza/UD Model Detayları
Stanza arka ucu, Universal Dependencies ağaç bankaları üzerinde eğitilmiş sinirsel modeller sağlar. Resmi Stanza modelleri (●) Stanza'nın model merkezinden indirilir. Özel olarak eğitilmiş modeller (▲) turkic-nlp/trained-stanza-models adresinde barındırılır ve otomatik olarak indirilir.
| Dil | Stanza Kodu | Tür | UD Ağaç Bankası/Bankaları | Stanza İşleyicileri | NER Veri Seti |
|---|---|---|---|---|---|
| Türkçe | tr |
● | IMST (varsayılan), BOUN, FrameNet, KeNet, ATIS, Penn, Tourism | tokenize, pos, lemma, depparse, ner | Starlang NER |
| Kazakça | kk |
● | KTB | tokenize, pos, lemma, depparse, ner | KazNERD |
| Uygurca | ug |
● | UDT | tokenize, pos, lemma, depparse | — |
| Kırgızca | ky |
● | KTMU | tokenize, pos, lemma, depparse | — |
| Özbekçe | uz |
▲ | UzUDT | tokenize, pos, lemma, depparse | — |
| Türkmence | tk |
▲ | Tk-TUD | tokenize, pos, lemma, depparse | — |
| Azerbaycan Türkçesi | az |
▲ | Az-TUD | tokenize, pos, lemma, depparse | — |
| Tatarca | tt |
▲ | Ta-TUD | tokenize, pos, lemma, depparse | — |
| Başkurtça | ba |
▲ | Ba-TUD | tokenize, pos, lemma, depparse | — |
Çok Dilli Glot500 Sinirsel Modeller
TurkicNLP, alfabe bağdaştırıcıları, dil gömmeleri ve paylaşımlı BiLSTM katmanları ile dondurulmuş bir Glot500 omurgası üzerine inşa edilmiş iki çok dilli sinirsel model sunar. Her iki model de turkic-nlp/trained-stanza-models adresinde barındırılır ve otomatik olarak indirilir.
| Model | Sembol | Görevler | Diller | Mimari |
|---|---|---|---|---|
| POS & Bağımlılık Ayrıştırıcı | ◇ | UPOS, bağımlılık ayrıştırma | 10 eğitilmiş + 5 sıfır-atış (toplam 15) | Glot500 → ScriptAdapter → LangEmbed → BiLSTM → POS Head + Biaffine Parser |
| Morfolojik Analizör | ◈ | UPOS, UD morfolojik özellikler, lemmatizasyon | 20 eğitilmiş + 3 sıfır-atış (23 model dili = 22 TurkicNLP kodu; her iki Altay çeşidi alt ile eşleşir) |
Glot500 → ScriptAdapter → LangEmbed → BiLSTM → POS Head + MorphFeat Head + CharCNN LemmaHead |
POS & Bağımlılık Ayrıştırıcı desteklenen diller: Türkçe, Azerbaycan Türkçesi, Özbekçe, Türkmence, Kazakça, Kırgızca, Başkurtça, Tatarca, Uygurca, Osmanlı Türkçesi + sıfır-atış: Karakalpakça, Kumukça, Saha, Karaçay-Balkarca, Nogayca
Morfolojik Analizör desteklenen diller: Türkçe, Azerbaycan Türkçesi, Özbekçe, Türkmence, Kazakça, Kırgızca, Başkurtça, Tatarca, Uygurca, Osmanlı Türkçesi, Kırım Tatarca, Hakasça, Saha, Tuvaca, Çuvaşça, Gagauzca, Kumukça, Güney Altayca, Halaçça, Kuzey Altayca + sıfır-atış: Karakalpakça, Karaçay-Balkarca, Nogayca
Transliterasyon Desteği
Çok alfabeli tüm diller için çift yönlü alfabe dönüşümü mevcuttur. Transliteratör, dile özgü eşleme tabloları ile açgözlü (greedy) en uzun eşleşme algoritmasını kullanır.
| Dil | Yön | Alfabeler | Standart |
|---|---|---|---|
| Kazakça | ↔ Çift yönlü | Kiril ↔ Latin | 2021 resmi Latin alfabesi |
| Özbekçe | ↔ Çift yönlü | Kiril ↔ Latin | 1995 resmi Latin alfabesi |
| Azerbaycan Türkçesi | ↔ Çift yönlü | Kiril ↔ Latin | 1991 resmi Latin alfabesi |
| Tatarca | ↔ Çift yönlü | Kiril ↔ Latin | Zamanälif |
| Türkmence | ↔ Çift yönlü | Kiril ↔ Latin | 1993 resmi Latin alfabesi |
| Karakalpakça | ↔ Çift yönlü | Kiril ↔ Latin | 2016 Latin alfabesi |
| Kırım Tatarca | ↔ Çift yönlü | Kiril ↔ Latin | Standart Kırım Tatar Latin |
| Uygurca | ↔ Çift yönlü | Fars-Arap ↔ Latin, Fars-Arap ↔ Kiril, Latin ↔ Kiril | Uygur Latin Yéziqi (ULY), Uygur Kiril |
| Osmanlı Türkçesi | → Tek yönlü | Latin → Fars-Arap | Akademik transkripsiyon |
| Eski Türkçe | → Tek yönlü | Runik → Latin | Türkoloji konvansiyonu |
| Eski Türkçe hariç hepsi (23) | → Yerel alfabe -> CTS | Latin / Kiril / Fars-Arap → CTS | Ortak Türk Alfabesi |
Apertium FST Kalite Seviyeleri
| Seviye | Açıklama | Diller |
|---|---|---|
| Üretim (Production) | Haber metinlerinde >%90 kapsam | Türkçe, Kazakça, Tatarca |
| Kararlı (Stable) | İyi kapsam, aktif olarak sürdürülüyor | Kırgızca, Özbekçe |
| Beta | Makul kapsam, bazı boşluklar var | Azerbaycan Türkçesi (birçok yaygın fiil eksik), Türkmence, Başkurtça, Uygurca, Kırım Tatarca, Çuvaşça |
| Prototip | Sınırlı kapsam, deneysel | Gagauzca, Saha, Karakalpakça, Nogayca, Kumukça, Karaçay-Balkarca, Altayca, Tuvaca, Hakasça |
Model Kataloğu ve Apertium İndirmeleri
TurkicNLP, dil/alfabe/işleyici başına indirme kaynaklarını tanımlamak için bir model kataloğu kullanır. Katalog şu konumda bulunur:
turkicnlp/resources/catalog.json(paketle gelen varsayılan)- Uzak geçersiz kılma:
ModelRegistry.CATALOG_URL(veyaTURKICNLP_CATALOG_URL)
Katalog, her dil ve alfabe için mevcut işleyicileri, bunların arka uçlarını, varsayılan arka ucu ve indirme kaynağını listeler. turkicnlp.download() bunu okur ve eksik olanları getirir: turkic-nlp/apertium-data sürümlerinden önceden derlenmiş Apertium .hfst dönüştürücüleri (yukarı akış Apertium depolarından CI tarafından oluşturulmuştur), turkic-nlp/trained-stanza-models adresinden özel Stanza ve Glot500 kontrol noktaları ve Hugging Face modelleri (Glot500 omurgası, NLLB). Bir sürüm birden fazla dönüştürücü içerdiğinde (örneğin krc@Seegmiller, uzb_guesser), ana <lang>.automorf.hfst dosyası kullanılır.
İndirme klasörü
Tüm modeller ve kaynaklar şu klasöre indirilir: ~/.turkicnlp.
Mimari
TurkicNLP, Stanza'nın modüler işlem hattı (pipeline) tasarımını takip eder:
Pipeline("tur", processors=["tokenize", "morph", "pos", "ner", "depparse"])
│
▼
Document ─── metin: "Ben okula vardım"
│
├── script_detect → alfabe = "Latn"
├── tokenize → cümleler, belirteçler, kelimeler
├── morph (Apertium) → lemma, pos, özellikler (HFST aracılığıyla)
├── pos (Stanza) → UPOS, XPOS, özellikler (bu alanlara sahiptir)
├── ner (Stanza) → BIO etiketleri ve varlık aralıkları
└── depparse → baş (head), bağımlılık ilişkisi (deprel)
│
▼
Document ─── tüm katmanlarla açıklanmış
Pipeline("sah", processors=["tokenize", "morph_neural"])
│
▼
Document ─── metin: "Мин оскуолаҕа бардым"
│
├── script_detect → alfabe = "Cyrl"
├── tokenize → cümleler, belirteçler, kelimeler
└── morph_neural (Glot500) → upos, özellikler, lemma
│
▼
Document ─── morfolojik analiz ile açıklanmış
Pipeline("azb", processors=["embeddings", "translate"], translate_tgt_lang="eng")
│
▼
Document ─── metin: "من کتاب اوخویورام"
│
├── script_detect → alfabe = "Arab"
├── embeddings (NLLB) → cümle/belge vektörleri
└── translate (NLLB) → cümle/belge çevirisi
(src, FLORES haritasından çözümlendi: azb -> azb_Arab,
tgt, ISO-3'ten çözümlendi: eng -> eng_Latn)
│
▼
Document ─── tüm katmanlarla açıklanmış
İşlemciler ve arka uçlar
Bu isimleri Pipeline(lang, processors=[...]) içinde kullanın; <name>_backend="..." ile bir arka uç seçin ve seçenekleri <name>_<option>=... (örneğin translate_tgt_lang="eng") şeklinde iletin. Bağımlılıklar otomatik olarak eklenir.
| İşlemci | Arka Uçlar (katalogda birden fazla varsa varsayılan ilk sıradadır) | Ekledikleri | Varsayılan olarak yüklü |
|---|---|---|---|
tokenize |
rule, rule_arabic, stanza |
cümleler, belirteçler, kelimeler | ✓ |
mwt |
neural (kural tabanlı), stanza |
çok kelimeli belirteç açılımı | ✓ (mevcut olduğunda) |
morph |
apertium, llm, apertium_llm |
kök, UPOS, özellikler (HFST / LLM / HFST + LLM seçimi) | ✓ (apertium) |
morph_neural |
multilingual_glot500_morph |
UPOS, özellikler, kök | ✓ (morph yoksa) |
pos |
stanza, multilingual_glot500_model |
UPOS, XPOS, özellikler | ✓ |
feats |
multilingual_glot500_morph |
UD özellikleri | ✓ |
lemma |
stanza, multilingual_glot500_morph |
kök | ✓ |
depparse |
stanza, multilingual_glot500_model |
baş (head), deprel | ✓ |
ner |
stanza (tur, kaz), llm (tümü) |
BIO etiketleri, varlık aralıkları | ✓ (stanza) |
embeddings |
nllb |
cümle/belge vektörleri | – |
translate |
nllb, llm |
cümle/belge çevirisi | – |
sentiment |
llm |
cümle duygu etiketi | – |
spellcheck |
llm |
sentence.correction, doc.corrected_text |
– |
sp_tokenize |
sentencepiece |
sp_tokens, sp_ids |
– |
asr |
Omnilingual ASR (Pipeline.from_audio aracılığıyla) |
döküm (transcript) | – |
turkicnlp.list_processors("kaz") komutu, bir dil için kataloğun neler sunduğunu listeler; llm arka uçları her dil için çalışır ve orada listelenmez. Arka uç seçeneği belirtilmeyen sentiment işlemi llm kullanır. tokenize=neural, morph=neural, pos=neural, lemma=neural, lemma=dictionary, depparse=neural ve sentiment=neural gibi yer tutucu arka uçlar kayıtlıdır ancak uygulanmamıştır; işlem hattı (pipeline) bunları kendi kendine asla seçmez.
Hangi işlemcinin hangi alanı yazdığı. Her kelime alanının işlem hattı başına bir sahibi vardır: o alanı sağlayan, yürütme sırasındaki son işlemci (UPOS/XPOS'un sahibi pos, FEATS'in sahibi feats, LEMMA'nın sahibi lemma, HEAD/DEPREL'in sahibi depparse'dır; morph gibi tam bir çözümleyici, sonraki hiçbir adımın sağlamadığı alanların sahibidir). Varsayılan Türkçe işlem hattında (morph, pos, lemma, depparse) Stanza bu nedenle UPOS, FEATS ve LEMMA'yı sağlar. Diğer işlemcilerin yazdıkları, kelime bazında word._provenance içinde tutulur (örneğin word._provenance["morph"] Apertium kökünü, UPOS ve FEATS değerlerini tutar) ve bir kelime için UPOS'un farklı bir işlemciden gelen FEATS değerleri, o işlemcinin kendi UPOS'u ile çeliştiğinde düşürülür. Varsayılan kümede morph=apertium olduğunda, aynı dilin Glot500 feats/lemma adımları devre dışı bırakılır.
Modelsiz alfabeler. Bir dilin girdi alfabesi için modeli yoksa (örneğin Özbekçe Kiril, Kazakça Latin), işlem hattı metni modellerin bulunduğu alfabeye çevirir (transliterasyon) ve sonuçları geri eşler: kelime metinleri ve karakter ofsetleri orijinal girdiye referans verir, kökler geri çevrilir ve doc._model_text çevrilmiş metni tutar.
Temel Soyutlamalar
- Document → Sentence → Token → Word hiyerarşisi (CoNLL-U ile eşleşir)
- Processor ABC:
PROVIDES,REQUIRES,NAMEsınıf öznitelikleri ile - Pipeline: Bağımlılık çözümleme ve alfabe farkındalıklı model yükleme ile orkestratör
- ProcessorRegistry: Takılabilir arka uçlar için (kural, Apertium, Stanza, Glot500, NLLB)
- ModelRegistry: Uzak katalog ve
~/.turkicnlp/models/dizininde yerel önbellekleme ile - NLLB FLORES dil haritası: Çeviride ISO-3'ten NLLB koduna çözümleme için (örneğin
tuk->tuk_Latn)
Model Depolama Düzeni
~/.turkicnlp/models/
├── kaz/
│ ├── Cyrl/
│ │ ├── tokenize/rule/
│ │ └── morph/apertium/ ← GPL-3.0 (ayrıca indirilir)
│ │ ├── kaz.automorf.hfst
│ │ ├── LICENSE
│ │ └── metadata.json
│ └── ...
├── tur/
│ └── Latn/
│ └── ...
├── multilingual/
│ ├── multilingual_glot500.pt ← POS/DepParse kontrol noktası
│ └── multilingual_morph_glot500.pt ← Morph çözümleyici kontrol noktası
├── huggingface/
│ ├── cis-lmu--glot500-base/ ← Paylaşılan Glot500 omurgası
│ │ ├── config.json
│ │ ├── model.safetensors
│ │ └── ...
│ └── facebook--nllb-200-distilled-600M/
│ ├── config.json
│ ├── model.safetensors (veya pytorch_model.bin)
│ ├── tokenizer.json
│ └── ...
└── stanza/, stanza_custom/ ← Stanza modelleri
# Stanza modelleri (resmi ve özel) ~/.turkicnlp/models/stanza*/ altında saklanır
Notlar:
- Omnilingual ASR kontrol noktaları fairseq2 tarafından yönetilir ve
~/.cache/fairseq2/assets/dizininde önbelleğe alınır. - NLLB gömmeleri (embeddings) ve çevirisi,
~/.turkicnlp/models/huggingface/altındaki paylaşılan bir Hugging Face modelini kullanır. - NLLB modeli bir kez indirilir ve desteklenen Türk dilleri genelinde yeniden kullanılır.
- Glot500 omurgası,
~/.turkicnlp/models/huggingface/altındaki POS/DepParse ve Morph çözümleyici modelleri arasında paylaşılır. - Apertium/Stanza bileşenlerinin aksine, NLLB ve Glot500 yapıları dil/alfabe dizini başına çoğaltılmaz.
Lisans
- Kütüphane kodu: Apache License 2.0
- Stanza modelleri: Apache License 2.0 — Stanza'nın kendi indirme mekanizması tarafından yönetilir
- Apertium FST verisi: GPL-3.0 — çalışma zamanında ayrıca indirilir, pip paketine asla dahil edilmez
- Omnilingual ASR modelleri ve kodu: Apache License 2.0 — çalışma zamanında fairseq2 tarafından indirilir
- NLLB-200 model ağırlıkları/tokenizer: CC-BY-NC-4.0 — çalışma zamanında Hugging Face'ten indirilir ve
~/.turkicnlp/models/huggingface/dizininden yeniden kullanılır (ticari olmayan lisans şartları geçerlidir)
Geliştirme
git clone https://github.com/turkic-nlp/turkicnlp.git
cd turkicnlp
pip install -e ".[dev]"
python -m pytest # "python -m", aktif ortamın pytest'ini garanti eder
# Konuşma tanıma testleri model olmadan çalışır (arka uç taklit edilir);
# tam paketi konuşma + metin ortamında da çalıştırın:
source venv-asr/bin/activate && pip install pytest && python -m pytest
Katkıda Bulunma
Dilinizdeki analizleri kontrol etmekten yeni bileşenler eklemeye kadar her türlü katkı çok değerlidir. Geliştirme kurulumu, dil veya işlemci ekleme, testler, kod stili ve çekme isteği (pull-request) süreci için CONTRIBUTING.md dosyasını okuyun ve açık görevler için ROADMAP.md dosyasına göz atın (S ile işaretlenmiş öğeler başlangıç için uygundur). Sorularınız için Discord veya GitHub sorunları üzerinden iletişime geçebilirsiniz.
Teşekkür
TurkicNLP, birçok araştırmacının ve topluluğun çalışmalarının üzerine inşa edilmiştir. Aşağıdakilere katkılarından dolayı minnettarız:
Stanza
Stanza, tokenizasyon, POS etiketleme, kök bulma, bağımlılık ayrıştırma ve NER için önceden eğitilmiş sinirsel modelleri sağlar.
Peng Qi, Yuhao Zhang, Yuhui Zhang, Jason Bolton, and Christopher D. Manning. 2020. Stanza: A Python Natural Language Processing Toolkit for Many Human Languages. In Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics: System Demonstrations. [paper]
Universal Dependencies (Evrensel Bağımlılıklar) Ağaçbankları
Stanza modelleri, aşağıdaki ekipler tarafından oluşturulan Universal Dependencies ağaçbankları üzerinde eğitilmiştir:
Türkçe (UD_Turkish-IMST)
Umut Sulubacak, Memduh Gokirmak, Francis Tyers, Cagri Coltekin, Joakim Nivre, and Gulsen Cebiroglu Eryigit. Universal Dependencies for Turkish. COLING 2016. [paper]
Türkçe (UD_Turkish-BOUN)
Utku Turk, Furkan Atmaca, Saziye Betul Ozates, Gozde Berk, Seyyit Talha Bedir, Abdullatif Koksal, Balkiz Ozturk Basaran, Tunga Gungor, and Arzucan Ozgur. Resources for Turkish Dependency Parsing: Introducing the BOUN Treebank and the BoAT Annotation Tool. Language Resources and Evaluation 56(1), 2022. [paper]
Türkçe (UD_Turkish-FrameNet, KeNet, ATIS, Penn, Tourism)
Busra Marsan, Neslihan Kara, Merve Ozcelik, Bilge Nas Arican, Neslihan Cesur, Asli Kuzgun, Ezgi Saniyar, Oguzhan Kuyrukcu, and Olcay Taner Yildiz. Starlang Software ve Ozyegin University. Bu ağaçbankları; FrameNet çerçeveleri, WordNet örnekleri, havayolu seyahati, Penn Treebank çevirileri ve turizm incelemeleri dahil olmak üzere çeşitli alanları kapsar.
Kazakça (UD_Kazakh-KTB)
Aibek Makazhanov, Jonathan North Washington, and Francis Tyers. Towards a Free/Open-source Universal-dependency Treebank for Kazakh. TurkLang 2015. [paper]
Uygurca (UD_Uyghur-UDT)
Marhaba Eli (Xinjiang University), Daniel Zeman (Charles University), and Francis Tyers. [treebank]
Kırgızca (UD_Kyrgyz-KTMU)
Ibrahim Benli. [treebank]
Osmanlı Türkçesi (UD_Ottoman_Turkish-BOUN)
Saziye Betul Ozates, Tarik Emre Tiras, Efe Eren Genc, and Esma Fatima Bilgin Tasdemir. Dependency Annotation of Ottoman Turkish with Multilingual BERT. LAW-XVIII, 2024. [paper]
NER Veri Setleri
Türkçe NER (Starlang)
B. Ertopcu, A. B. Kanburoglu, O. Topsakal, O. Acikgoz, A. T. Gurkan, B. Ozenc, I. Cam, B. Avar, G. Ercan ve O. T. Yildiz. A New Approach for Named Entity Recognition. UBMK 2017. [makale]
Kazakça NER (KazNERD)
Rustem Yeshpanov, Yerbolat Khassanov ve Huseyin Atakan Varol (ISSAI, Nazarbayev Üniversitesi). KazNERD: Kazakh Named Entity Recognition Dataset. LREC 2022. [makale]
Glot500
Çok dilli Glot500 modeli, TurkicNLP'nin sinirsel POS/DepParse ve morfolojik analiz modelleri için dondurulmuş bir temel (backbone) görevi görür.
ImaniGooghari, Ayyoob, Peiqin Lin, Amir Hossein Kargaran, Silvia Severini, Masoud Jalili Sabet, Nora Kassner, Chunlan Ma, Helmut Schmid, André Martins, François Yvon ve Hinrich Schütze. 2023. Glot500: Scaling Multilingual Corpora and Language Technology to 500 Languages. In Proceedings of the 61st Annual Meeting of the Association for Computational Linguistics (Volume 1: Long Papers). [makale]
GlotLID
Dil tespit modeli.
Amir Hossein Kargaran, Ayyoob Imani, François Yvon, Hinrich Schütze (2023). GlotLID: Language Identification for Low-Resource Languages. The 2023 Conference on Empirical Methods in Natural Language Processing. Model
Wiktextract / Kaikki.org
Genişletilmiş Türk dilleri için morfolojik eğitim verileri, Wiktextract kullanılarak Wiktionary'den çıkarılmıştır. Yapılandırılmış verilere kaikki.org adresinden ulaşılabilir.
Tatu Ylonen. 2022. Wiktextract: Wiktionary as Machine-Readable Structured Data. In Proceedings of the 13th Conference on Language Resources and Evaluation (LREC 2022). [makale]
UniMorph
Universal Morphology (UniMorph) projesi, Türk dillerindeki çok dilli morfolojik analizörlerin eğitimi ve değerlendirilmesi için kullanılan morfolojik paradigmaları sağlar.
John Sylak-Glassman. 2016. The Composition and Use of the Universal Morphological Feature Schema (UniMorph Schema). Johns Hopkins University. [makale]
NLLB Gömme (Embeddings) & Makine Çevirisi
TurkicNLP gömme arka ucu, şu model üzerinde kodlayıcı havuzlama (encoder pooling) kullanır:
Referans:
NLLB Team, Marta R. Costa-jussà, et al. 2022. No Language Left Behind: Scaling Human-Centered Machine Translation. [makale]
Omnilingual ASR
Konuşma tanıma, Meta'nın Omnilingual ASR modellerini kullanır:
Referans:
Omnilingual ASR Team. 2025. Omnilingual ASR: Open-Source Multilingual Speech Recognition for 1600+ Languages.
Ortak Türk Alfabesi
Uygurca Transliterasyon
Referans:
Osman, T. Uyghur Multi-Script Converter (Version 1.0) [Bilgisayar yazılımı]
Diğer Organizasyonlar
- Apertium — 20'den fazla Türk dilini kapsayan morfolojik dönüştürücüler
- SIGTURK — ACL Türk Dilleri Özel İlgi Grubu
- ISSAI — Nazarbayev Üniversitesi Akıllı Sistemler ve Yapay Zeka Enstitüsü (Kazakça NLP kaynakları için)
- Universal Dependencies — Türk dilleri ağaç bankalarının arkasındaki çerçeve ve topluluk
- Turkic Interlingua — Türk dilleri için makine çevirisi kaynakları
- Turkic UD - Türk dilleri UD ağaç bankalarını uyumlu hale getirmek için çalışan grup
- TurkLang - Türk Dillerinin Bilgisayarlı İşlenmesi Konferansı (2013-günümüz)
- Türk Akademisi - Türk devletleri ve toplulukları arasında bilimsel ve eğitimsel iş birliğini kolaylaştırır ve teşvik eder.
- Türk Devletleri Teşkilatı - temel amacı Türk Devletleri arasında kapsamlı iş birliğini geliştirmektir.
Bu dosya veripazari.com.tr topluluğu tarafından Hugging Face altyapısında barındırılmaktadır. Orijinal emeğe saygı gereği lisans, metadata ve kaynak referansları korunmuştur.
- Downloads last month
- 44

