Imperius/ru-classic

Russian Classical Literature — Corpus for Language Models (English and Russian)

English

A clean text corpus of Russian classical literature from the 19th to the early 20th centuries, collected from lib.ru and subjected to several iterations of cleaning. Suitable for pre-training language models on the style of the Russian prose "Golden Age."

Contents

866 MB of clean text.

61 authors:

Classical Prose of the 19th Century (37 authors)

Chekhov, Tolstoy, Dostoevsky, Turgenev, Gogol, Leskov, Bunin, Kuprin, Andreev, Goncharov, Saltykov-Shchedrin, Korolenko, Garshin, Lermontov, Griboedov, Ostrovsky, Aksakov S. T., Pomyalovsky, Reshetnikov, Sleptsov, Mamin-Sibiryak, Gleb Uspensky, Grigorovich, Zagoskin, Boborykin, Veresaev, Ertel, Marko Vovchok, Danilevsky, Krestovsky, Potapenko.

The Silver Age (17 authors)

Andrei Bely, Bryusov, Remizov, Merezhkovsky, Gippius, Rozanov, Shmelyov, Zaitsev, Sologub, Artsybashev, Balmont, Blok, Annensky, Amfiteatrov, Averchenko, Teffi.

Literary Criticism and Publicism

Belinsky, Dobrolyubov, Pisarev, Herzen, Chernyshevsky.

19th-Century Poet-Translators

Zhukovsky, Maykov, Fet, Tyutchev, Vyazemsky, Polonsky, Apukhtin, Pleshcheev, Nadson, Nikitin.

Volume Distribution (Top 5 Authors)

Author	Size (MB)
Rozanov	51
Dostoevsky	49
Chernyshevsky	43
Tolstoy	38
Gogol	35

Preprocessing

Raw corpus 1.22 GB → clean 866 MB (26% noise removed).

Cleaning steps:

1. Parsing lib.ru — crawling author pages, extracting the main HTML text.
2. Removing editorial apparatus of academic editions: textual commentary, variant readings, manuscript descriptions, archive references (TsGALI, RGALI, GPB, IRLI), bibliographic footnotes.
3. Removing header correspondence in formats like "AUTHOR — ADDRESSEE" and "TO A. N. IVANOV" (ALL CAPS).
4. Transliteration of pre-reform orthography: Ѣ→Е, Ѳ→Ф, І→И, final Ъ after consonants removed. Saves corpora of Mamin-Sibiryak, Vyazemsky, Potapenko, whose editions are entirely in old orthography.
5. Removing foreign-language lines (addresses, Latin-script signatures).
6. Collapsing dotted lines of Andrei Bely / Sologub into a single ellipsis.
7. Removing lib.ru navigation (section menus, recommendations).
8. Removing translation footnotes like "* by preference (Fr.)."

Normalization before tokenization:

• ё → е, Ё → Е (case preserved)
• Quote unification: " " „ → « »
• Dash unification: – , -- → —
• Ellipsis ... → …

Files

• corpus_clean.txt — main file, everything in one (866 MB, UTF-8)
• corpus_clean.norm.txt — normalized version (after ё→е, quote/dash unification) — recommended for BPE training
• per_author/ — separate file for each author, for subset filtering
• spm_16k.model — trained SentencePiece BPE tokenizer (vocab=16000)
• spm_16k.vocab — token list with scores

Usage

Loading via datasets

from datasets import load_dataset

ds = load_dataset("USERNAME/russian-classics", split="train")
print(ds[0]["text"][:500])

Loading a single author

from huggingface_hub import hf_hub_download

path = hf_hub_download(
    repo_id="USERNAME/russian-classics",
    filename="per_author/chekhov.txt",
    repo_type="dataset",
)
text = open(path, encoding="utf-8").read()

Training a tokenizer (if you want your own)

import sentencepiece as spm

spm.SentencePieceTrainer.train(
    input="corpus_clean.norm.txt",
    model_prefix="my_spm",
    vocab_size=16000,
    model_type="bpe",
    character_coverage=1.0,
    byte_fallback=True,
    user_defined_symbols=["—", "«", "»", "…"],
)

What is NOT in the Corpus

• Poetic texts by Pushkin and standalone translation files — only prose and mixed corpora of poet-translators.
• Modern literature after 1930.
• Texts originally written in other languages (even if the author is Russian — e.g., early French letters by Turgenev are excluded).
• Academic edition apparatus: notes, variant readings, manuscript descriptions removed.
• Duplicate editions of the same works — one version from lib.ru was taken.

Stylistic Features

• Prose predominates, although poet-translators (Zhukovsky, Fet) contain verse forms. Models trained on this corpus may switch between prose and poetic mode triggered by short lines.
• Strong influence of several voices: Rozanov (51 MB of aphoristic essayism), Chernyshevsky (43 MB of journalism), Dostoevsky (49 MB of novels and letters). The model will "sound" like a mixture of these voices.
• Natural foreign inclusions in Russian texts (French in noble prose, Latin epigraphs) are preserved — this is part of the era's stylistics.
• Genre diversity includes prose, plays, correspondence, literary criticism, diaries, philosophical essays. This is reflected in the mixed typography of the corpus (character names in blocks in plays, address forms in letters, etc.).

Limitations and Caveats

• Not intended for modern tasks (question-answering systems, factual queries): models trained on it learn style, not facts.
• Rare OCR artifacts may remain after lib.ru scanning. For the vast majority of texts, cleanliness is high, but perfection is unattainable.
• License status: original texts are in the public domain (PD) under Russian and international law (authors died more than 70 years ago). The corpus as a compilation is distributed under CC0.

Source

All texts are collected from az.lib.ru (lib.ru/Классика) — the largest open library of Russian classics.

Usage

Unrestricted, but you may cite the original if you use it in your projects, if you wish.

Version History

• v1.0 (2026-05) — initial release. 61 authors, 866 MB of clean text, 16k BPE vocabulary.

Russian

Чистый текстовый корпус русской классической литературы XIX — начала XX веков, собранный с lib.ru и прошедший несколько итераций очистки. Подходит для предобучения языковых моделей на стилистике «золотого века» русской прозы.

Состав

866 МБ чистого текста.

61 автор:

Классическая проза XIX века (37 авторов)

Чехов, Толстой, Достоевский, Тургенев, Гоголь, Лесков, Бунин, Куприн, Андреев, Гончаров, Салтыков-Щедрин, Короленко, Гаршин, Лермонтов, Грибоедов, Островский, Аксаков С. Т., Помяловский, Решетников, Слепцов, Мамин-Сибиряк, Глеб Успенский, Григорович, Загоскин, Боборыкин, Вересаев, Эртель, Марко Вовчок, Данилевский, Крестовский, Потапенко.

Серебряный век (17 авторов)

Андрей Белый, Брюсов, Ремизов, Мережковский, Гиппиус, Розанов, Шмелёв, Зайцев, Сологуб, Арцыбашев, Бальмонт, Блок, Анненский, Амфитеатров, Аверченко, Тэффи.

Литературная критика и публицистика

Белинский, Добролюбов, Писарев, Герцен, Чернышевский.

Поэты-переводчики XIX века

Жуковский, Майков, Фет, Тютчев, Вяземский, Полонский, Апухтин, Плещеев, Надсон, Никитин.

Распределение объёма по топ-5 авторам

Автор	Размер (МБ)
Розанов	51
Достоевский	49
Чернышевский	43
Толстой	38
Гоголь	35

Препроцессинг

Сырой корпус 1.22 ГБ → чистый 866 МБ (после удаления шума на 26%).

Шаги очистки:

1. Парсинг lib.ru — обход страниц авторов, извлечение HTML основного текста.
2. Удаление редакторского аппарата академических изданий: текстологические комментарии, варианты разночтений, описания рукописей, ссылки на архивы (ЦГАЛИ, РГАЛИ, ГПБ, ИРЛИ), библиографические сноски.
3. Удаление переписки шапок в форматах «АВТОР — АДРЕСАТ» и «А. Н. ИВАНОВУ» (КАПС).
4. Транслитерация дореформенной орфографии: Ѣ→Е, Ѳ→Ф, І→И, конечный Ъ после согласных снят. Спасает корпуса Мамина-Сибиряка, Вяземского, Потапенко, у которых издание целиком в старой орфографии.
5. Удаление иностранных строк (адреса, подписи на латинице).
6. Схлопывание точечных строк Андрея Белого / Сологуба в одно многоточие.
7. Удаление навигации lib.ru (меню разделов, рекомендации).
8. Удаление сносок-переводов вида «* по преимуществу (франц.)».

Нормализация перед токенизацией:

• ё → е, Ё → Е (регистр сохраняется)
• Унификация кавычек: " " „ → « »
• Унификация тире: – , -- → —
• Многоточие ... → …

Файлы

• corpus_clean.txt — основной файл, всё в одном (866 МБ, UTF-8)
• corpus_clean.norm.txt — нормализованная версия (после ё→е, унификации кавычек/тире) — рекомендуется для обучения BPE
• per_author/ — отдельный файл на каждого автора, для возможности фильтрации по подмножеству
• spm_16k.model — обученный sentencepiece BPE токенизатор (vocab=16000)
• spm_16k.vocab — список токенов с scores

Использование

Загрузка через datasets

from datasets import load_dataset

ds = load_dataset("USERNAME/russian-classics", split="train")
print(ds[0]["text"][:500])

Загрузка одного автора

from huggingface_hub import hf_hub_download

path = hf_hub_download(
    repo_id="USERNAME/russian-classics",
    filename="per_author/chekhov.txt",
    repo_type="dataset",
)
text = open(path, encoding="utf-8").read()

Обучение токенизатора (если хочется свой)

import sentencepiece as spm

spm.SentencePieceTrainer.train(
    input="corpus_clean.norm.txt",
    model_prefix="my_spm",
    vocab_size=16000,
    model_type="bpe",
    character_coverage=1.0,
    byte_fallback=True,
    user_defined_symbols=["—", "«", "»", "…"],
)

Что в корпусе НЕТ

• Поэтические тексты Пушкина и переводов отдельным файлом — только проза и смешанный корпус поэтов-переводчиков.
• Современная литература после 1930 года.
• Тексты, оригинально написанные на других языках (даже если автор русский — например, ранние французские письма Тургенева исключены).
• Аппарат академических изданий: примечания, разночтения, описания рукописей удалены.
• Дублирующиеся редакции одних произведений — взята одна версия с lib.ru.

Стилистические особенности

• Преобладает проза, хотя у поэтов-переводчиков (Жуковский, Фет) присутствуют стихотворные формы. Модели, обученные на корпусе, могут переключаться между прозаическим и поэтическим режимом по сигналу коротких строк.
• Сильное влияние нескольких голосов: Розанов (51 МБ эссеистики афоризмами), Чернышевский (43 МБ публицистики), Достоевский (49 МБ романов и писем). Модель будет «звучать» как смесь этих голосов.
• Естественные иностранные вкрапления в русских текстах (французский в дворянской прозе, латинские эпиграфы) сохранены — это часть стилистики эпохи.
• Жанровое разнообразие включает прозу, пьесы, переписку, литературную критику, дневники, философские эссе. Это отражено в смешанной типографике корпуса (имена персонажей блоком в пьесах, обращения в письмах, и т. д.).

Ограничения и предостережения

• Не предназначен для современных задач (вопросно-ответные системы, фактологические запросы): модели на нём учат стилю, а не фактам.
• Возможны редкие OCR-артефакты, оставшиеся после lib.ru-сканирования. Для подавляющего большинства текстов чистота высокая, но идеала нет.
• Лицензионный статус: исходные тексты находятся в общественном достоянии (PD) по российскому и международному праву (авторы умерли более 70 лет назад). Корпус как сборка распространяется под CC0.

Источник

Все тексты собраны с az.lib.ru (lib.ru/Классика) — крупнейшей открытой библиотеки русской классики.

Использование

Неограниченное, но можно указать оригинал, если используете в своих проектах, если есть желание.

История версий

• v1.0 (2026-05) — первичная публикация. 61 автор, 866 МБ чистого текста, 16k BPE-словарь.