Сообщество

На этой странице собраны ресурсы, созданные сообществом вокруг 🤗 Transformers.

Ресурсы сообщества

Ноутбуки сообщества

Ноутбук	Описание	Автор
Доработка предобученного Transformer для генерации текстов песен	Как сгенерировать тексты песен в стиле вашего любимого артиста с помощью дообучения модели GPT-2	Алексей Коршук
Обучение T5 на TPU	Как обучить T5 на SQUAD с помощью Transformers и Nlp	Suraj Patil
Доработка T5 для классификации и выбора из нескольких вариантов	Как дообучить T5 для задач классификации и выбора из нескольких вариантов с использованием формата «текст-в-текст» и PyTorch Lightning	Suraj Patil
Доработка DialoGPT на новых наборах данных и языках	Как дообучить модель DialoGPT на новом наборе данных для открытых диалогов в чат-ботах	Nathan Cooper
Моделирование длинных последовательностей с помощью Reformer	Как обучать на последовательностях длиной до 500 000 токенов с помощью Reformer	Patrick von Platen
Доработка BART для суммаризации	Как дообучить BART для суммаризации с помощью fastai и blurr	Wayde Gilliam
Доработка предобученного Transformer на твитах любого пользователя	Как генерировать твиты в стиле вашего любимого аккаунта в Twitter, дообучая модель GPT-2	Boris Dayma
Оптимизация моделей 🤗 Hugging Face с помощью Weights & Biases	Полное руководство по интеграции W&B с Hugging Face	Boris Dayma
Предобучение Longformer	Как создать «длинную» версию существующих предобученных моделей	Iz Beltagy
Доработка Longformer для QA	Как дообучить модель longformer для задачи QA	Suraj Patil
Оценка модели с помощью 🤗nlp	Как оценить longformer на TriviaQA с помощью nlp	Patrick von Platen
Доработка T5 для извлечения фрагментов текста с оценкой тональности	Как дообучить T5 для извлечения фрагментов текста с оценкой тональности в формате «текст-в-текст» с помощью PyTorch Lightning	Lorenzo Ampil
Доработка DistilBert для многоклассовой классификации	Как дообучить DistilBert для многоклассовой классификации с помощью PyTorch	Abhishek Kumar Mishra
Доработка BERT для многометочной классификации	Как дообучить BERT для многометочной классификации с помощью PyTorch	Abhishek Kumar Mishra
Доработка T5 для суммаризации	Как дообучить T5 для суммаризации в PyTorch и отслеживать эксперименты с WandB	Abhishek Kumar Mishra
Ускорение Fine-Tuning в Transformers с помощью динамического Padding / Bucketing	Как ускорить дообучение в 2 раза с помощью динамического выравнивания / группировки	Michael Benesty
Предобучение Reformer для моделирования языка с маскированием	Как обучить модель Reformer с слоями двунаправленного само-внимания	Patrick von Platen
Расширение и дообучение Sci-BERT	Как расширить словарь предобученной модели SciBERT от AllenAI на датасете CORD и настроить конвейер.	Tanmay Thakur
Доработка BlenderBotSmall для суммаризации с помощью API Trainer	Как дообучить BlenderBotSmall для суммаризации на собственном наборе данных с использованием API Trainer.	Tanmay Thakur
Доработка Electra и интерпретация с помощью Integrated Gradients	Как дообучить Electra для анализа тональности и интерпретировать предсказания с помощью Captum Integrated Gradients	Eliza Szczechla
дообучение неанглоязычной модели GPT-2 с помощью класса Trainer	Как дообучить неанглоязычную модель GPT-2 с помощью класса Trainer	Philipp Schmid
Доработка модели DistilBERT для задачи классификации с несколькими метками	Как дообучить модель DistilBERT для задачи классификации с несколькими метками	Dhaval Taunk
Доработка ALBERT для классификации пар предложений	Как дообучить модель ALBERT или другую модель на базе BERT для задачи классификации пар предложений	Надир Эль Манузи
Доработка Roberta для анализа тональности	Как дообучить модель Roberta для анализа тональности	Dhaval Taunk
Оценка моделей генерации вопросов	Насколько точны ответы на вопросы, сгенерированные вашей seq2seq-трансформерной моделью?	Pascal Zoleko
Использование BERT для суммаризации в архитектуре encoder-decoder на датасете CNN/Dailymail	Как выполнить warm-start модели EncoderDecoderModel с чекпоинтом google-bert/bert-base-uncased для суммаризации на CNN/Dailymail	Patrick von Platen
Использование RoBERTa для суммаризации в архитектуре encoder-decoder на BBC XSum	Как выполнить warm-start общей модели EncoderDecoderModel с контрольной точкой FacebookAI/roberta-base для суммаризации на BBC/XSum	Patrick von Platen
Доработка TAPAS для последовательного ответа на вопросы (SQA)	Как дообучить TapasForQuestionAnswering с контрольной точкой tapas-base на наборе данных Sequential Question Answering (SQA)	Niels Rogge
Оценка TAPAS на задаче проверки фактов в таблицах (TabFact)	Как оценить дообученную модель TapasForSequenceClassification с контрольной точкой tapas-base-finetuned-tabfact с использованием комбинации библиотек 🤗 datasets и 🤗 transformers	Niels Rogge
Доработка mBART для перевода	Как дообучить mBART с помощью Seq2SeqTrainer для перевода с хинди на английский	Vasudev Gupta
Доработка LayoutLM на FUNSD (набор данных для понимания форм)	Как дообучить LayoutLMForTokenClassification на наборе данных FUNSD для извлечения информации из отсканированных документов	Niels Rogge
Доработка модели DistilGPT2 и генерация текста	Как дообучить DistilGPT2 и генерировать текст	Aakash Tripathi
Доработка LED на токенах до 8K	Как дообучить LED на pubmed для суммаризации длинных текстов	Patrick von Platen
Оценка LED на Arxiv	Как эффективно оценивать LED на задачах суммаризации длинных текстов	Patrick von Platen
Доработка LayoutLM на RVL-CDIP (набор данных для классификации изображений документов)	Как дообучить LayoutLMForSequenceClassification на наборе данных RVL-CDIP для классификации отсканированных документов	Niels Rogge
Декодирование Wav2Vec2 CTC с корректировкой GPT2	Как декодировать CTC-последовательность с корректировкой языковой модели	Eric Lam
Доработка модели BART для суммаризации на двух языках с помощью класса Trainer	Как дообучить BART для суммаризации на двух языках с помощью класса Trainer	Eliza Szczechla
Оценка Big Bird на Trivia QA	Как оценить BigBird на задаче вопросно-ответной работы с длинными документами на Trivia QA	Patrick von Platen
Создание описаний видео с помощью Wav2Vec2	Как создать субтитры для YouTube из любого видео с помощью транскрипции аудио Wav2Vec	Niklas Muennighoff
Доработка Vision Transformer на CIFAR-10 с помощью PyTorch Lightning	Как дообучить Vision Transformer (ViT) на CIFAR-10 с помощью HuggingFace Transformers, Datasets и PyTorch Lightning	Niels Rogge
Доработка Vision Transformer на CIFAR-10 с помощью 🤗 Trainer	Как дообучить Vision Transformer (ViT) на CIFAR-10 с помощью HuggingFace Transformers, Datasets и 🤗 Trainer	Niels Rogge
Оценка LUKE на Open Entity, наборе данных для типизации сущностей	Как оценить LukeForEntityClassification на наборе данных Open Entity	Ikuya Yamada
Оценка LUKE на TACRED, наборе данных для извлечения отношений	Как оценить LukeForEntityPairClassification на наборе данных TACRED	Ikuya Yamada
Оценка LUKE на CoNLL-2003, важном бенчмарке для NER	Как оценить LukeForEntitySpanClassification на наборе данных CoNLL-2003	Ikuya Yamada
Оценка BigBird-Pegasus на наборе данных PubMed	Как оценить BigBirdPegasusForConditionalGeneration на датасете PubMed	Vasudev Gupta
Классификация эмоций в речи с помощью Wav2Vec2	Как использовать предобученную модель Wav2Vec2 для классификации эмоций на наборе данных MEGA	Mehrdad Farahani
Обнаружение объектов на изображении с помощью DETR	Как использовать обученную модель DetrForObjectDetection для обнаружения объектов на изображении и визуализации внимания	Niels Rogge
Доработка DETR на собственном наборе данных для обнаружения объектов	Как дообучить DetrForObjectDetection на собственном наборе данных для обнаружения объектов	Niels Rogge
Доработка T5 для распознавания именованных сущностей	Как дообучить T5 на задаче распознавания именованных сущностей	Ogundepo Odunayo
Дообучение открытой LLM с помощью QLoRA, MLflow и PEFT	Как использовать QLoRA и PEFT для дообучения LLM с эффективным использованием памяти, применяя MLflow для отслеживания экспериментов	Юки Ватанабэ