社区

本页汇集了社区围绕 🤗 Transformers 开发的资源。

社区资源

资源	描述	作者
Hugging Face Transformers 术语速查卡	这是一组基于 Transformers Docs Glossary 制作的闪卡，其格式专为使用 Anki 进行轻松学习和复习而设计。Anki 是一款开源的跨平台应用，专门用于长期知识记忆。请观看此入门视频，了解如何使用这些闪卡。	Darigov Research

社区笔记本

Notebook	描述	作者
微调预训练的 Transformer 以生成歌词	如何通过微调 GPT-2 模型来生成您喜爱的艺术家风格的歌词	Aleksey Korshuk
在 TPU 上训练 T5	如何使用 Transformers 和 Nlp 在 SQUAD 上训练 T5	Suraj Patil
微调 T5 用于分类和多项选择	如何使用 PyTorch Lightning 以文本到文本格式微调 T5 以执行分类和多项选择任务	Suraj Patil
在新数据集和语言上微调 DialoGPT	如何在新数据集上微调 DialoGPT 模型，以构建开放式对话聊天机器人	Nathan Cooper
使用 Reformer 进行长序列建模	如何使用 Reformer 训练长达 500,000 个 token 的序列	Patrick von Platen
微调 BART 用于摘要生成	如何使用 blurr 通过 fastai 对 BART 进行摘要微调	Wayde Gilliam
在任意人的推文上微调预训练 Transformer	如何通过微调 GPT-2 模型来生成您喜欢的 Twitter 账号风格的推文	Boris Dayma
使用 Weights & Biases 优化 🤗 Hugging Face 模型	一个展示 W&B 与 Hugging Face 集成的完整教程	Boris Dayma
预训练 Longformer	如何构建现有预训练模型的“长”版本	Iz Beltagy
微调 Longformer 用于问答	如何针对问答任务微调 longformer 模型	Suraj Patil
使用 🤗nlp 评估模型	如何使用 nlp 在 TriviaQA 上评估 longformer	Patrick von Platen
微调 T5 以进行情感跨度提取	如何使用 PyTorch Lightning 以文本到文本格式微调 T5 进行情感片段提取	Lorenzo Ampil
微调 DistilBert 以进行多分类	如何使用 PyTorch 对 DistilBert 进行多分类微调	Abhishek Kumar Mishra
微调 BERT 以进行多标签分类	如何使用 PyTorch 对 BERT 进行微调以实现多标签分类	Abhishek Kumar Mishra
微调 T5 用于摘要生成	如何在 PyTorch 中微调 T5 用于摘要任务，并使用 WandB 跟踪实验	Abhishek Kumar Mishra
使用动态填充 / 分桶加速 Transformers 中的微调	如何通过动态填充/分桶将微调速度提升 2 倍	Michael Benesty
预训练 Reformer 用于掩码语言建模	如何使用双向自注意力层训练 Reformer 模型	Patrick von Platen
扩展并微调 Sci-BERT	如何扩展 AllenAI 预训练 SciBERT 模型在 CORD 数据集上的词汇量，并将其集成到流水线中。	Tanmay Thakur
使用 Trainer API 对 BlenderBotSmall 进行摘要任务的微调	如何使用 Trainer API 在自定义数据集上对 BlenderBotSmall 进行摘要任务的微调。	Tanmay Thakur
微调 Electra 并使用 Integrated Gradients 进行解释	如何使用 Captum Integrated Gradients 对 Electra 进行情感分析微调并解释预测结果	Eliza Szczechla
使用 Trainer 类微调非英语 GPT-2 模型	如何使用 Trainer 类微调非英语 GPT-2 模型	Philipp Schmid
微调 DistilBERT 模型以执行多标签分类任务	如何针对多标签分类任务微调 DistilBERT 模型	Dhaval Taunk
微调 ALBERT 用于句子对分类	如何针对句子对分类任务微调 ALBERT 模型或其他基于 BERT 的模型	Nadir El Manouzi
微调 Roberta 进行情感分析	如何微调 Roberta 模型以进行情感分析	Dhaval Taunk
评估问题生成模型	由您的 seq2seq 变换器模型生成的问题，其答案的准确性如何？	Pascal Zoleko
利用 BERT 在 CNN/Dailymail 上实现编码器-解码器摘要	如何使用 google-bert/bert-base-uncased 检查点为 EncoderDecoderModel 进行热启动，以在 CNN/Dailymail 上执行摘要任务	Patrick von Platen
在 BBC XSum 上利用 RoBERTa 进行编码器-解码器摘要	如何使用 FacebookAI/roberta-base 检查点为用于 BBC/XSum 摘要任务的共享 EncoderDecoderModel 进行热启动	Patrick von Platen
在顺序问答（SQA）上微调 TAPAS	如何使用 tapas-base 检查点在 Sequential Question Answering (SQA) 数据集上微调 TapasForQuestionAnswering	Niels Rogge
在表格事实核查（TabFact）上评估 TAPAS	如何使用 🤗 datasets 和 🤗 transformers 库的组合，通过 tapas-base-finetuned-tabfact 检查点来评估经过微调的 TapasForSequenceClassification	Niels Rogge
微调 mBART 用于翻译	如何使用 Seq2SeqTrainer 对 mBART 进行微调，以实现印地语到英语的翻译	Vasudev Gupta
在 FUNSD（一个表单理解数据集）上微调 LayoutLM	如何在 FUNSD 数据集上微调 LayoutLMForTokenClassification，以从扫描文档中提取信息	Niels Rogge
微调 DistilGPT2 并生成文本	如何微调 DistilGPT2 并生成文本	Aakash Tripathi
在多达 8K 个 token 上微调 LED	如何在 pubmed 上微调 LED 以实现长距离摘要	Patrick von Platen
在 Arxiv 上评估 LED	如何在长文本摘要任务中有效评估 LED	Patrick von Platen
在 RVL-CDIP（一个文档图像分类数据集）上微调 LayoutLM	如何在 RVL-CDIP 数据集上微调 LayoutLMForSequenceClassification 以进行扫描文档分类	Niels Rogge
使用 GPT2 调整的 Wav2Vec2 CTC 解码	如何使用语言模型调整来解码 CTC 序列	Eric Lam
使用 Trainer 类微调 BART 以进行两种语言的摘要生成	如何使用 Trainer 类微调 BART 以进行两种语言的摘要	Eliza Szczechla
在 Trivia QA 上评估 Big Bird	如何在 Trivia QA 上评估 BigBird 在长文档问答任务上的表现	Patrick von Platen
使用 Wav2Vec2 创建视频字幕	如何使用 Wav2Vec 转录音频，从任意视频创建 YouTube 字幕	Niklas Muennighoff
使用 PyTorch Lightning 在 CIFAR-10 上微调 Vision Transformer	如何使用 HuggingFace Transformers、Datasets 和 PyTorch Lightning 在 CIFAR-10 上微调 Vision Transformer (ViT)	Niels Rogge
使用 🤗 Trainer 在 CIFAR-10 上微调 Vision Transformer	如何使用 HuggingFace Transformers、Datasets 和 🤗 Trainer 在 CIFAR-10 上微调 Vision Transformer (ViT)	Niels Rogge
在 Open Entity（一个实体类型标注数据集）上评估 LUKE	如何在 Open Entity 数据集上评估 LukeForEntityClassification	Ikuya Yamada
在 TACRED（一个关系抽取数据集）上评估 LUKE	如何在 TACRED 数据集上评估 LukeForEntityPairClassification	Ikuya Yamada
在 CoNLL-2003 上评估 LUKE，这是一个重要的 NER 基准	如何在 CoNLL-2003 数据集上评估 LukeForEntitySpanClassification	Ikuya Yamada
在 PubMed 数据集上评估 BigBird-Pegasus	如何在 PubMed 数据集上评估 BigBirdPegasusForConditionalGeneration	Vasudev Gupta
使用 Wav2Vec2 进行语音情感分类	如何在 MEGA 数据集上利用预训练的 Wav2Vec2 模型进行情绪分类	Mehrdad Farahani
使用 DETR 检测图像中的对象	如何使用训练好的 DetrForObjectDetection 模型在图像中检测对象并可视化注意力	Niels Rogge
在自定义目标检测数据集上微调 DETR	如何在自定义目标检测数据集上微调 DetrForObjectDetection	Niels Rogge
微调 T5 用于命名实体识别	如何在命名实体识别任务上微调 T5	Ogundepo Odunayo
使用 MLflow 和 PEFT 通过 QLoRA 微调开源 LLM	如何使用 QLoRA 和 PEFT 以内存高效的方式微调 LLM，同时使用 MLflow 进行实验跟踪管理	Yuki Watanabe

Update on GitHub