🤗 Transformers Notebooks

Bạn có thể tìm thấy tại đây danh sách các notebook chính thức do Hugging Face cung cấp.

Ngoài ra, chúng tôi cũng muốn liệt kê tại đây các nội dung thú vị do cộng đồng tạo ra. Nếu bạn đã viết một số notebook tận dụng 🤗 Transformers và muốn được liệt kê tại đây, vui lòng mở một Pull Request để nó có thể được đưa vào phần Community notebooks.

Notebook của Hugging Face 🤗

Sổ ghi chú tài liệu

Bạn có thể mở bất kỳ trang nào của tài liệu dưới dạng notebook trong Colab (có nút trực tiếp trên các trang đó) nhưng chúng cũng được liệt kê tại đây nếu bạn cần:

Notebook	Mô tả
Khảo sát nhanh thư viện	Trình bày về các API khác nhau trong Transformers
Tóm tắt các tác vụ	Cách chạy các mô hình của thư viện Transformers theo từng tác vụ
Tiền xử lý dữ liệu	Cách sử dụng tokenizer để tiền xử lý dữ liệu của bạn
Chỉnh huấn luyện một mô hình được huấn luyện trước	Cách sử dụng Trainer để tinh chỉnh một mô hình được huấn luyện trước
Tóm tắt về các bộ mã hóa token	Sự khác nhau giữa các thuật toán của tokenizer
Mô hình đa ngôn ngữ	Cách sử dụng các mô hình đa ngôn ngữ của thư viện

Ví dụ PyTorch

Xử lý ngôn ngữ tự nhiên

Notebook	Mô tả
Đào tạo tokenizer của bạn	Cách huấn luyện và sử dụng bộ phân từ của riêng bạn
Đào tạo mô hình ngôn ngữ của bạn	Cách bắt đầu sử dụng transformers một cách dễ dàng
Cách tinh chỉnh mô hình cho phân loại văn bản	Hiển thị cách tiền xử lý dữ liệu và tinh chỉnh một mô hình được huấn luyện trước trên bất kỳ tác vụ GLUE nào.
Cách tinh chỉnh mô hình cho mô hình hóa ngôn ngữ	Hiển thị cách tiền xử lý dữ liệu và tinh chỉnh một mô hình được huấn luyện trước trên tác vụ LM nhân quả hoặc LM bị che.
Cách tinh chỉnh mô hình cho phân loại token	Hiển thị cách tiền xử lý dữ liệu và tinh chỉnh một mô hình được huấn luyện trước trên tác vụ phân loại token (NER, PoS).
Cách tinh chỉnh mô hình cho câu hỏi và trả lời	Hiển thị cách tiền xử lý dữ liệu và tinh chỉnh một mô hình được huấn luyện trước trên SQUAD.
Cách tinh chỉnh mô hình trên dữ liệu lựa chọn nhiều	Hiển thị cách tiền xử lý dữ liệu và tinh chỉnh một mô hình được huấn luyện trước trên SWAG.
Cách tinh chỉnh mô hình cho dịch thuật	Hiển thị cách tiền xử lý dữ liệu và tinh chỉnh một mô hình được huấn luyện trước trên WMT.
Cách tinh chỉnh mô hình cho tóm tắt	Hiển thị cách tiền xử lý dữ liệu và tinh chỉnh một mô hình được huấn luyện trước trên XSUM.
Cách huấn luyện một mô hình ngôn ngữ từ đầu	Nổi bật tất cả các bước để huấn luyện hiệu quả mô hình Transformer trên dữ liệu tùy chỉnh
Cách tạo văn bản	Cách sử dụng các phương pháp giải mã khác nhau cho việc tạo ngôn ngữ với transformers
Reformer	Cách Reformer đẩy giới hạn của mô hình hóa ngôn ngữ

Thị giác máy tính

Notebook	Mô tả
Cách tinh chỉnh mô hình cho phân loại ảnh (Torchvision)	Hiển thị cách tiền xử lý dữ liệu bằng Torchvision và tinh chỉnh bất kỳ mô hình thị giác được huấn luyện trước nào trên bài toán Phân loại Ảnh
Cách tinh chỉnh mô hình cho phân loại ảnh (Albumentations)	Hiển thị cách tiền xử lý dữ liệu bằng Albumentations và tinh chỉnh bất kỳ mô hình Vision nào đã được huấn luyện trước trên bài toán Phân loại Ảnh
Cách tinh chỉnh mô hình cho phân loại ảnh (Kornia)	Hiển thị cách tiền xử lý dữ liệu bằng Kornia và tinh chỉnh bất kỳ mô hình thị giác được huấn luyện trước nào cho Phân loại Ảnh
Cách thực hiện phát hiện đối tượng zero-shot với OWL-ViT	Hiển thị cách thực hiện phát hiện đối tượng zero-shot trên các hình ảnh bằng các truy vấn văn bản
Cách tinh chỉnh mô hình chú thích hình ảnh	Hiển thị cách tinh chỉnh BLIP cho việc chú thích hình ảnh trên một tập dữ liệu tùy chỉnh
Cách xây dựng hệ thống tương đồng hình ảnh với Transformers	Hiển thị cách xây dựng một hệ thống tương đồng hình ảnh
Cách tinh chỉnh mô hình SegFormer cho phân đoạn ngữ nghĩa	Hiển thị cách tiền xử lý dữ liệu và tinh chỉnh một mô hình SegFormer được huấn luyện trước trên bài toán Phân đoạn ngữ nghĩa
Cách tinh chỉnh mô hình VideoMAE cho phân loại video	Hiển thị cách tiền xử lý dữ liệu và tinh chỉnh một mô hình VideoMAE được huấn luyện trước trên Phân loại Video

Âm thanh

Notebook	Mô tả
Cách tinh chỉnh mô hình nhận dạng giọng nói bằng tiếng Anh	Hiển thị cách tiền xử lý dữ liệu và tinh chỉnh một mô hình Speech được huấn luyện trước trên TIMIT
Cách tinh chỉnh mô hình nhận dạng giọng nói trong bất kỳ ngôn ngữ nào	Hiển thị cách tiền xử lý dữ liệu và tinh chỉnh mô hình giọng nói được tiền huấn luyện đa ngôn ngữ trên Common Voice
Cách tinh chỉnh mô hình cho phân loại âm thanh	Hiển thị cách tiền xử lý dữ liệu và tinh chỉnh một mô hình Speech được huấn luyện trước trên Keyword Spotting

Chuỗi sinh học

Notebook	Mô tả
Cách tinh chỉnh một mô hình protein được huấn luyện trước	Xem cách thực hiện token hóa protein và tinh chỉnh một mô hình “ngôn ngữ” protein lớn đã được huấn luyện trước
Cách tạo các cấu trúc gấp cuộn của protein	Xem cách chuyển từ trình tự protein sang mô hình protein hoàn chỉnh và tệp PDB
Cách tinh chỉnh một mô hình Nucleotide Transformer	Xem cách thực hiện tokenize DNA và tinh chỉnh một mô hình “ngôn ngữ” DNA lớn đã được huấn luyện trước
Chỉnh huấn mô hình Nucleotide Transformer với LoRA	Huấn luyện các mô hình DNA lớn hơn một cách tiết kiệm bộ nhớ

Các phương thức khác

Notebook	Mô tả
Dự báo chuỗi thời gian xác suất	Xem cách huấn luyện Time Series Transformer trên bộ dữ liệu tùy chỉnh

Sổ ghi chú tiện ích

Notebook	Mô tả
Cách xuất mô hình sang ONNX	Nổi bật cách xuất và chạy các tác vụ suy luận thông qua ONNX

Sổ tay ghi chú Optimum

🤗 Optimum là phần mở rộng của 🤗 Transformers, cung cấp một bộ công cụ tối ưu hóa hiệu năng giúp đạt hiệu quả tối đa khi huấn luyện và chạy mô hình trên phần cứng mục tiêu.

Notebook	Mô tả
Cách lượng tử hóa một mô hình bằng ONNX Runtime cho phân loại văn bản	Hiển thị cách áp dụng lượng tử hóa tĩnh và động lên một mô hình bằng ONNX Runtime cho bất kỳ tác vụ GLUE nào.
Cách tinh chỉnh mô hình cho phân loại văn bản với ONNX Runtime	Hiển thị cách tiền xử lý dữ liệu và tinh chỉnh mô hình trên bất kỳ tác vụ GLUE nào bằng ONNX Runtime.
Cách tinh chỉnh mô hình cho tóm tắt bằng ONNX Runtime	Hiển thị cách tiền xử lý dữ liệu và tinh chỉnh một mô hình trên XSUM bằng ONNX Runtime.

Sổ tay ghi chú của cộng đồng

Nhiều notebook do cộng đồng phát triển có sẵn tại đây.