自動音声認識

自動音声認識（ASR）は、音声信号をテキストに変換し、音声入力のシーケンスをテキスト出力にマッピングする技術です。SiriやAlexaなどの仮想アシスタントはASRモデルを使用して毎日ユーザーを支援しており、ライブ字幕や会議中のメモ取りなど、他の多くの有用なユーザー向けアプリケーションも存在します。

このガイドでは、次の方法について説明します：

MInDS-14 データセットで Wav2Vec2 をファインチューニングして、音声からテキストへの書き起こしを行います。
ファインチューニングしたモデルを推論に使用します。

このタスクと互換性のあるすべてのアーキテクチャとチェックポイントを確認するには、タスクページを参照することをお勧めします。

開始前に、必要なライブラリがすべてインストールされていることを確認してください。

pip install transformers datasets evaluate jiwer soundfile torchcodec

Hugging Face アカウントにログインして、モデルをアップロードし、コミュニティと共有できるようにすることを推奨します。プロンプトが表示されたら、ログイン用のトークンを入力してください:

>>> from huggingface_hub import notebook_login

>>> notebook_login()

MInDS-14 データセットを読み込む

🤗 Datasets ライブラリから MInDS-14 データセットのより小さなサブセットを読み込むことから始めます。これにより、フルデータセットでの学習により多くの時間を費やす前に、実験を行い、すべてが正常に動作することを確認できます。

>>> from datasets import load_dataset, Audio

>>> minds = load_dataset("PolyAI/minds14", name="en-US", split="train[:100]")

データセットのtrainスプリットを~Dataset.train_test_splitメソッドを使用して、学習セットとテストセットに分割します:

>>> minds = minds.train_test_split(test_size=0.2)

次に、データセットを確認します。

>>> minds
DatasetDict({
    train: Dataset({
        features: ['path', 'audio', 'transcription', 'english_transcription', 'intent_class', 'lang_id'],
        num_rows: 16
    })
    test: Dataset({
        features: ['path', 'audio', 'transcription', 'english_transcription', 'intent_class', 'lang_id'],
        num_rows: 4
    })
})

データセットにはlang_idやenglish_transcriptionなど多くの有用な情報が含まれていますが、本ガイドではaudioとtranscriptionに焦点を当てます。remove_columnsメソッドを使用して、その他の列を削除します:

>>> minds = minds.remove_columns(["english_transcription", "intent_class", "lang_id"])

例をもう一度確認してください:

>>> minds["train"][0]
{'audio': {'array': array([-0.00024414,  0.        ,  0.        , ...,  0.00024414,
          0.00024414,  0.00024414], dtype=float32),
  'path': '/root/.cache/huggingface/datasets/downloads/extracted/f14948e0e84be638dd7943ac36518a4cf3324e8b7aa331c5ab11541518e9368c/en-US~APP_ERROR/602ba9e2963e11ccd901cd4f.wav',
  'sampling_rate': 8000},
 'path': '/root/.cache/huggingface/datasets/downloads/extracted/f14948e0e84be638dd7943ac36518a4cf3324e8b7aa331c5ab11541518e9368c/en-US~APP_ERROR/602ba9e2963e11ccd901cd4f.wav',
 'transcription': "hi I'm trying to use the banking app on my phone and currently my checking and savings account balance is not refreshing"}

2つのフィールドがあります:

audio: 音声ファイルをロードしてリサンプリングするために呼び出す必要がある、音声信号の1次元array。
transcription: ターゲットテキスト。

前処理

次のステップは、音声信号を処理するためにWav2Vec2プロセッサを読み込むことです:

>>> from transformers import AutoProcessor

>>> processor = AutoProcessor.from_pretrained("facebook/wav2vec2-base")

MInDS-14 データセットのサンプリングレートは 8000Hz です（この情報はデータセットカードで確認できます）。そのため、事前学習済みの Wav2Vec2 モデルを使用するには、データセットを 16000Hz にリサンプリングする必要があります。

>>> minds = minds.cast_column("audio", Audio(sampling_rate=16_000))
>>> minds["train"][0]
{'audio': {'array': array([-2.38064706e-04, -1.58618059e-04, -5.43987835e-06, ...,
          2.78103951e-04,  2.38446111e-04,  1.18740834e-04], dtype=float32),
  'path': '/root/.cache/huggingface/datasets/downloads/extracted/f14948e0e84be638dd7943ac36518a4cf3324e8b7aa331c5ab11541518e9368c/en-US~APP_ERROR/602ba9e2963e11ccd901cd4f.wav',
  'sampling_rate': 16000},
 'path': '/root/.cache/huggingface/datasets/downloads/extracted/f14948e0e84be638dd7943ac36518a4cf3324e8b7aa331c5ab11541518e9368c/en-US~APP_ERROR/602ba9e2963e11ccd901cd4f.wav',
 'transcription': "hi I'm trying to use the banking app on my phone and currently my checking and savings account balance is not refreshing"}

上記のtranscriptionに示されているように、テキストは大文字と小文字が混在しています。Wav2Vec2のトークナイザーは大文字のみで学習されているため、テキストがトークナイザーの語彙と一致していることを確認する必要があります。

>>> def uppercase(example):
...     return {"transcription": example["transcription"].upper()}


>>> minds = minds.map(uppercase)

次に、以下の処理を行う前処理関数を作成します:

audioカラムを呼び出して、オーディオファイルを読み込み、リサンプリングします。
オーディオファイルからinput_valuesを抽出し、プロセッサでtranscriptionカラムをトークン化します。

>>> def prepare_dataset(batch):
...     audio = batch["audio"]
...     batch = processor(audio["array"], sampling_rate=audio["sampling_rate"], text=batch["transcription"])
...     batch["input_length"] = len(batch["input_values"][0])
...     return batch

データセット全体に前処理関数を適用するには、🤗 Datasets の map 関数を使用します。num_proc パラメータでプロセス数を増やすことで、map を高速化できます。remove_columns メソッドで不要な列を削除します:

>>> encoded_minds = minds.map(prepare_dataset, remove_columns=minds.column_names["train"], num_proc=4)

🤗 TransformersにはASR用のデータコラレーターが用意されていないため、DataCollatorWithPaddingを適応させてバッチの例を作成する必要があります。また、テキストとラベルをバッチ内の最も長い要素の長さに動的にパディングします（データセット全体ではなく）。これにより、長さが均一になります。tokenizer関数でpadding=Trueを設定してテキストをパディングすることも可能ですが、動的パディングの方が効率的です。

他のデータコラテーターとは異なり、この特定のデータコラテーターでは、input_valuesとlabelsに対して異なるパディング手法を適用する必要があります。

>>> import torch

>>> from dataclasses import dataclass, field
>>> from typing import Any, Dict, List, Optional, Union


>>> @dataclass
... class DataCollatorCTCWithPadding:
...     processor: AutoProcessor
...     padding: Union[bool, str] = "longest"

...     def __call__(self, features: list[dict[str, Union[list[int], torch.Tensor]]]) -> dict[str, torch.Tensor]:
...         # split inputs and labels since they have to be of different lengths and need
...         # different padding methods
...         input_features = [{"input_values": feature["input_values"][0]} for feature in features]
...         label_features = [{"input_ids": feature["labels"]} for feature in features]

...         batch = self.processor.pad(input_features, padding=self.padding, return_tensors="pt")

...         labels_batch = self.processor.pad(labels=label_features, padding=self.padding, return_tensors="pt")

...         # replace padding with -100 to ignore loss correctly
...         labels = labels_batch["input_ids"].masked_fill(labels_batch.attention_mask.ne(1), -100)

...         batch["labels"] = labels

...         return batch

DataCollatorCTCWithPaddingをインスタンス化します:

>>> data_collator = DataCollatorCTCWithPadding(processor=processor, padding="longest")

評価

学習中にメトリクスを含めることは、モデルの性能を評価する上で多くの場合、役立ちます。🤗 Evaluate ライブラリを使用すると、評価手法をすばやく読み込むことができます。このタスクでは、word error rate（WER）メトリクスを読み込みます（メトリクスの読み込みと計算について詳しくは、🤗 Evaluate の quick tour を参照してください）：

>>> import evaluate

>>> wer = evaluate.load("wer")

次に、予測値とラベルをcomputeに渡してWERを計算する関数を作成します。

>>> import numpy as np


>>> def compute_metrics(pred):
...     pred_logits = pred.predictions
...     pred_ids = np.argmax(pred_logits, axis=-1)

...     pred.label_ids[pred.label_ids == -100] = processor.tokenizer.pad_token_id

...     pred_str = processor.batch_decode(pred_ids)
...     label_str = processor.batch_decode(pred.label_ids, group_tokens=False)

...     wer_score = wer.compute(predictions=pred_str, references=label_str)

...     return {"wer": wer_score}

compute_metrics 関数はこれで準備が整いました。学習を設定する際に、この関数に戻ります。

学習

Trainer を用いたモデルのファインチューニングに慣れていない場合は、こちらの基本的なチュートリアルをご覧ください!

モデルの学習を開始する準備が整いました!AutoModelForCTCでWav2Vec2を読み込みます。ctc_loss_reductionパラメータで適用するreductionを指定します。デフォルトの総和ではなく、平均を使用する方が多くの場合、より良い結果が得られます:

>>> from transformers import AutoModelForCTC, TrainingArguments, Trainer

>>> model = AutoModelForCTC.from_pretrained(
...     "facebook/wav2vec2-base",
...     ctc_loss_reduction="mean",
...     pad_token_id=processor.tokenizer.pad_token_id,
... )

この時点で、残りのステップは3つだけです:

TrainingArguments で学習ハイパーパラメータを定義します。必須のパラメータは output_dir のみで、モデルの保存先を指定します。push_to_hub=True を設定することで、このモデルを Hub にプッシュできます（モデルをアップロードするには Hugging Face にサインインしている必要があります）。各エポックの終了時に、Trainer が WER を評価し、学習チェックポイントを保存します。
モデル、データセット、トークナイザー、データコラテーター、compute_metrics 関数とともに、学習引数を Trainer に渡します。
train()を呼び出して、モデルをファインチューニングします。

>>> training_args = TrainingArguments(
...     output_dir="my_awesome_asr_mind_model",
...     per_device_train_batch_size=8,
...     gradient_accumulation_steps=2,
...     learning_rate=1e-5,
...     warmup_steps=500,
...     max_steps=2000,
...     gradient_checkpointing=True,
...     fp16=True,
...     train_sampling_strategy="group_by_length",
...     eval_strategy="steps",
...     per_device_eval_batch_size=8,
...     save_steps=1000,
...     eval_steps=1000,
...     logging_steps=25,
...     load_best_model_at_end=True,
...     metric_for_best_model="wer",
...     greater_is_better=False,
...     push_to_hub=True,
...     report_to="trackio",
... )

>>> trainer = Trainer(
...     model=model,
...     args=training_args,
...     train_dataset=encoded_minds["train"],
...     eval_dataset=encoded_minds["test"],
...     processing_class=processor,
...     data_collator=data_collator,
...     compute_metrics=compute_metrics,
... )

>>> trainer.train()

トレーニングが完了したら、push_to_hub() メソッドを使用してモデルを Hub に共有し、誰でもアクセスできるようにしてください:

>>> trainer.push_to_hub()

自動音声認識用のモデルをファインチューニングする方法について、より詳細な例を確認するには、英語 ASR 向けのこのブログ記事と、多言語 ASR 向けのこの記事をご覧ください。

推論

素晴らしいですね。モデルのファインチューニングが完了したので、推論に使用できます！

推論を実行したいオーディオファイルを読み込みます。必要に応じて、オーディオファイルのサンプリングレートをモデルのサンプリングレートに合わせてリサンプリングすることを忘れないでください。

>>> from datasets import load_dataset, Audio

>>> dataset = load_dataset("PolyAI/minds14", "en-US", split="train")
>>> dataset = dataset.cast_column("audio", Audio(sampling_rate=16000))
>>> sampling_rate = dataset.features["audio"].sampling_rate
>>> audio_file = dataset[0]["audio"]["path"]

ファインチューニングしたモデルで推論を試す最も簡単な方法は、pipeline()でそれを使用することです。モデルで自動音声認識用のpipelineをインスタンス化し、オーディオファイルを渡します:

>>> from transformers import pipeline

>>> transcriber = pipeline("automatic-speech-recognition", model="stevhliu/my_awesome_asr_minds_model")
>>> transcriber(audio_file)
{'text': 'I WOUD LIKE O SET UP JOINT ACOUNT WTH Y PARTNER'}

文字起こしの精度はそこそこですが、さらに向上させる可能性があります！より良い結果を得るために、より多くの例でモデルをファインチューニングしてみてください！

必要に応じて、pipelineの結果を手動で再現することもできます。

プロセッサを読み込み、音声ファイルと文字起こしを前処理して、inputを PyTorch テンソルとして返します:

>>> from transformers import AutoProcessor

>>> processor = AutoProcessor.from_pretrained("stevhliu/my_awesome_asr_mind_model")
>>> inputs = processor(dataset[0]["audio"]["array"], sampling_rate=sampling_rate, return_tensors="pt")

入力データをモデルに渡し、logitsを返します:

>>> from transformers import AutoModelForCTC

>>> model = AutoModelForCTC.from_pretrained("stevhliu/my_awesome_asr_mind_model")
>>> with torch.no_grad():
...     logits = model(**inputs).logits

確率が最も高い予測されたinput_idsを取得し、プロセッサを使用して予測されたinput_idsをテキストにデコードします:

>>> import torch

>>> predicted_ids = torch.argmax(logits, dim=-1)
>>> transcription = processor.batch_decode(predicted_ids)
>>> transcription
['I WOUL LIKE O SET UP JOINT ACOUNT WTH Y PARTNER']

Update on GitHub