GPT4AllでのGGUFの使用方法

GPT4All は、Nomic によって開発されたオープンソースの LLM アプリケーションです。バージョン 2.7.2 では、Model Discovery というまったく新しい実験的な機能が導入されました。

Model Discoveryは、HubからGGUFモデルを検索してダウンロードするための組み込み機能を提供します。開始するには、GPT4Allを開き、Download Modelsをクリックします。ここから、検索バーを使用してモデルを検索できます。

モデルを選択してダウンロードした後、Settings に移動し、GPT4All 形式（%1 および %2 プレースホルダー）の適切なプロンプトテンプレートを入力できます。

その後、メインページからインストール済みのモデルのリストでモデルを選択し、会話を開始できます。

Update on GitHub