コンテンツカテゴリ
用語
AIによる要約
タスク固有のベクトルをモデルに付加し、プレフィックス のパラメータのみをチューニングする手法
コンテンツ
タグ
チューニング手法
レベル
ツール
ChatGPT
作成日時
Jan 29, 2024 7:32 AM
最終更新日時
Jan 29, 2024 7:32 AM
事前学習済み言語モデルを効率的にタスク転移させる手法。タスク個別に学習可能なパラメーター(Prefix)を入力に付与し(Encoder/Decoderの場合は入出力)、事前学習済み言語モデルのパラメーター自体は固定する。これによりモデル全体の学習をする必要をなくしている。