海外からのアクセス:www.kdjingpai.com
Ctrl + D このサイトをブックマークする
現在の場所図頭 " AIアンサー

KBLaMアダプター・アーキテクチャにより、ベースモデル機能を維持したまま知識拡張が可能に

2025-08-27 1.5 K
直接リンクモバイルビュー
qrcode

非侵入型モデル強化プログラム

KBLaMはAdapterデザインパターンを採用しており、ベースモデル(Llama-3、Phi-3など)のアテンションレイヤーに軽量なパラメータを追加するだけで、本来の言語理解・生成能力は変更しません。技術文書によると、アダプターのパラメータ数は、デフォルトの構成ではベースモデルの0.3%以下ですが、38%の知識クイズの精度向上をもたらすことができます。このローカップリングアーキテクチャは、事前学習済みモデルのコア機能を維持しながら、知識投影マトリックスによる知識検索を可能にします。マイクロソフト社から提供されたベンチマークテストによると、強化されたモデルは、一般的な知識科学クイズデータセット(ScienceQAなど)においてF1値0.81を達成し、オリジナルモデルより27ポイント向上しています。

おすすめ

AIツールが見つからない?こちらをお試しください!

キーワードを入力する アクセシビリティこのサイトのAIツールセクションは、このサイトにあるすべてのAIツールを素早く簡単に見つける方法です。

新着情報

トップに戻る

ja日本語