対応機種一覧
- メタシリーズ: Llama-3-8B-Instruct, Llama-3.2-1B-Instruct
- マイクロソフトシリーズPhi-3-mini-4k-instruct (特別最適化版)
拡張性ノート
を使用した結果アダプター機構理論的には、あらゆるTransformerベースのモデルをサポートする。現在の制限の主な原因は以下の通りである。src/kblam/models/2)モデルの隠れ層の次元は知識ベクトルと一致させる必要がある。コミュニティから提供された新しいモデルの適応は、徐々にマージされている。
技術ロードマップ
GitHubのディスカッションフォーラムによると、次のステップとして、1)Mistralアーキテクチャ 2)Qwenのような中国語モデル 3)マルチモーダル拡張機能をサポートする予定だ。開発者はKeyValueEmbedderクラスを使用してカスタム統合を実装します。
この答えは記事から得たものである。KBLaM:大規模モデルに外部知識を埋め込むためのオープンソース拡張ツールについて































