RAGLightをインストールし設定するには、以下の手順に従ってください:
- Pythonと依存関係のインストールPython 3.8以降がシステムにインストールされていることを確認してから、以下のコマンドを実行してください。
pip install raglight
HuggingFaceの埋め込みモデルは、HuggingFaceのウェブサイトで利用可能です。HuggingFaceエンベッディング・モデルを使用するにはsentence-transformers
. - OllamaまたはLMStudioのインストールOllamaまたはLMStudioをダウンロードしてインストールし、必要なモデルを取り出します。
ollama pull llama3
). - 設定環境プロジェクトフォルダを作成し、ナレッジベースデータ(ローカルフォルダまたはGitHubリポジトリURL)を用意します。
- RAGパイプラインの初期化スルー
RAGPipeline
知識ベース、モデル名(例えばllama3
など)および検索パラメータを指定する。k=5
).
この答えは記事から得たものである。RAGLight: 軽量検索拡張生成Pythonライブラリについて