RAGLightのインストールと使用には、主に3つのステップがあります:
- Python 3.8+をインストールし、RAGLightとその依存関係をpip経由でインストールする:
pip install raglight
歌で応えるpip install sentence-transformers
(必要であればHuggingFace埋め込みモデル) - OllamaまたはLMStudioをダウンロードして実行し、必要なモデルを取り出します。
ollama pull llama3
) - プロジェクトフォルダを作成し、ナレッジベースデータを準備する(ローカルフォルダまたはGitHubリポジトリのアドレス)
使用例:RAGPipelineインスタンスを作成し、知識ベース、モデル名、プロバイダ(Ollama/LMStudio)を指定し、build()を呼び出してパイプラインを構築し、最後にgenerate()メソッドで回答を取得します。
この答えは記事から得たものである。RAGLight: 軽量検索拡張生成Pythonライブラリについて