LMCache需要特定的运行环境支持，要求系统为Linux操作系统，Python版本不低于3.10，且必须配置NVIDIA CUDA 12.1及以上版本的开发环境。官方推荐使用Miniconda创建隔离的Python虚拟环境来管理依赖关系。安装方式灵活多样：既可以通过PyPI直接安装稳定版(pip install lmcache)，也可以选择从源码编译安装以获得最新功能。值得注意的是，LMCache必须配合vLLM推理引擎使用，因此需要额外安装vLLM组件。对于容器化部署场景，项目还提供了预构建的Docker镜像，集成vLLM和相关依赖项，简化部署流程。
Diese Antwort stammt aus dem ArtikelLMCache: Ein Key-Value-Cache-Optimierungswerkzeug zur Beschleunigung von Schlussfolgerungen auf großen SprachmodellenDie
Darf nicht ohne Genehmigung vervielfältigt werden:KI-Produktivitätswerkzeuge " LMCache的安装依赖基于Linux的CUDA环境
Deutsch 
简体中文 
English 
日本語 
Português do Brasil