LlamaIndex 安装与配置(不含OpenAI)

通过llama.cpp与羊驼聊天的网页界面- 详解 Serge 的启动使用

 

  pip install llama-index

这是一个包含以下组件的启动包:

  • llama-index-core
  • llama-index-legacy (暂时包含)
  • llama-index-llms-openai
  • llama-index-embeddings-openai
  • llama-index-program-openai
  • llama-index-question-gen-openai
  • llama-index-agent-openai
  • llama-index-readers-file
  • llama-index-multi-modal-llms-openai

 

自定义安装(通过 Pip)

如果你不使用 OpenAI,或者想要更精细的选择性安装,你可以按需安装单个包。

例如,对于使用 Ollama 和 HuggingFace 嵌入的本地设置,安装可能如下所示:

   pip install llama-index-core llama-index-readers-file llama-index-llms-ollama llama-index-embeddings-huggingface
 

查看我们的使用本地模型的入门示例。https://docs.llamaindex.ai/en/stable/getting_started/starter_example_local/

LLM 使用与配置的完整指南在此处可获得。https://docs.llamaindex.ai/en/stable/module_guides/models/llms/

嵌入模型使用与配置的完整指南在此处可获得。https://docs.llamaindex.ai/en/stable/module_guides/models/embeddings/

 

从源码安装

克隆此仓库:git clone https://github.com/jerryjliu/llama_index.git。然后执行以下操作:

  1. 安装 poetry —— 它将帮助你管理包依赖
  2. poetry shell —— 此命令创建一个虚拟环境,将已安装的包隔离到该项目中
  3. poetry install —— 这将安装核心启动包的依赖项
  4. (可选)poetry install --with dev, docs —— 这将安装本地开发所需的全部依赖项

之后,你可以根据需要使用 pip 安装集成,例如: 

pip install -e llama-index-integrations/llms/llama-index-llms-ollama
 
Ref:https://docs.llamaindex.ai/en/stable/getting_started/installation/

posted on 2024-04-14 23:02  ercom  阅读(703)  评论(0编辑  收藏  举报