在Visual Studio Code中运行Llama 3模型

最近想试试使用Meta 发布的最新的开源语言模型Llama 3。我选择下载这个模型，并在自己的电脑上运行。

第 1 步：下载并安装

首先，访问Ollama网站，下载最新版本的安装程序。Ollama是一个多功能工具，旨在帮助用户在不同平台上本地运行、创建和分享大型语言模型（LLMs）。

完成Ollama的安装后，确保它在后台运行。你可以通过系统托盘或任务管理器中的Ollama图标来进行检查

要验证Ollama在命令行界面（CLI）中是否正常工作，可以运行以下命令来查看版本。我当前的版本是0.1.32，你的版本可能会有所不同。

第 2 步：在 VS Code 中安装 CodeGPT 扩展

第 3 步：下载模型

在VS Code的终端里，运行以下命令来下载Llama 3模型：
ollama pull llama3:8b
因为模型大小超过4GB，所以下载可能需要一段时间。请耐心等待直到完成。下载成功后，你将看到一个成功的消息提示。

第 4 步：选择 Llama 3 模型

在VS Code的左侧CodeGPT仪表板中，找到“提供者”下拉菜单，选择“Ollama”。然后，在“模型”下拉菜单中选择“Llama3:8b”。如果列表中没有显示这个模型，你可以手动输入“Llama3:8b”。

然后编写源代码，右键选择CodeGPT:Explain

左侧就出现了代码解释的结果