Loading

一文学会conda基本使用

Conda 简介

Conda 是一个开源的包管理系统和环境管理系统,可在 Windows、macOS 和 Linux 上运行。 Conda 可快速安装、运行和更新包及其依赖项。 Conda 可以轻松地在计算机上创建、保存、加载和切换环境。 它是为 Python 程序而创造的,但它可以打包和分发任何语言的软件。

简单来说,conda可以让我们一行命令安装更新卸载程序,以及进行环境管理。

下图是一个实际的例子。我用conda 创建了两个虚拟环境:R4 和R41,分别用于运行4.0 和 4.1 的R。而且在各自对应的环境中,安装了相应版本的R包。 下图是vs code界面,我可以很方便的在多个版本间切换, 同时创建多个R控制台,极大提高了效率。(vs code可以通过ssh 连接服务器,所以我现在都很少用RStudio server了。)

image.png

Conda 安装

conda 是包含在 Anaconda 里的。我们安装了Anaconda就可以使用Conda了。

Anaconda是一个免费开源的Python和R语言的发行版本,用于计算科学(数据科学、机器学习、大数据处理和预测分析),Anaconda致力于简化软件包管理系统和部署。Anaconda的包使用软件包管理系统Conda进行管理。

Anaconda 有个人版,商业版,企业版,团队版。我们使用个人版,因为其他版本要钱。去https://www.anaconda.com/products/individual 下载。本文,主要在Linux下演示,所以下载Linux版本的。
image.png

网络不好,可以去清华镜像下载:

https://mirrors.tuna.tsinghua.edu.cn/anaconda/archive/?C=M&O=D

通过在浏览器点击链接下载,或者复制下载链接来,在命令行下载

## 下载
$ wget -c https://mirrors.tuna.tsinghua.edu.cn/anaconda/archive/Anaconda3-2021.05-Linux-x86_64.sh
## 查看
$ ls
Anaconda3-2021.05-Linux-x86_64.sh

安装通过bash 运行

$ bash Anaconda3-2021.05-Linux-x86_64.sh

下面是一些安装过程中的提示:
image.png

按回车键(Enter)。
image.png

按回车键,慢慢跳过。或者按q。
image.png

输入yes,回车
image.png

设置安装地址, 默认是 ">>>" 前面那个地址。使用默认地址,直接回车若自定义按照地址,在">>>"后面输入新的的地址。这里我直接回车
image.png

是否conda init 官方推荐yes, 我也yes 回车。不yes的话,你之后得手动设置一下才能用conda
​🤷‍♀️

之后就安装成功了。不过最好运行一个命令

$ conda config --set auto_activate_base false

anaconda 安装好后,默认有一个 base 的环境。不运行上面那命令的情况,每次你打开命令行,终端,都会激活base环境。在anaconda 的环境下,运行命令,会优先调用anaconda环境下的程序。

比如下图例子,在系统环境下和anaconda base环境下, 两者的python3 地址是不一样的。anaconda 激活环境后,是会在终端前面看到类似这种 " (环境名) "
image.png

Channel 管理

Conda channels 是 软件存储的位置,相当于远程软件仓库。每次conda 软件下载时,都会从远程channel寻找相应的软件。比如bioconda ,一个专门存放生信软件的channel。
默认远程channel都在国外服务器。很多时候,我们下载安装软件都很慢。所以,我们可能需要修改下默认的channel设置,指向国内。

Channel 查看

$ conda config --show channels
channels:
  - defaults

Channel 添加

$ conda config --add channels bioconda
$ conda config --add channels conda-forge

对于官方的channel, 添加channel 名就可以了。若是添加镜像channel 需要提供URL

$ conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/bioconda/

查看添加的channels:

$ conda config --get channels
--add channels 'defaults'   # lowest priority
--add channels 'bioconda'
--add channels 'conda-forge'
--add channels 'https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/bioconda/'   # highest priority

后添加的channel 有更高的优先级, 即在检索软件时,会优先检索更高优先级的channel.

清华镜像

上面一个一个添加,有点麻烦,我们就直接使用清华镜像站的提供的channel配置。

https://mirrors.tuna.tsinghua.edu.cn/help/anaconda/

打开 ~/.condarc 文件,没有就创建一个。添加下面的内容。

channels:
  - defaults
show_channel_urls: true
default_channels:
  - https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/main
  - https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/r
  - https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud
custom_channels:
  conda-forge: https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud
  msys2: https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud
  bioconda: https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud
  menpo: https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud
  pytorch: https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud
  simpleitk: https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud

然后运行下清除索引缓存,保证用的是镜像站提供的索引。

conda clean -i

环境管理

base 环境,建议不要随意的安装程序了。可以根据日常需要创建一些特定的环境来安装程序。我平常一些组学的的软件都会安装到了ngs这个环境中。 运行R ,我创建了两个环境 R4R41 分别用于R 4.0 和 R 4.1 的R软件运行。(其实之前还有个叫R 环境,被搞坏了,就删了。)

环境创建

创建一个叫test 的环境
### -n 环境名
$ conda create -n test

激活/退出环境

$ conda activate test
$ conda deactivate

image.png

环境克隆

环境克隆,就复制一个环境,做个备份。在安装了许多软件后,可以考虑备份一下环境。因为环境使用久了,软件安装的越来越多,指不定哪个时候因为某些操作,软件安装就把当前环境弄出问题了。有个备份还是好的,避免重新安装。

你也可以把它当作环境的重命名。在删除老环境后。

克隆test 环境为ngs 环境
$ conda create -n ngs --clone test

删除环境

$ conda remove -n test --all

查看环境

$ conda env list
# conda environments:
#
base                  *  /home/user/anaconda3
ngs                      /home/user/anaconda3/envs/ngs

软件管理

可用安装软件查找

不是每个软件用conda 都能下载安装的。所以用conda安装软件前,应该检索下该软件是否能被conda 安装。
我们可以直接在搜索引擎 搜索 conda 软件名,比如要安装bedtools:
image.png

一般,能搜到,代表可以安装的。

还可以通过conda 命令搜索。

conda search bedtools -c bioconda

image.png

相比命令行,浏览器,可能更加智能一点, 对错误的输入有一定鲁棒性。

软件安装

要是用浏览器搜索的话,打开第一个链接, 打开的页面就有安装命令

### 在ngs环境下安装使用
conda activate ngs
### -y 确认安装
### -c 选择额外通道bioconda
$ conda install -y -c bioconda bedtools

安装指定版本

conda install -y -c bioconda bedtools=2.30.0

安装后,我们可以简单确认下是否正确的安装

$ which bedtools
/home/user/anaconda3/envs/ngs/bin/bedtools

新创建的环境,都在 envs/目录下

查看已安装软件

$ conda list
# packages in environment at /home/user/anaconda3/envs/ngs:
#
# Name                    Version                   Build  Channel
_libgcc_mutex             0.1                        main    defaults
_openmp_mutex             4.5                       1_gnu    defaults
bedtools                  2.30.0               h7d7f7ad_1    bioconda
bzip2                     1.0.8                h7b6447c_0    defaults
libgcc-ng                 9.3.0               h5101ec6_17    defaults
libgomp                   9.3.0               h5101ec6_17    defaults
libstdcxx-ng              9.3.0               hd4cf53a_17    defaults
xz                        5.2.5                h7b6447c_0    defaults
zlib                      1.2.11               h7b6447c_3    defaults

软件更新

conda update bedtools

软件删除

$ conda remove bedtools

####  之后会提示是否确认删除。输入y就好了

Conda 加速

conda有时使用时会发现很慢的。这里提供一些方案供参考:

镜像设置

我猜国内用户,使用conda 慢的的原因,大部分是因为网络问题吧, 参考上面Channel管理,设置下channel镜像。

channel管理

channel 是 软件存储的位置。而conda 安装软件时,会从已设置的channel 里寻找软件。不同的通道可能有相同的包。 有多少个channel,它去多少个channel里寻找软件。

不任意添加channel

举个例子,在查询requests时,conda只会查询当前设置的channel。当我们再添加一个channel时,conda就会查询添加的。


$ conda search requests
Loading channels: done
# Name                       Version           Build  Channel
requests                      2.18.4  py27hc5b0589_1  anaconda/pkgs/main
requests                      2.18.4  py35hb9e6ad1_1  anaconda/pkgs/main
requests                      2.18.4  py36he2e5f8d_1  anaconda/pkgs/main
requests                      2.19.1          py27_0  anaconda/pkgs/main
requests                      2.19.1          py35_0  anaconda/pkgs/main
requests                      2.19.1          py36_0  anaconda/pkgs/main

## 添加一个channel, 测试完这个,我就把这个channel从~/.condarc里删除了
$ conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/conda-forge/
$ conda search requests
Loading channels: done
# Name                       Version           Build  Channel
requests                       2.9.2          py27_0  conda-forge
requests                       2.9.2          py34_0  conda-forge
......
requests                      2.18.4  py27hc5b0589_1  anaconda/pkgs/main
requests                      2.18.4          py35_0  conda-forge
requests                      2.18.4          py35_1  conda-forge
requests                      2.18.4  py35hb9e6ad1_1  anaconda/pkgs/main
requests                      2.18.4          py36_0  conda-forge
requests                      2.18.4          py36_1  conda-forge
requests                      2.18.4  py36he2e5f8d_1  anaconda/pkgs/main

所以因此,我们容易想到,不要随意的添加channel, 因为添加的越多。conda需要查询的channel 就越多,导致
速度变慢。添加镜像时,添加几个速度快的,核心的,包含常用的软件的安装的channel。就行了。

指定channel

除了添加channel 外,我们也可以在命令行指定某个channel。

$ conda search r-rsqlite
Loading channels: done
# Name                       Version           Build  Channel
r-rsqlite                      1.0.0        r3.1.3_0  anaconda/pkgs/r
r-rsqlite                      1.0.0       r3.1.3_0a  anaconda/pkgs/r
r-rsqlite                      1.0.0        r3.2.0_1  anaconda/pkgs/r
r-rsqlite                      1.0.0       r3.2.0_1a  anaconda/pkgs/r

$ conda search r-rsqlite -c conda-forge
Loading channels: done
# Name                       Version           Build  Channel
r-rsqlite                      1.0.0        r3.1.3_0  anaconda/pkgs/r
r-rsqlite                      1.0.0       r3.1.3_0a  anaconda/pkgs/r
....
r-rsqlite                      1.0.0        r3.3.1_2  anaconda/pkgs/r
r-rsqlite                      1.1_1        r3.3.1_0  anaconda/pkgs/r
r-rsqlite                      1.1_1        r3.3.2_0  anaconda/pkgs/r
r-rsqlite                      1.1_2        r3.3.2_0  conda-forge
r-rsqlite                      1.1_2        r3.4.1_0  conda-forge

$ conda search r-rsqlite -c conda-forge --override-channels
Loading channels: done
# Name                       Version           Build  Channel
r-rsqlite                      1.1_2        r3.3.2_0  conda-forge
r-rsqlite                      1.1_2        r3.4.1_0  conda-forge
r-rsqlite                        2.0        r3.3.2_0  conda-forge
r-rsqlite                        2.0        r3.4.1_0  conda-forge
r-rsqlite                        2.0  r341hfc679d8_1  conda-forge
r-rsqlite                      2.1.1  r341h9d2a408_0  conda-forge

-c/--channel 是添加额外查询软件的channel, 并不是指定查询channel。 若要指定为查询channel 可以再添加个参数--override-channels

设置channel 优先级

不同的通道可能有相同的包, 而conda 需要解决不同通道相同包的冲突问题。所以conda 查询channel 时有个优先级的概念。

$ conda config --describe channel_priority
# # channel_priority (ChannelPriority)
# #   Accepts values of 'strict', 'flexible', and 'disabled'. The default
# #   value is 'flexible'. With strict channel priority, packages in lower
# #   priority channels are not considered if a package with the same name
# #   appears in a higher priority channel. With flexible channel priority,
# #   the solver may reach into lower priority channels to fulfill
# #   dependencies, rather than raising an unsatisfiable error. With channel
# #   priority disabled, package version takes precedence, and the
# #   configured priority of channels is used only to break ties. In
# #   previous versions of conda, this parameter was configured as either
# #   True or False. True is now an alias to 'flexible'.
# #
# channel_priority: flexible

设置channel priority 为 strict, 对于相同软件名,只会考虑最高优先级的channel。Conda 4.6.0 开始有了strict 特性。strict 的通道优先级可以显着加快 conda 操作并减少包不兼容问题。 官方建议将其作为默认设置。但是,它可能会破坏旧的环境文件。所以可能在Conda 5.0 时, 官方可能计划将其设置为 conda 的默认设置。
现在的话, 对于才开始用conda 的同学来说,可以考虑设为strict

$ conda config --set channel_priority strict

使用Mamba

Mamba 使用C++对conda 的重实现:

  • 支持并行下载,对包文件多线程处理
  • 用libsolv 来更快的解决软件依赖关系
  • C++ 实现软件核心功能,来获取更大效率

mamba 用法和conda 一样。除了 激活/退出环境,需要用 conda 外。其余一样。
mamba 安装

$ conda install mamba -n base -c conda-forge

其他

指定软件版本

在安装软件时,指定版本号安装。

$ conda install bedtools=2.30.0 -c bioconda
新环境安装软件

创建一个新的环境,来安装软件。

参考

https://zh.wikipedia.org/wiki/Anaconda_(Python%E5%8F%91%E8%A1%8C%E7%89%88)#cite_note-2
https://docs.conda.io/projects/conda/en/latest/
https://www.jianshu.com/p/edaa744ea47d
https://www.anaconda.com/blog/understanding-and-improving-condas-performance

posted @ 2022-01-05 19:55  何物昂  阅读(2887)  评论(0编辑  收藏  举报