一文学会conda基本使用
Conda 简介
Conda 是一个开源的包管理系统和环境管理系统,可在 Windows、macOS 和 Linux 上运行。 Conda 可快速安装、运行和更新包及其依赖项。 Conda 可以轻松地在计算机上创建、保存、加载和切换环境。 它是为 Python 程序而创造的,但它可以打包和分发任何语言的软件。
简单来说,conda可以让我们一行命令安装更新卸载程序,以及进行环境管理。
下图是一个实际的例子。我用conda
创建了两个虚拟环境:R4 和R41,分别用于运行4.0 和 4.1 的R。而且在各自对应的环境中,安装了相应版本的R包。 下图是vs code界面,我可以很方便的在多个版本间切换, 同时创建多个R控制台,极大提高了效率。(vs code可以通过ssh 连接服务器,所以我现在都很少用RStudio server了。)
Conda 安装
conda 是包含在 Anaconda 里的。我们安装了Anaconda就可以使用Conda了。
Anaconda是一个免费开源的Python和R语言的发行版本,用于计算科学(数据科学、机器学习、大数据处理和预测分析),Anaconda致力于简化软件包管理系统和部署。Anaconda的包使用软件包管理系统Conda进行管理。
Anaconda 有个人版,商业版,企业版,团队版。我们使用个人版,因为其他版本要钱。去https://www.anaconda.com/products/individual 下载。本文,主要在Linux下演示,所以下载Linux版本的。
网络不好,可以去清华镜像下载:
https://mirrors.tuna.tsinghua.edu.cn/anaconda/archive/?C=M&O=D
通过在浏览器点击链接下载,或者复制下载链接来,在命令行下载
## 下载
$ wget -c https://mirrors.tuna.tsinghua.edu.cn/anaconda/archive/Anaconda3-2021.05-Linux-x86_64.sh
## 查看
$ ls
Anaconda3-2021.05-Linux-x86_64.sh
安装通过bash 运行
$ bash Anaconda3-2021.05-Linux-x86_64.sh
下面是一些安装过程中的提示:
按回车键(Enter)。
按回车键,慢慢跳过。或者按q。
输入yes,回车
设置安装地址, 默认是 ">>>" 前面那个地址。使用默认地址,直接回车若自定义按照地址,在">>>"后面输入新的的地址。这里我直接回车
是否conda init 官方推荐yes, 我也yes 回车。不yes的话,你之后得手动设置一下才能用conda
🤷♀️
之后就安装成功了。不过最好运行一个命令
$ conda config --set auto_activate_base false
anaconda 安装好后,默认有一个 base 的环境。不运行上面那命令的情况,每次你打开命令行,终端,都会激活base环境。在anaconda 的环境下,运行命令,会优先调用anaconda环境下的程序。
比如下图例子,在系统环境下和anaconda base环境下, 两者的python3 地址是不一样的。anaconda 激活环境后,是会在终端前面看到类似这种 " (环境名) "
Channel 管理
Conda channels 是 软件存储的位置,相当于远程软件仓库。每次conda 软件下载时,都会从远程channel寻找相应的软件。比如bioconda ,一个专门存放生信软件的channel。
默认远程channel都在国外服务器。很多时候,我们下载安装软件都很慢。所以,我们可能需要修改下默认的channel设置,指向国内。
Channel 查看
$ conda config --show channels
channels:
- defaults
Channel 添加
$ conda config --add channels bioconda
$ conda config --add channels conda-forge
对于官方的channel, 添加channel 名就可以了。若是添加镜像channel 需要提供URL
$ conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/bioconda/
查看添加的channels:
$ conda config --get channels
--add channels 'defaults' # lowest priority
--add channels 'bioconda'
--add channels 'conda-forge'
--add channels 'https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/bioconda/' # highest priority
后添加的channel 有更高的优先级, 即在检索软件时,会优先检索更高优先级的channel.
清华镜像
上面一个一个添加,有点麻烦,我们就直接使用清华镜像站的提供的channel配置。
打开 ~/.condarc
文件,没有就创建一个。添加下面的内容。
channels:
- defaults
show_channel_urls: true
default_channels:
- https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/main
- https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/r
- https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud
custom_channels:
conda-forge: https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud
msys2: https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud
bioconda: https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud
menpo: https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud
pytorch: https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud
simpleitk: https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud
然后运行下清除索引缓存,保证用的是镜像站提供的索引。
conda clean -i
环境管理
base 环境,建议不要随意的安装程序了。可以根据日常需要创建一些特定的环境来安装程序。我平常一些组学的的软件都会安装到了ngs
这个环境中。 运行R ,我创建了两个环境 R4
和R41
分别用于R 4.0 和 R 4.1 的R软件运行。(其实之前还有个叫R
环境,被搞坏了,就删了。)
环境创建
创建一个叫test 的环境
### -n 环境名
$ conda create -n test
激活/退出环境
$ conda activate test
$ conda deactivate
环境克隆
环境克隆,就复制一个环境,做个备份。在安装了许多软件后,可以考虑备份一下环境。因为环境使用久了,软件安装的越来越多,指不定哪个时候因为某些操作,软件安装就把当前环境弄出问题了。有个备份还是好的,避免重新安装。
你也可以把它当作环境的重命名。在删除老环境后。
克隆test 环境为ngs 环境
$ conda create -n ngs --clone test
删除环境
$ conda remove -n test --all
查看环境
$ conda env list
# conda environments:
#
base * /home/user/anaconda3
ngs /home/user/anaconda3/envs/ngs
软件管理
可用安装软件查找
不是每个软件用conda 都能下载安装的。所以用conda安装软件前,应该检索下该软件是否能被conda 安装。
我们可以直接在搜索引擎 搜索 conda 软件名
,比如要安装bedtools:
一般,能搜到,代表可以安装的。
还可以通过conda 命令搜索。
conda search bedtools -c bioconda
相比命令行,浏览器,可能更加智能一点, 对错误的输入有一定鲁棒性。
软件安装
要是用浏览器搜索的话,打开第一个链接, 打开的页面就有安装命令
### 在ngs环境下安装使用
conda activate ngs
### -y 确认安装
### -c 选择额外通道bioconda
$ conda install -y -c bioconda bedtools
安装指定版本
conda install -y -c bioconda bedtools=2.30.0
安装后,我们可以简单确认下是否正确的安装
$ which bedtools
/home/user/anaconda3/envs/ngs/bin/bedtools
新创建的环境,都在 envs/目录下
查看已安装软件
$ conda list
# packages in environment at /home/user/anaconda3/envs/ngs:
#
# Name Version Build Channel
_libgcc_mutex 0.1 main defaults
_openmp_mutex 4.5 1_gnu defaults
bedtools 2.30.0 h7d7f7ad_1 bioconda
bzip2 1.0.8 h7b6447c_0 defaults
libgcc-ng 9.3.0 h5101ec6_17 defaults
libgomp 9.3.0 h5101ec6_17 defaults
libstdcxx-ng 9.3.0 hd4cf53a_17 defaults
xz 5.2.5 h7b6447c_0 defaults
zlib 1.2.11 h7b6447c_3 defaults
软件更新
conda update bedtools
软件删除
$ conda remove bedtools
#### 之后会提示是否确认删除。输入y就好了
Conda 加速
conda有时使用时会发现很慢的。这里提供一些方案供参考:
镜像设置
我猜国内用户,使用conda 慢的的原因,大部分是因为网络问题吧, 参考上面Channel管理,设置下channel镜像。
channel管理
channel 是 软件存储的位置。而conda 安装软件时,会从已设置的channel 里寻找软件。不同的通道可能有相同的包。 有多少个channel,它去多少个channel里寻找软件。
不任意添加channel
举个例子,在查询requests
时,conda只会查询当前设置的channel。当我们再添加一个channel时,conda就会查询添加的。
$ conda search requests
Loading channels: done
# Name Version Build Channel
requests 2.18.4 py27hc5b0589_1 anaconda/pkgs/main
requests 2.18.4 py35hb9e6ad1_1 anaconda/pkgs/main
requests 2.18.4 py36he2e5f8d_1 anaconda/pkgs/main
requests 2.19.1 py27_0 anaconda/pkgs/main
requests 2.19.1 py35_0 anaconda/pkgs/main
requests 2.19.1 py36_0 anaconda/pkgs/main
## 添加一个channel, 测试完这个,我就把这个channel从~/.condarc里删除了
$ conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/conda-forge/
$ conda search requests
Loading channels: done
# Name Version Build Channel
requests 2.9.2 py27_0 conda-forge
requests 2.9.2 py34_0 conda-forge
......
requests 2.18.4 py27hc5b0589_1 anaconda/pkgs/main
requests 2.18.4 py35_0 conda-forge
requests 2.18.4 py35_1 conda-forge
requests 2.18.4 py35hb9e6ad1_1 anaconda/pkgs/main
requests 2.18.4 py36_0 conda-forge
requests 2.18.4 py36_1 conda-forge
requests 2.18.4 py36he2e5f8d_1 anaconda/pkgs/main
所以因此,我们容易想到,不要随意的添加channel, 因为添加的越多。conda需要查询的channel 就越多,导致
速度变慢。添加镜像时,添加几个速度快的,核心的,包含常用的软件的安装的channel。就行了。
指定channel
除了添加channel 外,我们也可以在命令行指定某个channel。
$ conda search r-rsqlite
Loading channels: done
# Name Version Build Channel
r-rsqlite 1.0.0 r3.1.3_0 anaconda/pkgs/r
r-rsqlite 1.0.0 r3.1.3_0a anaconda/pkgs/r
r-rsqlite 1.0.0 r3.2.0_1 anaconda/pkgs/r
r-rsqlite 1.0.0 r3.2.0_1a anaconda/pkgs/r
$ conda search r-rsqlite -c conda-forge
Loading channels: done
# Name Version Build Channel
r-rsqlite 1.0.0 r3.1.3_0 anaconda/pkgs/r
r-rsqlite 1.0.0 r3.1.3_0a anaconda/pkgs/r
....
r-rsqlite 1.0.0 r3.3.1_2 anaconda/pkgs/r
r-rsqlite 1.1_1 r3.3.1_0 anaconda/pkgs/r
r-rsqlite 1.1_1 r3.3.2_0 anaconda/pkgs/r
r-rsqlite 1.1_2 r3.3.2_0 conda-forge
r-rsqlite 1.1_2 r3.4.1_0 conda-forge
$ conda search r-rsqlite -c conda-forge --override-channels
Loading channels: done
# Name Version Build Channel
r-rsqlite 1.1_2 r3.3.2_0 conda-forge
r-rsqlite 1.1_2 r3.4.1_0 conda-forge
r-rsqlite 2.0 r3.3.2_0 conda-forge
r-rsqlite 2.0 r3.4.1_0 conda-forge
r-rsqlite 2.0 r341hfc679d8_1 conda-forge
r-rsqlite 2.1.1 r341h9d2a408_0 conda-forge
-c/--channel
是添加额外查询软件的channel, 并不是指定查询channel。 若要指定为查询channel 可以再添加个参数--override-channels
设置channel 优先级
不同的通道可能有相同的包, 而conda 需要解决不同通道相同包的冲突问题。所以conda 查询channel 时有个优先级的概念。
$ conda config --describe channel_priority
# # channel_priority (ChannelPriority)
# # Accepts values of 'strict', 'flexible', and 'disabled'. The default
# # value is 'flexible'. With strict channel priority, packages in lower
# # priority channels are not considered if a package with the same name
# # appears in a higher priority channel. With flexible channel priority,
# # the solver may reach into lower priority channels to fulfill
# # dependencies, rather than raising an unsatisfiable error. With channel
# # priority disabled, package version takes precedence, and the
# # configured priority of channels is used only to break ties. In
# # previous versions of conda, this parameter was configured as either
# # True or False. True is now an alias to 'flexible'.
# #
# channel_priority: flexible
设置channel priority 为 strict
, 对于相同软件名,只会考虑最高优先级的channel。Conda 4.6.0 开始有了strict 特性。strict 的通道优先级可以显着加快 conda 操作并减少包不兼容问题。 官方建议将其作为默认设置。但是,它可能会破坏旧的环境文件。所以可能在Conda 5.0 时, 官方可能计划将其设置为 conda 的默认设置。
现在的话, 对于才开始用conda 的同学来说,可以考虑设为strict
$ conda config --set channel_priority strict
使用Mamba
Mamba 使用C++对conda 的重实现:
- 支持并行下载,对包文件多线程处理
- 用libsolv 来更快的解决软件依赖关系
- C++ 实现软件核心功能,来获取更大效率
mamba 用法和conda 一样。除了 激活/退出环境,需要用 conda 外。其余一样。
mamba 安装
$ conda install mamba -n base -c conda-forge
其他
指定软件版本
在安装软件时,指定版本号安装。
$ conda install bedtools=2.30.0 -c bioconda
新环境安装软件
创建一个新的环境,来安装软件。
参考
https://zh.wikipedia.org/wiki/Anaconda_(Python%E5%8F%91%E8%A1%8C%E7%89%88)#cite_note-2
https://docs.conda.io/projects/conda/en/latest/
https://www.jianshu.com/p/edaa744ea47d
https://www.anaconda.com/blog/understanding-and-improving-condas-performance