摘要：
用命令即可： python3 -m torch.distributed.launch --master_port 10001 --nproc_per_node 8 train.py 其中设置master_port是为了避免端口已被其他进程占用而报错，若报错可设置一个新端口号为master_port 阅读全文
摘要：
transformers API参考链接：https://huggingface.co/docs/transformers/v4.21.2/en/training train.py from datasets import load_dataset from transformers import 阅读全文